mirror of
https://github.com/shadow1ng/fscan.git
synced 2026-09-22 03:10:42 +08:00
* feat: v2.1.0 核心重构与功能增强
## 架构重构
- 全局变量消除,迁移至 Config/State 对象
- SMB 插件融合(smb/smb2/smbghost/smbinfo)
- 服务探测重构,实现 Nmap 风格 fallback 机制
- 输出系统重构,TXT 实时刷盘 + 双写机制
- i18n 框架升级至 go-i18n
## 性能优化
- 正则表达式预编译
- 内存优化 map[string]struct{}
- 并发指纹匹配
- SOCKS5 连接复用
- 滑动窗口调度 + 自适应线程池
## 新功能
- Web 管理界面
- 多格式 POC 适配(xray/afrog)
- 增强指纹库(3139条)
- Favicon hash 指纹识别
- 插件选择性编译(Build Tags)
- fscan-lab 靶场环境
- 默认端口扩展(62→133)
## 构建系统
- 添加 no_local tag 支持排除本地插件
- 多版本构建:fscan/fscan-nolocal/fscan-web
- CI 添加 snapshot 模式支持仅测试构建
## Bug 修复
- 修复 120+ 个问题,包括 RDP panic、批量扫描漏报、
JSON 输出格式、Redis 检测、Context 超时等
## 测试增强
- 单元测试覆盖率 74-100%
- 并发安全测试
- 集成测试(Web/端口/服务/SSH/ICMP)
* fix(ci): 移除 PR 对 Project 自动化的触发
* fix: Elasticsearch未授权检测优先于爆破 (#554)
* fix: 修复RDP爆破高误报率问题 (#555)
- 移除 screen.go 中错误的认证结果覆盖逻辑
- 启用 NLA 协议的 ErrorCode 字段检测
- 添加 PubKeyAuth 验证确保认证真正成功
- 修复 io.go 中错误被静默忽略的问题
- 修复 socket.go/io.go 中可能导致 panic 的代码
- 修复 screen.go 中文件句柄泄漏和 log.Panic
* fix: 修复-user/-pwd凭据参数不生效的问题
问题原因:
- Parse()解析凭据后更新globalConfig
- 但BuildConfigFromFlags()创建新Config时使用默认字典
- 导致解析的UserPassPairs等凭据信息被丢弃
修复内容:
1. initialize.go: 将Parse解析的凭据结果应用到新Config
2. credential.go: 单用户密码对时创建UserPassPairs
3. rdp.go: 单凭据测试时跳过指纹识别,减少连接次数
* feat: RDP使用NLA仅验证模式,避免挤掉已登录用户
- 添加ErrNLAAuthSuccess标志用于NLA验证成功信号
- tpkt层支持nlaAuthOnly模式,验证成功后不建立完整会话
- x224层正确传播NLA验证结果
- rdpCrack改用NlaAuth进行凭据验证
* fix: 修复进度条在Windows终端满屏重复输出的问题
- 添加终端宽度检测,动态调整进度条长度
- 使用空格覆盖清除旧内容,避免残留
- 简化进度条格式,确保不超过终端宽度
* feat: 优化日志颜色方案,区分漏洞和普通信息
- 新增 LogVuln 级别(红色),用于漏洞和重要发现
- 密码爆破成功、未授权访问、POC漏洞等改用红色显示
- 普通信息(扫描统计等)改为白色
- Web指纹保持绿色
* refactor: 精简化输出,移除冗余启动信息
- 移除showParseSummary开局配置输出
- 移除LogPluginInfo/LogPluginInfoWithPort插件信息输出
- 移除alive_scanner冗余统计输出
- 移除port_scan_start扫描开始提示
- 移除handleUDPPorts SNMP死代码
- 移除相关i18n条目
* chore: 版本号更新为2.1.1
* fix: 降级依赖版本以保持Go 1.20兼容性
* feat(ldap): 添加NTLM Hash认证支持 (#433)
* chore: 清理无用的 replace 指令
* fix(ping): 修复 TTL expired 导致主机误判为存活的问题
在 ExecCommandPing 中增加错误关键词检测,当 ping 输出包含
TTL expired、Destination unreachable 等错误信息时,不再将
目标主机标记为存活。
Fixes #454
* fix(proxy): 修复透明代理导致输出全端口的问题
在代理初始化时主动探测代理行为,通过连接 RFC 5737 保留的
测试地址来检测是否存在"全回显"问题。如果探测到代理不可靠,
则在端口扫描时跳过所有端口,避免误报。
- 新增 proxyReliable 标志位标记代理可靠性
- 新增 ProbeProxyBehavior 函数探测代理行为
- 端口扫描前检查代理可靠性并输出警告
Fixes #495
* refactor: 移动debug模块到common/debug子包
* fix(web): 修复-u模式下Web插件未执行的问题
* fix: 优化输出格式和颜色显示
- 网段统计格式改为 10.253.0.0/16 网段存活: 26
- WebTitle基础信息改为白色,指纹识别单独绿色输出
- 移除重复的端口数量输出
* fix: URL解析自动补全协议头
-uf 文件中 192.168.1.1:8080 自动转为 http://192.168.1.1:8080
* fix: 修复-u/-uf模式下URLs丢失导致0目标扫描的问题
Parse阶段将URLs设置到全局状态,但Initialize随后创建新状态
并覆盖了全局状态,导致URLs数据丢失。现在在创建新状态前
先保存并迁移Parse阶段设置的URLs和HostPorts数据。
* fix: 智能检测HTTP/HTTPS协议并优化URL显示
- 修复-u/-uf模式URLs丢失导致0目标扫描问题
- detectProtocol改为主动TLS握手检测,不依赖服务名
- WebTitle输出显示完整协议(http/https)
- 隐藏标准端口(80/443)使输出更简洁
* refactor: 精简parsers包,统一配置构建入口
- 删除冗余的中间层(XXXInput、XXXParser类)
- 新增 config_builder.go 统一配置构建
- parsers包从3000+行精简至~540行
- 保留核心函数:ParseIP、ParsePort、文件读取、凭据解析
* test: 扩展parsers单元测试覆盖边缘情况
- 新增内网简写解析测试(192/172/10)
- 新增完整IP范围和无效CIDR测试
- 新增Windows行尾(CRLF)处理测试
- 新增凭据和哈希文件解析测试
- 新增端口解析边缘情况测试
- 测试覆盖率达到94.2%
* refactor: 优化控制台输出格式
- 去掉时间戳,保留[*][+]前缀
- Web输出合并WebTitle和WebFinger为一行
- 有指纹显示绿色[+],无指纹显示白色[*]
- 格式: code:xxx len:xxx title:xxx server:xxx [指纹]
- 服务探测格式: [Product:xxx ||Version:xxx] Banner:(xxx)
- 字段对齐,输出更清爽
* feat: 添加凭据测试未发现弱密码的提示
- credential_tester.go: 失败时设置 Type=ResultTypeCredential
- scanner.go: 根据结果类型在 error 级别输出'未发现弱密码'提示
- 新增 i18n 翻译 brute_no_weak_pass
使用 -log all 或 -log error 可看到此提示
* refactor(logging): 重构日志级别为层级过滤设计
- LogLevel 从 string 改为 int 类型,支持层级比较
- 层级设计:Debug(0) < Base(1) < Info(2) < Success(3) < Vuln(4) < Error(5)
- 设置一个级别后,显示该级别及以上的日志
- Error 级别始终显示,不会被配置过滤掉
- 保留向后兼容别名(LevelAll, LevelInfoSuccess 等)
- 更新测试以匹配新的层级过滤行为
* style(logging): Error级别日志改为黄色显示
* style(findnet): NetInfo输出改为每行一个IP
* refactor(ms17010): 优化错误提示,明确指出SMBv1不支持等情况
* fix(credential): 修复凭据测试结果不一致的问题
问题原因:
1. 未知错误类型不重试,导致服务端限流时跳过正确密码
2. SSH 错误分类不够准确,某些临时错误未被识别
修复内容:
1. 未知错误改为可重试(可能是临时问题)
2. 增加 SSH 特有的网络错误识别(handshake failed, disconnect 等)
* fix(portfinger): 修复SMB2服务指纹识别和NetInfo输出问题
- 添加SMB2ProgNeg探针支持现代Windows的SMB2协议
- 修复Go regexp对高位字节的UTF-8兼容问题,使用Latin-1转换
- 修复探针失败后连接重建逻辑
- 修复vendor_product字段名不匹配问题
- 修复NetInfo多行输出被其他日志打断的问题
* fix(config): 从默认端口移除9100,避免触发打印机打印 (#517)
* feat(proxy): 增强代理端口扫描的深度验证机制
- 新增4阶段深度验证:Banner读取→探测发送→响应等待→最终判定
- 新增SOCKS5错误码和代理错误文本检测
- 优化ProbeProxyBehavior探测逻辑,发送数据验证连接可达性
- 解决透明代理/全回显代理导致的假阳性问题
* fix(proxy): 修复代理深度验证的若干问题
- detector.go: 修复 AutoConfigureProxy 覆盖探测结果的问题
只有未探测过时才设置默认 proxyReliable 值
- port_scan.go: 改进深度验证机制
- 使用带 Host header 的 HTTP GET 请求替代 OPTIONS
- 延长响应等待超时至 2s 以适配慢速服务器
- 正确重置连接 deadline 避免影响后续操作
* refactor: 统一 common 包文件命名风格
Flag.go -> flag.go
* refactor(proxy): 删除自定义 contains() 函数,改用标准库
- 用 strings.Contains() 替代手写的 contains()
- 删除过时的注释
* fix(parsers): 修复带横杠域名被误识别为IP范围的问题
如 111-555.sss.com 这类域名因包含 - 被错误解析为 IP 范围,
添加 looksLikeIPRange() 检查,只有 - 前是有效 IP 才走范围解析
* fix(proxy): 修复代理模式下服务识别错误和端口漏扫问题
- port_scan.go: 验证通过后重建干净连接,避免HTTP GET探测污染服务识别
- port_scan.go: 优化验证策略,用轻量CRLF探测替代HTTP GET,超时从2.2s降至0.6s
- manager.go: 修正ProbeProxyBehavior判断逻辑,超时应视为代理正常转发
* fix(pool): 移除线程池预分配,优化大规模扫描内存占用
WithPreAlloc(true) 会预先创建所有 worker goroutine,
在大规模扫描(如 25域名×65535端口)时可能导致内存问题
* refactor(logging): 统一日志前缀,删除废弃的 LogBase
- 删除 LogBase 函数,所有调用迁移到 LogInfo/LogError
- 新增 PrefixDebug ([.]) 前缀,所有日志级别现在都有前缀
- 修复日志输出缩进不一致的问题
- 删除未使用的 PrefixDefault 常量
* perf(icmp): 实现自适应等待算法优化存活检测性能
- 新增 waitAdaptive 函数,监控响应增量实现智能提前结束
- 算法保守原则:最小等待1s + 连续500ms无新响应才提前结束
- 添加100ms检查间隔避免CPU空转
- 保留原有最大等待时间(3s/6s)作为兜底
- 添加完整单元测试覆盖各种场景
优化效果:
- 全部响应:~100ms (原3s)
- 无响应:~1s (原3s)
- 部分响应后稳定:~1.5s (原3s)
* perf(scan): 实现启发式优化提升扫描体验
1. 端口优先级排序:高价值端口(80,443,22,3389等)优先扫描
- 用户能更快看到有意义的结果
- 不影响端口喷洒策略
2. TCP 补充探测:ICMP 响应率<10%时自动启用
- 对未响应主机用 TCP 80/443/22/445 补充探测
- 解决防火墙过滤 ICMP 导致漏检的问题
* refactor(grdp): 精简RDP库,删除认证检测不需要的代码
- 删除 VNC 协议支持 (protocol/rfb, client/rfb.go)
- 删除完整客户端框架 (client/)
- 删除 RemoteApp 等插件 (plugin/)
- 删除 RLE 图形解压 (core/rle.go)
- 删除绘图指令处理 (pdu/orders.go, pdu/gdi.go)
- 精简 screen.go,移除截图和完整会话功能
- 移除未使用的 RGB 转换函数
grdp 代码从 13,044 行精简至 7,581 行,削减 42%
* refactor(common): 删除死代码,优化代码风格
- 删除未使用的 joinStrings/joinInts 函数
- 删除未使用的 memStats 字段和 getMemoryInfo 方法
- 简化 parsePasswords 中的循环为 append(...) 形式
* refactor(services): 统一数据库插件的DBWrapper
4个数据库插件(MySQL、PostgreSQL、MSSQL、Oracle)都有相同的sql.DB包装代码,
合并为通用的SQLDBWrapper,减少重复。
* refactor(core,grdp): 删除未使用的死代码
- 移除 BaseScanStrategy.LogPluginInfoWithPort 方法(无调用者)
- 移除 mcs.go 中被注释的旧 connect 函数实现
* refactor: 删除 deadcode 检测出的未使用函数
- proxy/detector.go: 删除 IsSOCKS5Standard, IsProxyInitialized
- findnet.go: 删除 NetworkInfo.OneLine, TreeFormat 方法
- port_scan.go: 删除 estimateScanTime 函数
- web_scanner.go: 删除 GetFingerprints 函数
- 清理相关测试代码
* refactor: 删除更多未使用的死代码
- parse.go: 删除 RemoveDuplicate 函数及其测试
- parsers.go: 删除 excludeHosts, removeDuplicates 别名函数
- 更新测试使用真正的函数名
* fix(test): 修复 TestParseIP_InvalidIPRange 测试用例
- 删除不合理的测试用例(无效IP被当作普通主机名处理是设计行为)
- 修复测试逻辑,只在真正通过时输出"正确"
* fix(scan): 移除域名预解析,保留原始域名进行扫描
域名预解析会将域名转换为IP,导致虚拟主机场景下HTTP访问失败
(Host头变成IP而非域名,无法正确路由)
* fix(scan): 修复 -hf 参数无法单独使用的问题
* fix(proxy): 修复透明代理环境下 SOCKS5 代理全端口误报问题
问题:在透明代理(TUN模式)环境下使用 SOCKS5 代理扫描时,
会出现全端口开放的误报,因为代理可靠性检测被透明代理污染。
修复方案(参考 fscanx):
1. 将探针从 CRLF 改为 HTTP GET,更有效检测真实连接状态
2. 删除 "uncertain" 状态,无响应一律判定为端口关闭
3. 调整超时时间以适应代理链路延迟
Fixes #524
* feat(telnet): 新增 telnetd RCE 命令执行验证,修复未授权访问日志级别
* fix: 修复 i18n.Tr vet 报错、Unicode 测试用例,移除过期域名
- 移除 i18n.Tr 中错误的 fmt.Sprintf fallback,消除 go vet 误报
- 修复 match_engine_test Unicode 测试用例与 Latin-1 转换逻辑不匹配
- README 移除过期的 fscan.club 域名
- 添加 .gitattributes 统一换行符为 LF
* refactor: 统一控制台输出风格,使用统一的日志函数
手动合并 PR #558 的改动,适配重构后的代码路径
* fix(ci): 修复版本注入和CI触发配置
- goreleaser ldflags 指向正确的包路径 common.version/commit/date
- version 改为 var 支持 ldflags 注入,banner 显示 commit 和构建日期
- test-build 触发分支增加 dev-* 通配
* fix(ci): 修复 Windows 产物 .exe.exe 双后缀问题
* feat(ci): 扩展构建架构支持 MIPS/ARM/FreeBSD/Solaris
650 lines
18 KiB
Go
650 lines
18 KiB
Go
package core
|
||
|
||
import (
|
||
"fmt"
|
||
"net"
|
||
"strings"
|
||
"sync"
|
||
"sync/atomic"
|
||
"time"
|
||
|
||
"github.com/shadow1ng/fscan/common"
|
||
"github.com/shadow1ng/fscan/common/i18n"
|
||
"github.com/shadow1ng/fscan/common/output"
|
||
"github.com/shadow1ng/fscan/common/parsers"
|
||
)
|
||
|
||
// proxyFailurePatterns 代理连接失败的错误模式(小写)
|
||
var proxyFailurePatterns = []string{
|
||
"connection reset by peer",
|
||
"connection refused",
|
||
"no route to host",
|
||
"network is unreachable",
|
||
"host is unreachable",
|
||
"general socks server failure",
|
||
"connection not allowed",
|
||
"host unreachable",
|
||
"network unreachable",
|
||
"connection refused by destination host",
|
||
}
|
||
|
||
// resourceExhaustedPatterns 资源耗尽类错误模式
|
||
var resourceExhaustedPatterns = []string{
|
||
"too many open files",
|
||
"no buffer space available",
|
||
"cannot assign requested address",
|
||
"connection reset by peer",
|
||
"发包受限",
|
||
}
|
||
|
||
// resultCollector 结果收集器,用于并发安全地收集扫描结果
|
||
// 使用 map 实现:O(1) 的添加和删除,无顺序依赖问题
|
||
type resultCollector struct {
|
||
mu sync.Mutex
|
||
addrs map[string]struct{}
|
||
}
|
||
|
||
// newResultCollector 创建结果收集器
|
||
func newResultCollector() *resultCollector {
|
||
return &resultCollector{
|
||
addrs: make(map[string]struct{}),
|
||
}
|
||
}
|
||
|
||
// Add 添加一个扫描结果
|
||
func (c *resultCollector) Add(addr string) {
|
||
c.mu.Lock()
|
||
c.addrs[addr] = struct{}{}
|
||
c.mu.Unlock()
|
||
}
|
||
|
||
// GetAll 获取所有结果
|
||
func (c *resultCollector) GetAll() []string {
|
||
c.mu.Lock()
|
||
result := make([]string, 0, len(c.addrs))
|
||
for addr := range c.addrs {
|
||
result = append(result, addr)
|
||
}
|
||
c.mu.Unlock()
|
||
return result
|
||
}
|
||
|
||
// portScanTask 端口扫描任务(轻量级,用于滑动窗口调度)
|
||
type portScanTask struct {
|
||
host string
|
||
port int
|
||
semaphore chan struct{} // 完成时释放窗口槽位
|
||
}
|
||
|
||
// failedPortInfo 失败端口信息
|
||
type failedPortInfo struct {
|
||
Host string
|
||
Port int
|
||
Addr string
|
||
}
|
||
|
||
// failedPortCollector 失败端口收集器,用于记录需要重扫的端口
|
||
type failedPortCollector struct {
|
||
mu sync.Mutex
|
||
ports []failedPortInfo
|
||
}
|
||
|
||
// Add 添加失败的端口
|
||
func (f *failedPortCollector) Add(host string, port int, addr string) {
|
||
f.mu.Lock()
|
||
f.ports = append(f.ports, failedPortInfo{
|
||
Host: host,
|
||
Port: port,
|
||
Addr: addr,
|
||
})
|
||
f.mu.Unlock()
|
||
}
|
||
|
||
// Count 获取失败端口数量
|
||
func (f *failedPortCollector) Count() int {
|
||
f.mu.Lock()
|
||
count := len(f.ports)
|
||
f.mu.Unlock()
|
||
return count
|
||
}
|
||
|
||
// EnhancedPortScan 高性能端口扫描函数
|
||
// 使用滑动窗口调度 + 自适应线程池 + 流式迭代器
|
||
func EnhancedPortScan(hosts []string, ports string, timeout int64, config *common.Config, state *common.State) []string {
|
||
common.LogDebug(fmt.Sprintf("[PortScan] 开始: %d个主机, 线程数=%d", len(hosts), config.ThreadNum))
|
||
|
||
// 解析端口和排除端口
|
||
portList := parsers.ParsePort(ports)
|
||
if len(portList) == 0 {
|
||
common.LogError(i18n.Tr("invalid_port", ports))
|
||
return nil
|
||
}
|
||
common.LogDebug(fmt.Sprintf("[PortScan] 端口解析完成: %d个端口", len(portList)))
|
||
|
||
// 使用config中的排除端口配置
|
||
excludePorts := parsers.ParsePort(config.Target.ExcludePorts)
|
||
exclude := make(map[int]struct{}, len(excludePorts))
|
||
for _, p := range excludePorts {
|
||
exclude[p] = struct{}{}
|
||
}
|
||
|
||
// 检查代理可靠性,如果存在全回显问题则警告
|
||
if common.IsProxyEnabled() && !common.IsProxyReliable() {
|
||
common.LogError("检测到代理存在全回显问题,端口扫描结果可能不准确")
|
||
}
|
||
|
||
// 创建流式迭代器(O(1) 内存,端口喷洒策略)
|
||
iter := NewSocketIterator(hosts, portList, exclude)
|
||
totalTasks := iter.Total()
|
||
common.LogDebug(fmt.Sprintf("[PortScan] 总任务数: %d", totalTasks))
|
||
|
||
// 使用传入的配置
|
||
threadNum := config.ThreadNum
|
||
|
||
// 大规模扫描警告和线程数自动调整
|
||
if totalTasks > 100000 {
|
||
common.LogInfo(fmt.Sprintf("大规模扫描: %d 个目标 (%d主机 × %d端口)", totalTasks, len(hosts), len(portList)))
|
||
// 如果任务数超过100万且线程数大于300,自动降低线程数
|
||
if totalTasks > 1000000 && threadNum > 300 {
|
||
oldThreadNum := threadNum
|
||
threadNum = 300
|
||
common.LogInfo(fmt.Sprintf("自动调整线程数: %d -> %d (大规模扫描优化)", oldThreadNum, threadNum))
|
||
}
|
||
}
|
||
|
||
// 初始化端口扫描进度条
|
||
if totalTasks > 0 && config.Output.ShowProgress {
|
||
description := fmt.Sprintf("端口扫描中(%d线程)", threadNum)
|
||
common.InitProgressBar(int64(totalTasks), description)
|
||
}
|
||
common.LogDebug("[PortScan] 进度条初始化完成")
|
||
|
||
// 初始化并发控制
|
||
to := time.Duration(timeout) * time.Second
|
||
var count int64
|
||
collector := newResultCollector()
|
||
failedCollector := &failedPortCollector{}
|
||
var wg sync.WaitGroup
|
||
|
||
common.LogDebug(fmt.Sprintf("[PortScan] 开始创建线程池, size=%d", threadNum))
|
||
// 创建自适应线程池(支持动态调整)
|
||
pool, err := NewAdaptivePool(threadNum, func(task interface{}) {
|
||
taskInfo, ok := task.(portScanTask)
|
||
if !ok {
|
||
return
|
||
}
|
||
defer func() {
|
||
<-taskInfo.semaphore // 释放窗口槽位
|
||
wg.Done()
|
||
}()
|
||
|
||
addr := fmt.Sprintf("%s:%d", taskInfo.host, taskInfo.port)
|
||
scanSinglePort(taskInfo.host, taskInfo.port, addr, to, &count, collector, failedCollector, config, state)
|
||
common.UpdateProgressBar(1)
|
||
}, state)
|
||
if err != nil {
|
||
common.LogError(i18n.Tr("thread_pool_create_failed", err))
|
||
return nil
|
||
}
|
||
common.LogDebug("[PortScan] 线程池创建成功")
|
||
defer pool.Release()
|
||
|
||
common.LogDebug("[PortScan] 开始滑动窗口调度")
|
||
// 滑动窗口调度:维护固定数量的"飞行中"任务
|
||
slidingWindowSchedule(iter, pool, &wg, threadNum)
|
||
common.LogDebug("[PortScan] 滑动窗口调度完成")
|
||
|
||
// 收集结果
|
||
aliveAddrs := collector.GetAll()
|
||
|
||
// 完成端口扫描进度条
|
||
if common.IsProgressActive() {
|
||
common.FinishProgressBar()
|
||
}
|
||
|
||
common.LogInfo(i18n.Tr("port_scan_complete", count))
|
||
|
||
// 检查扫描失败率,如果过高则警告用户
|
||
resourceErrors := state.GetResourceExhaustedCount()
|
||
failedCount := failedCollector.Count()
|
||
|
||
if failedCount > 0 {
|
||
failureRate := float64(failedCount) / float64(totalTasks) * 100
|
||
|
||
if failureRate > 20 {
|
||
// 失败率超过20%,严重警告
|
||
common.LogError(i18n.Tr("scan_failure_rate_high", fmt.Sprintf("%.1f%%", failureRate), failedCount, totalTasks))
|
||
common.LogError(i18n.GetText("scan_failure_reason"))
|
||
common.LogError(i18n.Tr("scan_reduce_threads_suggestion", threadNum))
|
||
} else if failureRate > 5 {
|
||
// 失败率5-20%,一般警告
|
||
common.LogInfo(i18n.Tr("scan_partial_failure", fmt.Sprintf("%.1f%%", failureRate), failedCount, totalTasks))
|
||
common.LogInfo(i18n.Tr("scan_reduce_threads_accuracy", threadNum))
|
||
}
|
||
}
|
||
|
||
if resourceErrors > 0 {
|
||
common.LogError(i18n.Tr("resource_exhausted_warning", resourceErrors))
|
||
}
|
||
|
||
return aliveAddrs
|
||
}
|
||
|
||
// slidingWindowSchedule 滑动窗口调度器
|
||
// 核心思想:维护固定数量的"飞行中"任务,一个完成立即补充新的
|
||
// 优势:避免任务队列堆积,内存使用恒定
|
||
func slidingWindowSchedule(iter *SocketIterator, pool *AdaptivePool, wg *sync.WaitGroup, windowSize int) {
|
||
// 使用信号量控制窗口大小
|
||
semaphore := make(chan struct{}, windowSize)
|
||
|
||
for {
|
||
host, port, ok := iter.Next()
|
||
if !ok {
|
||
break
|
||
}
|
||
|
||
// 获取窗口槽位(阻塞直到有空位)
|
||
semaphore <- struct{}{}
|
||
|
||
wg.Add(1)
|
||
task := portScanTask{
|
||
host: host,
|
||
port: port,
|
||
semaphore: semaphore,
|
||
}
|
||
_ = pool.Invoke(task)
|
||
}
|
||
|
||
// 等待所有任务完成
|
||
wg.Wait()
|
||
}
|
||
|
||
// connectWithRetry 带重试的TCP连接 - 只对资源耗尽错误重试
|
||
func connectWithRetry(addr string, timeout time.Duration, maxRetries int, state *common.State) (net.Conn, error) {
|
||
var lastErr error
|
||
|
||
for attempt := 0; attempt < maxRetries; attempt++ {
|
||
conn, err := common.WrapperTcpWithTimeout("tcp", addr, timeout)
|
||
|
||
if err == nil {
|
||
return conn, nil
|
||
}
|
||
|
||
lastErr = err
|
||
|
||
// 只对资源耗尽类错误重试,端口关闭直接返回
|
||
if !isResourceExhaustedError(err) {
|
||
return nil, err
|
||
}
|
||
|
||
// 记录资源耗尽错误
|
||
state.IncrementResourceExhaustedCount()
|
||
|
||
// 指数退避:第1次等50ms,第2次等150ms
|
||
if attempt < maxRetries-1 {
|
||
waitTime := time.Duration(50*(attempt+1)) * time.Millisecond
|
||
time.Sleep(waitTime)
|
||
}
|
||
}
|
||
|
||
return nil, lastErr
|
||
}
|
||
|
||
// isResourceExhaustedError 判断是否为资源耗尽类错误
|
||
func isResourceExhaustedError(err error) bool {
|
||
if err == nil {
|
||
return false
|
||
}
|
||
|
||
errStr := err.Error()
|
||
for _, pattern := range resourceExhaustedPatterns {
|
||
if strings.Contains(errStr, pattern) {
|
||
return true
|
||
}
|
||
}
|
||
|
||
return false
|
||
}
|
||
|
||
// buildServiceLogMessage 构建服务识别的日志信息
|
||
// 格式: addr service [Product:xxx ||Version:xxx] Banner:(xxx)
|
||
func buildServiceLogMessage(addr string, serviceInfo *ServiceInfo, isWeb bool) string {
|
||
var msg strings.Builder
|
||
msg.WriteString(fmt.Sprintf("%-21s", addr))
|
||
|
||
if serviceInfo.Name != "unknown" {
|
||
msg.WriteString(fmt.Sprintf(" %-8s", serviceInfo.Name))
|
||
}
|
||
|
||
// 构建 [Product:xxx ||Version:xxx] 格式
|
||
var info []string
|
||
if product, ok := serviceInfo.Extras["vendor_product"]; ok && product != "" {
|
||
info = append(info, fmt.Sprintf("Product:%s", product))
|
||
}
|
||
if serviceInfo.Version != "" {
|
||
info = append(info, fmt.Sprintf("Version:%s", serviceInfo.Version))
|
||
}
|
||
if len(info) > 0 {
|
||
msg.WriteString(fmt.Sprintf(" [%s]", strings.Join(info, " ||")))
|
||
}
|
||
|
||
// Banner 信息
|
||
if len(serviceInfo.Banner) > 0 {
|
||
banner := strings.TrimSpace(serviceInfo.Banner)
|
||
if len(banner) > 80 {
|
||
banner = banner[:80] + "..."
|
||
}
|
||
msg.WriteString(fmt.Sprintf(" Banner:(%s)", banner))
|
||
}
|
||
|
||
return msg.String()
|
||
}
|
||
|
||
// scanSinglePort 扫描单个端口并进行服务识别(重构后的简洁版本)
|
||
func scanSinglePort(host string, port int, addr string, timeout time.Duration, count *int64, collector *resultCollector, failedCollector *failedPortCollector, config *common.Config, state *common.State) {
|
||
// 步骤1:建立连接
|
||
conn, err := connectWithRetry(addr, timeout, 3, state)
|
||
if err != nil {
|
||
handleConnectionFailure(err, host, port, addr, failedCollector)
|
||
return
|
||
}
|
||
|
||
// 步骤1.5:代理连接深度验证(防止透明代理/全回显代理的假连接问题)
|
||
valid, verifyMethod := verifyProxyConnectionDeep(conn, addr)
|
||
if !valid {
|
||
common.LogDebug(fmt.Sprintf("代理验证失败 %s: %s", addr, verifyMethod))
|
||
_ = conn.Close()
|
||
return
|
||
}
|
||
|
||
// 步骤1.6:如果使用了代理且进行了数据交互,需要重建连接
|
||
// 因为验证阶段可能读取了Banner或发送了HTTP GET探测,污染了连接状态
|
||
if common.IsProxyEnabled() && verifyMethod != "direct" {
|
||
_ = conn.Close()
|
||
// 重新建立干净的连接用于服务识别
|
||
conn, err = connectWithRetry(addr, timeout, 3, state)
|
||
if err != nil {
|
||
handleConnectionFailure(err, host, port, addr, failedCollector)
|
||
return
|
||
}
|
||
}
|
||
|
||
// 步骤2:记录开放端口
|
||
atomic.AddInt64(count, 1)
|
||
collector.Add(addr)
|
||
saveOpenPort(host, port)
|
||
|
||
// 步骤3:服务识别(Scanner负责关闭连接,包括探测中可能创建的新连接)
|
||
scanner := NewSmartPortInfoScanner(host, port, conn, timeout, config)
|
||
defer scanner.Close()
|
||
serviceInfo, _ := scanner.SmartIdentify()
|
||
|
||
// 步骤4:处理结果
|
||
processServiceResult(host, port, addr, serviceInfo, config)
|
||
}
|
||
|
||
// handleConnectionFailure 处理连接失败
|
||
func handleConnectionFailure(err error, host string, port int, addr string, failedCollector *failedPortCollector) {
|
||
if isResourceExhaustedError(err) || isTimeoutError(err) {
|
||
failedCollector.Add(host, port, addr)
|
||
}
|
||
}
|
||
|
||
// isTimeoutError 判断是否为超时错误
|
||
func isTimeoutError(err error) bool {
|
||
return err != nil && strings.Contains(err.Error(), "i/o timeout")
|
||
}
|
||
|
||
// verifyProxyConnectionDeep 深度验证代理连接是否真正可用
|
||
// 防止透明代理/全回显代理的假连接问题
|
||
// 返回: (是否有效, 验证方式)
|
||
//
|
||
// 优化策略:
|
||
// 1. 快速 Banner 检测 (100ms) - 大部分服务会主动发送数据
|
||
// 2. 轻量探测 (发送 \r\n) - 触发某些服务响应,同时不污染协议状态
|
||
// 3. 短超时等待 (500ms) - 平衡准确性和性能
|
||
func verifyProxyConnectionDeep(conn net.Conn, addr string) (bool, string) {
|
||
// 如果没有使用代理,跳过验证
|
||
if !common.IsProxyEnabled() {
|
||
return true, "direct"
|
||
}
|
||
|
||
buf := make([]byte, 256)
|
||
|
||
// 阶段1: 读取 Banner (500ms)
|
||
// 大部分服务(SSH、FTP、SMTP、MySQL等)会主动发送欢迎消息
|
||
// 不能等太久,否则代理可能因空闲而关闭连接
|
||
_ = conn.SetReadDeadline(time.Now().Add(500 * time.Millisecond))
|
||
n, _ := conn.Read(buf)
|
||
_ = conn.SetReadDeadline(time.Time{})
|
||
|
||
if n > 0 {
|
||
if isProxyErrorResponse(buf[:n]) {
|
||
common.LogDebug(fmt.Sprintf("代理返回错误响应 %s", addr))
|
||
return false, "proxy_error"
|
||
}
|
||
return true, "banner"
|
||
}
|
||
|
||
// 阶段2: HTTP 探针探测(参考 fscanx)
|
||
// 使用 HTTP GET 而非 CRLF,因为:
|
||
// - 大部分服务会对 HTTP 请求有明确响应(即使是错误响应)
|
||
// - 在透明代理环境下能更有效地检测真实连接状态
|
||
// - 即使是非 HTTP 服务也会返回某种响应或关闭连接
|
||
httpProbe := []byte("GET / HTTP/1.0\r\n\r\n")
|
||
_ = conn.SetWriteDeadline(time.Now().Add(100 * time.Millisecond))
|
||
_, writeErr := conn.Write(httpProbe)
|
||
_ = conn.SetWriteDeadline(time.Time{})
|
||
|
||
if writeErr != nil && isConnectionClosed(writeErr) {
|
||
common.LogDebug(fmt.Sprintf("探测写入失败 %s: %v", addr, writeErr))
|
||
return false, "write_failed"
|
||
}
|
||
|
||
// 阶段3: 等待探测响应 (2s)
|
||
// TUN 模式下代理链路延迟较大,需要更长超时
|
||
_ = conn.SetReadDeadline(time.Now().Add(2 * time.Second))
|
||
n, readErr := conn.Read(buf)
|
||
_ = conn.SetReadDeadline(time.Time{})
|
||
|
||
if n > 0 {
|
||
if isProxyErrorResponse(buf[:n]) {
|
||
common.LogDebug(fmt.Sprintf("代理探测返回错误 %s", addr))
|
||
return false, "proxy_error"
|
||
}
|
||
return true, "probe"
|
||
}
|
||
|
||
// 阶段4: 最终判断
|
||
if readErr != nil {
|
||
errLower := strings.ToLower(readErr.Error())
|
||
for _, pattern := range proxyFailurePatterns {
|
||
if strings.Contains(errLower, pattern) {
|
||
common.LogDebug(fmt.Sprintf("代理连接被拒绝 %s: %v", addr, readErr))
|
||
return false, "proxy_reject"
|
||
}
|
||
}
|
||
}
|
||
|
||
// 无响应 = 端口关闭(参考 fscanx 方案)
|
||
// 在透明代理环境下,ProxyReliable 检测可能被污染,不可信
|
||
// 因此采用更保守的策略:无响应一律判定为关闭
|
||
// 这样可以避免透明代理导致的全端口误报问题
|
||
common.LogDebug(fmt.Sprintf("代理连接无响应,判定为端口关闭 %s", addr))
|
||
return false, "no_response"
|
||
}
|
||
|
||
// isProxyErrorResponse 检查是否为代理错误响应
|
||
// 支持 SOCKS5 错误码和常见代理错误模式
|
||
func isProxyErrorResponse(data []byte) bool {
|
||
if len(data) == 0 {
|
||
return false
|
||
}
|
||
|
||
// SOCKS5 错误响应检查
|
||
// SOCKS5 响应格式: [VER][REP][RSV][ATYP]...
|
||
// REP 字段: 0x00=成功, 0x01-0x08=各种失败
|
||
if len(data) >= 2 && data[0] == 0x05 {
|
||
rep := data[1]
|
||
if rep >= 0x01 && rep <= 0x08 {
|
||
return true
|
||
}
|
||
}
|
||
|
||
// 检查常见的代理错误文本
|
||
dataStr := strings.ToLower(string(data))
|
||
proxyErrorTexts := []string{
|
||
"connection refused",
|
||
"host unreachable",
|
||
"network unreachable",
|
||
"connection timed out",
|
||
"proxy error",
|
||
"gateway error",
|
||
"bad gateway",
|
||
"502",
|
||
"503",
|
||
}
|
||
|
||
for _, errText := range proxyErrorTexts {
|
||
if strings.Contains(dataStr, errText) {
|
||
return true
|
||
}
|
||
}
|
||
|
||
return false
|
||
}
|
||
|
||
// isConnectionClosed 检查错误是否表示连接已关闭
|
||
func isConnectionClosed(err error) bool {
|
||
if err == nil {
|
||
return false
|
||
}
|
||
|
||
errStr := strings.ToLower(err.Error())
|
||
closedPatterns := []string{
|
||
"broken pipe",
|
||
"connection reset",
|
||
"connection refused",
|
||
"use of closed network connection",
|
||
"connection was forcibly closed",
|
||
}
|
||
|
||
for _, pattern := range closedPatterns {
|
||
if strings.Contains(errStr, pattern) {
|
||
return true
|
||
}
|
||
}
|
||
|
||
return false
|
||
}
|
||
|
||
// saveOpenPort 保存开放端口结果
|
||
func saveOpenPort(host string, port int) {
|
||
_ = common.SaveResult(&output.ScanResult{
|
||
Time: time.Now(),
|
||
Type: output.TypePort,
|
||
Target: host,
|
||
Status: "open",
|
||
Details: map[string]interface{}{"port": port},
|
||
})
|
||
}
|
||
|
||
// processServiceResult 处理服务识别结果
|
||
func processServiceResult(host string, port int, addr string, serviceInfo *ServiceInfo, config *common.Config) {
|
||
if serviceInfo == nil {
|
||
// 服务识别失败,尝试 HTTP 回退探测
|
||
if !tryHTTPFallbackDetection(host, port, addr, config) {
|
||
common.LogInfo(i18n.Tr("port_open", addr))
|
||
}
|
||
return
|
||
}
|
||
|
||
// 保存并输出服务信息
|
||
details := buildServiceDetails(port, serviceInfo)
|
||
isWeb := IsWebServiceByFingerprint(serviceInfo)
|
||
|
||
if isWeb {
|
||
details["is_web"] = true
|
||
MarkAsWebService(host, port, serviceInfo)
|
||
}
|
||
|
||
_ = common.SaveResult(&output.ScanResult{
|
||
Time: time.Now(),
|
||
Type: output.TypeService,
|
||
Target: fmt.Sprintf("%s:%d", host, port),
|
||
Status: "identified",
|
||
Details: details,
|
||
})
|
||
|
||
common.LogInfo(buildServiceLogMessage(addr, serviceInfo, isWeb))
|
||
}
|
||
|
||
// buildServiceDetails 构建服务详情 map
|
||
func buildServiceDetails(port int, info *ServiceInfo) map[string]interface{} {
|
||
details := map[string]interface{}{
|
||
"port": port,
|
||
"service": info.Name,
|
||
}
|
||
|
||
if info.Version != "" {
|
||
details["version"] = info.Version
|
||
}
|
||
|
||
extraKeyMap := map[string]string{
|
||
"vendor_product": "product",
|
||
"os": "os",
|
||
"info": "info",
|
||
}
|
||
|
||
for k, v := range info.Extras {
|
||
if v == "" {
|
||
continue
|
||
}
|
||
if mappedKey, ok := extraKeyMap[k]; ok {
|
||
details[mappedKey] = v
|
||
}
|
||
}
|
||
|
||
if len(info.Banner) > 0 {
|
||
details["banner"] = strings.TrimSpace(info.Banner)
|
||
}
|
||
|
||
return details
|
||
}
|
||
|
||
// tryHTTPFallbackDetection 尝试HTTP回退探测,返回是否成功识别为HTTP服务
|
||
func tryHTTPFallbackDetection(host string, port int, addr string, config *common.Config) bool {
|
||
// 使用WebDetection进行HTTP协议探测
|
||
webDetector := GetWebPortDetector()
|
||
if !webDetector.DetectHTTPServiceOnly(host, port, config) {
|
||
return false
|
||
}
|
||
|
||
// HTTP探测成功,标记为Web服务
|
||
webServiceInfo := &ServiceInfo{
|
||
Name: "http",
|
||
Version: "",
|
||
Banner: "",
|
||
Extras: map[string]string{"detected_by": "http_probe"},
|
||
}
|
||
MarkAsWebService(host, port, webServiceInfo)
|
||
|
||
// 保存HTTP服务结果
|
||
details := map[string]interface{}{
|
||
"port": port,
|
||
"service": "http",
|
||
"is_web": true,
|
||
"detected_by": "http_probe",
|
||
}
|
||
_ = common.SaveResult(&output.ScanResult{
|
||
Time: time.Now(),
|
||
Type: output.TypeService,
|
||
Target: fmt.Sprintf("%s:%d", host, port),
|
||
Status: "identified",
|
||
Details: details,
|
||
})
|
||
|
||
common.LogInfo(i18n.Tr("port_open_http", addr))
|
||
return true
|
||
}
|