mirror of
https://github.com/shadow1ng/fscan.git
synced 2026-09-22 03:10:42 +08:00
* feat: v2.1.0 核心重构与功能增强
## 架构重构
- 全局变量消除,迁移至 Config/State 对象
- SMB 插件融合(smb/smb2/smbghost/smbinfo)
- 服务探测重构,实现 Nmap 风格 fallback 机制
- 输出系统重构,TXT 实时刷盘 + 双写机制
- i18n 框架升级至 go-i18n
## 性能优化
- 正则表达式预编译
- 内存优化 map[string]struct{}
- 并发指纹匹配
- SOCKS5 连接复用
- 滑动窗口调度 + 自适应线程池
## 新功能
- Web 管理界面
- 多格式 POC 适配(xray/afrog)
- 增强指纹库(3139条)
- Favicon hash 指纹识别
- 插件选择性编译(Build Tags)
- fscan-lab 靶场环境
- 默认端口扩展(62→133)
## 构建系统
- 添加 no_local tag 支持排除本地插件
- 多版本构建:fscan/fscan-nolocal/fscan-web
- CI 添加 snapshot 模式支持仅测试构建
## Bug 修复
- 修复 120+ 个问题,包括 RDP panic、批量扫描漏报、
JSON 输出格式、Redis 检测、Context 超时等
## 测试增强
- 单元测试覆盖率 74-100%
- 并发安全测试
- 集成测试(Web/端口/服务/SSH/ICMP)
* fix(ci): 移除 PR 对 Project 自动化的触发
* fix: Elasticsearch未授权检测优先于爆破 (#554)
* fix: 修复RDP爆破高误报率问题 (#555)
- 移除 screen.go 中错误的认证结果覆盖逻辑
- 启用 NLA 协议的 ErrorCode 字段检测
- 添加 PubKeyAuth 验证确保认证真正成功
- 修复 io.go 中错误被静默忽略的问题
- 修复 socket.go/io.go 中可能导致 panic 的代码
- 修复 screen.go 中文件句柄泄漏和 log.Panic
* fix: 修复-user/-pwd凭据参数不生效的问题
问题原因:
- Parse()解析凭据后更新globalConfig
- 但BuildConfigFromFlags()创建新Config时使用默认字典
- 导致解析的UserPassPairs等凭据信息被丢弃
修复内容:
1. initialize.go: 将Parse解析的凭据结果应用到新Config
2. credential.go: 单用户密码对时创建UserPassPairs
3. rdp.go: 单凭据测试时跳过指纹识别,减少连接次数
* feat: RDP使用NLA仅验证模式,避免挤掉已登录用户
- 添加ErrNLAAuthSuccess标志用于NLA验证成功信号
- tpkt层支持nlaAuthOnly模式,验证成功后不建立完整会话
- x224层正确传播NLA验证结果
- rdpCrack改用NlaAuth进行凭据验证
* fix: 修复进度条在Windows终端满屏重复输出的问题
- 添加终端宽度检测,动态调整进度条长度
- 使用空格覆盖清除旧内容,避免残留
- 简化进度条格式,确保不超过终端宽度
* feat: 优化日志颜色方案,区分漏洞和普通信息
- 新增 LogVuln 级别(红色),用于漏洞和重要发现
- 密码爆破成功、未授权访问、POC漏洞等改用红色显示
- 普通信息(扫描统计等)改为白色
- Web指纹保持绿色
* refactor: 精简化输出,移除冗余启动信息
- 移除showParseSummary开局配置输出
- 移除LogPluginInfo/LogPluginInfoWithPort插件信息输出
- 移除alive_scanner冗余统计输出
- 移除port_scan_start扫描开始提示
- 移除handleUDPPorts SNMP死代码
- 移除相关i18n条目
* chore: 版本号更新为2.1.1
* fix: 降级依赖版本以保持Go 1.20兼容性
* feat(ldap): 添加NTLM Hash认证支持 (#433)
* chore: 清理无用的 replace 指令
* fix(ping): 修复 TTL expired 导致主机误判为存活的问题
在 ExecCommandPing 中增加错误关键词检测,当 ping 输出包含
TTL expired、Destination unreachable 等错误信息时,不再将
目标主机标记为存活。
Fixes #454
* fix(proxy): 修复透明代理导致输出全端口的问题
在代理初始化时主动探测代理行为,通过连接 RFC 5737 保留的
测试地址来检测是否存在"全回显"问题。如果探测到代理不可靠,
则在端口扫描时跳过所有端口,避免误报。
- 新增 proxyReliable 标志位标记代理可靠性
- 新增 ProbeProxyBehavior 函数探测代理行为
- 端口扫描前检查代理可靠性并输出警告
Fixes #495
* refactor: 移动debug模块到common/debug子包
* fix(web): 修复-u模式下Web插件未执行的问题
* fix: 优化输出格式和颜色显示
- 网段统计格式改为 10.253.0.0/16 网段存活: 26
- WebTitle基础信息改为白色,指纹识别单独绿色输出
- 移除重复的端口数量输出
* fix: URL解析自动补全协议头
-uf 文件中 192.168.1.1:8080 自动转为 http://192.168.1.1:8080
* fix: 修复-u/-uf模式下URLs丢失导致0目标扫描的问题
Parse阶段将URLs设置到全局状态,但Initialize随后创建新状态
并覆盖了全局状态,导致URLs数据丢失。现在在创建新状态前
先保存并迁移Parse阶段设置的URLs和HostPorts数据。
* fix: 智能检测HTTP/HTTPS协议并优化URL显示
- 修复-u/-uf模式URLs丢失导致0目标扫描问题
- detectProtocol改为主动TLS握手检测,不依赖服务名
- WebTitle输出显示完整协议(http/https)
- 隐藏标准端口(80/443)使输出更简洁
* refactor: 精简parsers包,统一配置构建入口
- 删除冗余的中间层(XXXInput、XXXParser类)
- 新增 config_builder.go 统一配置构建
- parsers包从3000+行精简至~540行
- 保留核心函数:ParseIP、ParsePort、文件读取、凭据解析
* test: 扩展parsers单元测试覆盖边缘情况
- 新增内网简写解析测试(192/172/10)
- 新增完整IP范围和无效CIDR测试
- 新增Windows行尾(CRLF)处理测试
- 新增凭据和哈希文件解析测试
- 新增端口解析边缘情况测试
- 测试覆盖率达到94.2%
* refactor: 优化控制台输出格式
- 去掉时间戳,保留[*][+]前缀
- Web输出合并WebTitle和WebFinger为一行
- 有指纹显示绿色[+],无指纹显示白色[*]
- 格式: code:xxx len:xxx title:xxx server:xxx [指纹]
- 服务探测格式: [Product:xxx ||Version:xxx] Banner:(xxx)
- 字段对齐,输出更清爽
* feat: 添加凭据测试未发现弱密码的提示
- credential_tester.go: 失败时设置 Type=ResultTypeCredential
- scanner.go: 根据结果类型在 error 级别输出'未发现弱密码'提示
- 新增 i18n 翻译 brute_no_weak_pass
使用 -log all 或 -log error 可看到此提示
* refactor(logging): 重构日志级别为层级过滤设计
- LogLevel 从 string 改为 int 类型,支持层级比较
- 层级设计:Debug(0) < Base(1) < Info(2) < Success(3) < Vuln(4) < Error(5)
- 设置一个级别后,显示该级别及以上的日志
- Error 级别始终显示,不会被配置过滤掉
- 保留向后兼容别名(LevelAll, LevelInfoSuccess 等)
- 更新测试以匹配新的层级过滤行为
* style(logging): Error级别日志改为黄色显示
* style(findnet): NetInfo输出改为每行一个IP
* refactor(ms17010): 优化错误提示,明确指出SMBv1不支持等情况
* fix(credential): 修复凭据测试结果不一致的问题
问题原因:
1. 未知错误类型不重试,导致服务端限流时跳过正确密码
2. SSH 错误分类不够准确,某些临时错误未被识别
修复内容:
1. 未知错误改为可重试(可能是临时问题)
2. 增加 SSH 特有的网络错误识别(handshake failed, disconnect 等)
* fix(portfinger): 修复SMB2服务指纹识别和NetInfo输出问题
- 添加SMB2ProgNeg探针支持现代Windows的SMB2协议
- 修复Go regexp对高位字节的UTF-8兼容问题,使用Latin-1转换
- 修复探针失败后连接重建逻辑
- 修复vendor_product字段名不匹配问题
- 修复NetInfo多行输出被其他日志打断的问题
* fix(config): 从默认端口移除9100,避免触发打印机打印 (#517)
* feat(proxy): 增强代理端口扫描的深度验证机制
- 新增4阶段深度验证:Banner读取→探测发送→响应等待→最终判定
- 新增SOCKS5错误码和代理错误文本检测
- 优化ProbeProxyBehavior探测逻辑,发送数据验证连接可达性
- 解决透明代理/全回显代理导致的假阳性问题
* fix(proxy): 修复代理深度验证的若干问题
- detector.go: 修复 AutoConfigureProxy 覆盖探测结果的问题
只有未探测过时才设置默认 proxyReliable 值
- port_scan.go: 改进深度验证机制
- 使用带 Host header 的 HTTP GET 请求替代 OPTIONS
- 延长响应等待超时至 2s 以适配慢速服务器
- 正确重置连接 deadline 避免影响后续操作
* refactor: 统一 common 包文件命名风格
Flag.go -> flag.go
* refactor(proxy): 删除自定义 contains() 函数,改用标准库
- 用 strings.Contains() 替代手写的 contains()
- 删除过时的注释
* fix(parsers): 修复带横杠域名被误识别为IP范围的问题
如 111-555.sss.com 这类域名因包含 - 被错误解析为 IP 范围,
添加 looksLikeIPRange() 检查,只有 - 前是有效 IP 才走范围解析
* fix(proxy): 修复代理模式下服务识别错误和端口漏扫问题
- port_scan.go: 验证通过后重建干净连接,避免HTTP GET探测污染服务识别
- port_scan.go: 优化验证策略,用轻量CRLF探测替代HTTP GET,超时从2.2s降至0.6s
- manager.go: 修正ProbeProxyBehavior判断逻辑,超时应视为代理正常转发
* fix(pool): 移除线程池预分配,优化大规模扫描内存占用
WithPreAlloc(true) 会预先创建所有 worker goroutine,
在大规模扫描(如 25域名×65535端口)时可能导致内存问题
* refactor(logging): 统一日志前缀,删除废弃的 LogBase
- 删除 LogBase 函数,所有调用迁移到 LogInfo/LogError
- 新增 PrefixDebug ([.]) 前缀,所有日志级别现在都有前缀
- 修复日志输出缩进不一致的问题
- 删除未使用的 PrefixDefault 常量
* perf(icmp): 实现自适应等待算法优化存活检测性能
- 新增 waitAdaptive 函数,监控响应增量实现智能提前结束
- 算法保守原则:最小等待1s + 连续500ms无新响应才提前结束
- 添加100ms检查间隔避免CPU空转
- 保留原有最大等待时间(3s/6s)作为兜底
- 添加完整单元测试覆盖各种场景
优化效果:
- 全部响应:~100ms (原3s)
- 无响应:~1s (原3s)
- 部分响应后稳定:~1.5s (原3s)
* perf(scan): 实现启发式优化提升扫描体验
1. 端口优先级排序:高价值端口(80,443,22,3389等)优先扫描
- 用户能更快看到有意义的结果
- 不影响端口喷洒策略
2. TCP 补充探测:ICMP 响应率<10%时自动启用
- 对未响应主机用 TCP 80/443/22/445 补充探测
- 解决防火墙过滤 ICMP 导致漏检的问题
* refactor(grdp): 精简RDP库,删除认证检测不需要的代码
- 删除 VNC 协议支持 (protocol/rfb, client/rfb.go)
- 删除完整客户端框架 (client/)
- 删除 RemoteApp 等插件 (plugin/)
- 删除 RLE 图形解压 (core/rle.go)
- 删除绘图指令处理 (pdu/orders.go, pdu/gdi.go)
- 精简 screen.go,移除截图和完整会话功能
- 移除未使用的 RGB 转换函数
grdp 代码从 13,044 行精简至 7,581 行,削减 42%
* refactor(common): 删除死代码,优化代码风格
- 删除未使用的 joinStrings/joinInts 函数
- 删除未使用的 memStats 字段和 getMemoryInfo 方法
- 简化 parsePasswords 中的循环为 append(...) 形式
* refactor(services): 统一数据库插件的DBWrapper
4个数据库插件(MySQL、PostgreSQL、MSSQL、Oracle)都有相同的sql.DB包装代码,
合并为通用的SQLDBWrapper,减少重复。
* refactor(core,grdp): 删除未使用的死代码
- 移除 BaseScanStrategy.LogPluginInfoWithPort 方法(无调用者)
- 移除 mcs.go 中被注释的旧 connect 函数实现
* refactor: 删除 deadcode 检测出的未使用函数
- proxy/detector.go: 删除 IsSOCKS5Standard, IsProxyInitialized
- findnet.go: 删除 NetworkInfo.OneLine, TreeFormat 方法
- port_scan.go: 删除 estimateScanTime 函数
- web_scanner.go: 删除 GetFingerprints 函数
- 清理相关测试代码
* refactor: 删除更多未使用的死代码
- parse.go: 删除 RemoveDuplicate 函数及其测试
- parsers.go: 删除 excludeHosts, removeDuplicates 别名函数
- 更新测试使用真正的函数名
* fix(test): 修复 TestParseIP_InvalidIPRange 测试用例
- 删除不合理的测试用例(无效IP被当作普通主机名处理是设计行为)
- 修复测试逻辑,只在真正通过时输出"正确"
* fix(scan): 移除域名预解析,保留原始域名进行扫描
域名预解析会将域名转换为IP,导致虚拟主机场景下HTTP访问失败
(Host头变成IP而非域名,无法正确路由)
* fix(scan): 修复 -hf 参数无法单独使用的问题
* fix(proxy): 修复透明代理环境下 SOCKS5 代理全端口误报问题
问题:在透明代理(TUN模式)环境下使用 SOCKS5 代理扫描时,
会出现全端口开放的误报,因为代理可靠性检测被透明代理污染。
修复方案(参考 fscanx):
1. 将探针从 CRLF 改为 HTTP GET,更有效检测真实连接状态
2. 删除 "uncertain" 状态,无响应一律判定为端口关闭
3. 调整超时时间以适应代理链路延迟
Fixes #524
* feat(telnet): 新增 telnetd RCE 命令执行验证,修复未授权访问日志级别
* fix: 修复 i18n.Tr vet 报错、Unicode 测试用例,移除过期域名
- 移除 i18n.Tr 中错误的 fmt.Sprintf fallback,消除 go vet 误报
- 修复 match_engine_test Unicode 测试用例与 Latin-1 转换逻辑不匹配
- README 移除过期的 fscan.club 域名
- 添加 .gitattributes 统一换行符为 LF
* refactor: 统一控制台输出风格,使用统一的日志函数
手动合并 PR #558 的改动,适配重构后的代码路径
* fix(ci): 修复版本注入和CI触发配置
- goreleaser ldflags 指向正确的包路径 common.version/commit/date
- version 改为 var 支持 ldflags 注入,banner 显示 commit 和构建日期
- test-build 触发分支增加 dev-* 通配
* fix(ci): 修复 Windows 产物 .exe.exe 双后缀问题
* feat(ci): 扩展构建架构支持 MIPS/ARM/FreeBSD/Solaris
768 lines
20 KiB
Go
768 lines
20 KiB
Go
package core
|
|
|
|
import (
|
|
"bytes"
|
|
"errors"
|
|
"fmt"
|
|
"net"
|
|
"os/exec"
|
|
"runtime"
|
|
"strings"
|
|
"sync"
|
|
"sync/atomic"
|
|
"time"
|
|
|
|
"github.com/shadow1ng/fscan/common"
|
|
"github.com/shadow1ng/fscan/common/i18n"
|
|
"github.com/shadow1ng/fscan/common/output"
|
|
"golang.org/x/net/icmp"
|
|
)
|
|
|
|
// pingForbiddenChars 命令注入防护 - 禁止的字符
|
|
var pingForbiddenChars = []string{";", "&", "|", "`", "$", "\\", "'", "%", "\"", "\n"}
|
|
|
|
// pingErrorKeywords ping 失败的关键词(跨平台)
|
|
var pingErrorKeywords = []string{
|
|
// Windows
|
|
"TTL expired",
|
|
"Destination host unreachable",
|
|
"Destination net unreachable",
|
|
"Request timed out",
|
|
"General failure",
|
|
"transmit failed",
|
|
// Linux/macOS
|
|
"Time to live exceeded",
|
|
"100% packet loss",
|
|
"Network is unreachable",
|
|
"No route to host",
|
|
}
|
|
|
|
// CheckLive 检测主机存活状态
|
|
// 支持 ICMP/Ping 探测,并在响应率过低时自动启用 TCP 补充探测
|
|
func CheckLive(hostslist []string, Ping bool, config *common.Config, state *common.State) []string {
|
|
// 创建局部WaitGroup
|
|
var livewg sync.WaitGroup
|
|
|
|
// 创建局部存活主机列表,预分配容量避免频繁扩容
|
|
aliveHosts := make([]string, 0, len(hostslist))
|
|
var aliveHostsMu sync.Mutex // 保护aliveHosts并发访问
|
|
existHosts := make(map[string]struct{}, len(hostslist))
|
|
|
|
// 创建主机通道
|
|
chanHosts := make(chan string, len(hostslist))
|
|
|
|
// 处理存活主机
|
|
go handleAliveHosts(chanHosts, hostslist, Ping, &aliveHosts, &aliveHostsMu, existHosts, config, &livewg)
|
|
|
|
// 根据Ping参数选择检测方式
|
|
if Ping {
|
|
// 使用ping方式探测
|
|
RunPing(hostslist, chanHosts, &livewg)
|
|
} else {
|
|
probeWithICMP(hostslist, chanHosts, &aliveHosts, &aliveHostsMu, config, state, &livewg)
|
|
}
|
|
|
|
// 等待所有检测完成
|
|
livewg.Wait()
|
|
close(chanHosts)
|
|
|
|
// TCP 补充探测:当 ICMP/Ping 响应率过低时自动启用
|
|
// 这对防火墙过滤 ICMP 的环境特别有用
|
|
aliveHosts = tcpSupplementaryProbe(hostslist, aliveHosts, config)
|
|
|
|
// 输出存活统计信息
|
|
printAliveStats(aliveHosts, hostslist)
|
|
|
|
return aliveHosts
|
|
}
|
|
|
|
// tcpSupplementaryProbe TCP 补充探测
|
|
// 当 ICMP 响应率过低时(<10%),对未响应主机进行 TCP 探测
|
|
func tcpSupplementaryProbe(allHosts []string, aliveHosts []string, config *common.Config) []string {
|
|
totalHosts := len(allHosts)
|
|
if totalHosts == 0 {
|
|
return aliveHosts
|
|
}
|
|
|
|
// 计算 ICMP 响应率
|
|
responseRate := float64(len(aliveHosts)) / float64(totalHosts)
|
|
|
|
// 响应率高于阈值,无需补充探测
|
|
if responseRate >= tcpProbeThreshold {
|
|
return aliveHosts
|
|
}
|
|
|
|
// 获取未响应的主机
|
|
unrespondedHosts := getUnrespondedHosts(allHosts, aliveHosts)
|
|
if len(unrespondedHosts) == 0 {
|
|
return aliveHosts
|
|
}
|
|
|
|
// 提示用户正在进行 TCP 补充探测
|
|
common.LogInfo(i18n.Tr("tcp_probe_low_icmp_rate", fmt.Sprintf("%.1f%%", responseRate*100), len(unrespondedHosts)))
|
|
|
|
// 执行 TCP 补充探测
|
|
tcpAliveHosts := runTcpProbeForHosts(unrespondedHosts, config)
|
|
|
|
// 合并结果
|
|
if len(tcpAliveHosts) > 0 {
|
|
aliveHosts = append(aliveHosts, tcpAliveHosts...)
|
|
common.LogInfo(i18n.Tr("tcp_probe_found", len(tcpAliveHosts)))
|
|
}
|
|
|
|
return aliveHosts
|
|
}
|
|
|
|
// IsContain 检查切片中是否包含指定元素
|
|
func IsContain(items []string, item string) bool {
|
|
for _, eachItem := range items {
|
|
if eachItem == item {
|
|
return true
|
|
}
|
|
}
|
|
return false
|
|
}
|
|
|
|
func handleAliveHosts(chanHosts chan string, hostslist []string, isPing bool, aliveHosts *[]string, aliveHostsMu *sync.Mutex, existHosts map[string]struct{}, config *common.Config, livewg *sync.WaitGroup) {
|
|
for ip := range chanHosts {
|
|
if _, ok := existHosts[ip]; !ok && IsContain(hostslist, ip) {
|
|
existHosts[ip] = struct{}{}
|
|
|
|
// 加锁保护aliveHosts并发写入
|
|
aliveHostsMu.Lock()
|
|
*aliveHosts = append(*aliveHosts, ip)
|
|
aliveHostsMu.Unlock()
|
|
|
|
// 使用Output系统保存存活主机信息
|
|
protocol := "ICMP"
|
|
if isPing {
|
|
protocol = "PING"
|
|
}
|
|
|
|
result := &output.ScanResult{
|
|
Time: time.Now(),
|
|
Type: output.TypeHost,
|
|
Target: ip,
|
|
Status: "alive",
|
|
Details: map[string]interface{}{
|
|
"protocol": protocol,
|
|
},
|
|
}
|
|
_ = common.SaveResult(result)
|
|
|
|
// 保留原有的控制台输出
|
|
if !config.Output.Silent {
|
|
common.LogInfo(i18n.Tr("host_alive", ip, protocol))
|
|
}
|
|
}
|
|
livewg.Done()
|
|
}
|
|
}
|
|
|
|
// probeWithICMP 使用ICMP方式探测
|
|
func probeWithICMP(hostslist []string, chanHosts chan string, aliveHosts *[]string, aliveHostsMu *sync.Mutex, config *common.Config, state *common.State, livewg *sync.WaitGroup) {
|
|
// 代理模式下自动禁用ICMP,直接降级为Ping
|
|
// ICMP在代理环境无法正常工作
|
|
if shouldDisableICMP() {
|
|
if !config.Output.Silent {
|
|
common.LogInfo(i18n.GetText("proxy_mode_disable_icmp"))
|
|
}
|
|
RunPing(hostslist, chanHosts, livewg)
|
|
return
|
|
}
|
|
|
|
// 尝试监听本地ICMP
|
|
conn, err := icmp.ListenPacket("ip4:icmp", "0.0.0.0")
|
|
if err == nil {
|
|
RunIcmp1(hostslist, conn, chanHosts, aliveHosts, aliveHostsMu, config, state, livewg)
|
|
return
|
|
}
|
|
|
|
common.LogError(i18n.Tr("icmp_listen_failed", err))
|
|
common.LogInfo(i18n.GetText("trying_no_listen_icmp"))
|
|
|
|
// 尝试无监听ICMP探测
|
|
conn2, err := net.DialTimeout("ip4:icmp", "127.0.0.1", 3*time.Second)
|
|
if err == nil {
|
|
defer func() { _ = conn2.Close() }()
|
|
RunIcmp2(hostslist, chanHosts, config, state, livewg)
|
|
return
|
|
}
|
|
|
|
common.LogError(i18n.Tr("icmp_connect_failed", err))
|
|
common.LogError(i18n.GetText("insufficient_privileges"))
|
|
common.LogInfo(i18n.GetText("switching_to_ping"))
|
|
|
|
// 降级使用ping探测
|
|
RunPing(hostslist, chanHosts, livewg)
|
|
}
|
|
|
|
// shouldDisableICMP 检查是否应该禁用ICMP
|
|
// 这是一个内部辅助函数,用于检查代理状态
|
|
func shouldDisableICMP() bool {
|
|
// 尝试导入proxy包的状态检查(避免循环依赖)
|
|
// 实际实现中会通过全局配置检查
|
|
// 这里暂时返回false,实际集成时会正确处理
|
|
return false
|
|
}
|
|
|
|
// getOptimalTopCount 根据扫描规模智能决定显示数量
|
|
func getOptimalTopCount(totalHosts int) int {
|
|
switch {
|
|
case totalHosts > 50000: // 超大规模扫描
|
|
return 20
|
|
case totalHosts > 10000: // 大规模扫描
|
|
return 15
|
|
case totalHosts > 1000: // 中等规模扫描
|
|
return 10
|
|
case totalHosts > 256: // 小规模扫描
|
|
return 5
|
|
default:
|
|
return 3
|
|
}
|
|
}
|
|
|
|
// printAliveStats 打印存活统计信息
|
|
func printAliveStats(aliveHosts []string, hostslist []string) {
|
|
// 智能计算显示数量
|
|
topCount := getOptimalTopCount(len(hostslist))
|
|
|
|
// 大规模扫描时输出 /16 网段统计
|
|
if len(hostslist) > 1000 {
|
|
arrTop, arrLen := ArrayCountValueTop(aliveHosts, topCount, true)
|
|
for i := 0; i < len(arrTop); i++ {
|
|
common.LogInfo(i18n.Tr("segment_16_alive", arrTop[i], arrLen[i]))
|
|
}
|
|
}
|
|
|
|
// 输出 /24 网段统计
|
|
if len(hostslist) > 256 {
|
|
arrTop, arrLen := ArrayCountValueTop(aliveHosts, topCount, false)
|
|
for i := 0; i < len(arrTop); i++ {
|
|
common.LogInfo(i18n.Tr("segment_24_alive", arrTop[i], arrLen[i]))
|
|
}
|
|
}
|
|
}
|
|
|
|
// ICMP 自适应等待参数
|
|
const (
|
|
icmpCheckInterval = 100 * time.Millisecond // 检查间隔,避免 CPU 空转
|
|
icmpMinWaitTime = 1 * time.Second // 最小等待时间,确保基础响应收集
|
|
icmpStableThreshold = 500 * time.Millisecond // 无新响应稳定阈值,超过此时间无新响应则提前结束
|
|
)
|
|
|
|
// waitAdaptive 自适应等待 ICMP 响应
|
|
// 算法:监控响应增量,连续一段时间无新响应则提前结束
|
|
// 保守原则:
|
|
// - 必须等待最小时间 (1s),确保基础响应收集
|
|
// - 只有"连续 500ms 无新响应"才提前结束
|
|
// - 保留原有最大等待时间作为兜底
|
|
func waitAdaptive(hostslist []string, aliveHosts *[]string, aliveHostsMu *sync.Mutex) {
|
|
totalHosts := len(hostslist)
|
|
|
|
// 根据主机数量设置最大超时时间(保持原有逻辑作为兜底)
|
|
maxWait := 6 * time.Second
|
|
if totalHosts <= 256 {
|
|
maxWait = 3 * time.Second
|
|
}
|
|
|
|
start := time.Now()
|
|
lastAliveCount := 0
|
|
lastChangeTime := start
|
|
|
|
for {
|
|
time.Sleep(icmpCheckInterval) // 避免 CPU 空转
|
|
|
|
// 读取当前存活数
|
|
aliveHostsMu.Lock()
|
|
aliveCount := len(*aliveHosts)
|
|
aliveHostsMu.Unlock()
|
|
|
|
elapsed := time.Since(start)
|
|
|
|
// 条件1:所有主机都已响应,立即结束
|
|
if aliveCount >= totalHosts {
|
|
common.LogDebug(fmt.Sprintf("[ICMP] 全部响应,耗时 %v", elapsed.Round(time.Millisecond)))
|
|
break
|
|
}
|
|
|
|
// 条件2:超过最大等待时间,兜底结束
|
|
if elapsed >= maxWait {
|
|
common.LogDebug(fmt.Sprintf("[ICMP] 达到最大等待时间 %v,存活 %d/%d", maxWait, aliveCount, totalHosts))
|
|
break
|
|
}
|
|
|
|
// 条件3:自适应提前结束
|
|
// 必须满足:已过最小等待时间 + 连续一段时间没有新响应
|
|
if elapsed >= icmpMinWaitTime {
|
|
if aliveCount > lastAliveCount {
|
|
// 有新响应,更新状态
|
|
lastChangeTime = time.Now()
|
|
lastAliveCount = aliveCount
|
|
} else if time.Since(lastChangeTime) >= icmpStableThreshold {
|
|
// 连续 500ms 没有新响应,认为响应已稳定,提前结束
|
|
common.LogDebug(fmt.Sprintf("[ICMP] 响应稳定,提前结束,耗时 %v,存活 %d/%d",
|
|
elapsed.Round(time.Millisecond), aliveCount, totalHosts))
|
|
break
|
|
}
|
|
} else {
|
|
// 最小等待期内,持续更新状态
|
|
if aliveCount > lastAliveCount {
|
|
lastChangeTime = time.Now()
|
|
lastAliveCount = aliveCount
|
|
}
|
|
}
|
|
}
|
|
}
|
|
|
|
// RunIcmp1 使用ICMP批量探测主机存活(监听模式)
|
|
func RunIcmp1(hostslist []string, conn *icmp.PacketConn, chanHosts chan string, aliveHosts *[]string, aliveHostsMu *sync.Mutex, config *common.Config, state *common.State, livewg *sync.WaitGroup) {
|
|
// 使用atomic.Bool保证并发安全
|
|
var endflag atomic.Bool
|
|
var listenerWg sync.WaitGroup
|
|
|
|
// 创建布隆过滤器用于去重(自动根据主机数量调整大小)
|
|
bloomFilter := NewBloomFilter(len(hostslist), 0.01)
|
|
|
|
// 启动监听协程
|
|
listenerWg.Add(1)
|
|
go func() {
|
|
defer listenerWg.Done()
|
|
defer func() {
|
|
if r := recover(); r != nil {
|
|
common.LogError(i18n.Tr("icmp_listener_panic", r))
|
|
}
|
|
}()
|
|
|
|
for {
|
|
if endflag.Load() {
|
|
return
|
|
}
|
|
|
|
// 设置读取超时避免无限期阻塞
|
|
_ = conn.SetReadDeadline(time.Now().Add(100 * time.Millisecond))
|
|
|
|
// 接收ICMP响应
|
|
msg := make([]byte, 100)
|
|
_, sourceIP, err := conn.ReadFrom(msg)
|
|
|
|
if err != nil {
|
|
// 超时错误正常,其他错误则退出
|
|
var netErr net.Error
|
|
if errors.As(err, &netErr) && netErr.Timeout() {
|
|
continue
|
|
}
|
|
return
|
|
}
|
|
|
|
if sourceIP != nil && !endflag.Load() {
|
|
ipStr := sourceIP.String()
|
|
|
|
// 使用布隆过滤器去重,过滤重复的ICMP响应和杂包
|
|
if bloomFilter.Contains(ipStr) {
|
|
continue
|
|
}
|
|
bloomFilter.Add(ipStr)
|
|
|
|
livewg.Add(1)
|
|
select {
|
|
case chanHosts <- ipStr:
|
|
// 发送成功
|
|
default:
|
|
// channel已满,回退计数器
|
|
livewg.Done()
|
|
}
|
|
}
|
|
}
|
|
}()
|
|
|
|
// 发送ICMP请求(应用令牌桶限速)
|
|
limiter := state.GetICMPLimiter(config.Network.ICMPRate)
|
|
for _, host := range hostslist {
|
|
limiter.Wait(1) // 等待令牌,控制发包速率
|
|
dst, _ := net.ResolveIPAddr("ip", host)
|
|
IcmpByte := makemsg(host)
|
|
_, _ = conn.WriteTo(IcmpByte, dst)
|
|
}
|
|
|
|
// 自适应等待响应
|
|
// 算法:监控响应增量,连续一段时间无新响应则提前结束
|
|
// 保守原则:保留最大等待时间兜底,确保不漏掉慢响应主机
|
|
waitAdaptive(hostslist, aliveHosts, aliveHostsMu)
|
|
|
|
endflag.Store(true)
|
|
_ = conn.Close()
|
|
listenerWg.Wait()
|
|
}
|
|
|
|
// RunIcmp2 使用ICMP并发探测主机存活(无监听模式)
|
|
func RunIcmp2(hostslist []string, chanHosts chan string, config *common.Config, state *common.State, livewg *sync.WaitGroup) {
|
|
// 控制并发数
|
|
num := 1000
|
|
if len(hostslist) < num {
|
|
num = len(hostslist)
|
|
}
|
|
|
|
var wg sync.WaitGroup
|
|
limiter := make(chan struct{}, num)
|
|
rateLimiter := state.GetICMPLimiter(config.Network.ICMPRate) // 获取速率限制器
|
|
|
|
// 并发探测
|
|
for _, host := range hostslist {
|
|
wg.Add(1)
|
|
limiter <- struct{}{}
|
|
|
|
go func(host string) {
|
|
defer func() {
|
|
<-limiter
|
|
wg.Done()
|
|
}()
|
|
|
|
rateLimiter.Wait(1) // 等待令牌,控制发包速率
|
|
if icmpalive(host) {
|
|
livewg.Add(1)
|
|
select {
|
|
case chanHosts <- host:
|
|
// 发送成功
|
|
default:
|
|
// channel已满,回退计数器
|
|
livewg.Done()
|
|
}
|
|
}
|
|
}(host)
|
|
}
|
|
|
|
wg.Wait()
|
|
close(limiter)
|
|
}
|
|
|
|
// icmpalive 检测主机ICMP是否存活
|
|
func icmpalive(host string) bool {
|
|
startTime := time.Now()
|
|
|
|
// 建立ICMP连接
|
|
conn, err := net.DialTimeout("ip4:icmp", host, 6*time.Second)
|
|
if err != nil {
|
|
return false
|
|
}
|
|
defer func() { _ = conn.Close() }()
|
|
|
|
// 设置超时时间
|
|
if err := conn.SetDeadline(startTime.Add(6 * time.Second)); err != nil {
|
|
return false
|
|
}
|
|
|
|
// 构造并发送ICMP请求
|
|
msg := makemsg(host)
|
|
if _, err := conn.Write(msg); err != nil {
|
|
return false
|
|
}
|
|
|
|
// 接收ICMP响应
|
|
receive := make([]byte, 60)
|
|
if _, err := conn.Read(receive); err != nil {
|
|
return false
|
|
}
|
|
|
|
return true
|
|
}
|
|
|
|
// RunPing 使用系统Ping命令并发探测主机存活
|
|
func RunPing(hostslist []string, chanHosts chan string, livewg *sync.WaitGroup) {
|
|
var wg sync.WaitGroup
|
|
// 限制并发数为50
|
|
limiter := make(chan struct{}, 50)
|
|
|
|
// 并发探测
|
|
for _, host := range hostslist {
|
|
wg.Add(1)
|
|
limiter <- struct{}{}
|
|
|
|
go func(host string) {
|
|
defer func() {
|
|
<-limiter
|
|
wg.Done()
|
|
}()
|
|
|
|
if ExecCommandPing(host) {
|
|
livewg.Add(1)
|
|
select {
|
|
case chanHosts <- host:
|
|
// 发送成功
|
|
default:
|
|
// channel已满,回退计数器
|
|
livewg.Done()
|
|
}
|
|
}
|
|
}(host)
|
|
}
|
|
|
|
wg.Wait()
|
|
}
|
|
|
|
// containsPingError 检查 ping 输出是否包含错误关键词
|
|
func containsPingError(output string) bool {
|
|
outputLower := strings.ToLower(output)
|
|
for _, keyword := range pingErrorKeywords {
|
|
if strings.Contains(outputLower, strings.ToLower(keyword)) {
|
|
return true
|
|
}
|
|
}
|
|
return false
|
|
}
|
|
|
|
// ExecCommandPing 执行系统Ping命令检测主机存活
|
|
func ExecCommandPing(ip string) bool {
|
|
// 过滤黑名单字符(命令注入防护)
|
|
for _, char := range pingForbiddenChars {
|
|
if strings.Contains(ip, char) {
|
|
return false
|
|
}
|
|
}
|
|
|
|
var command *exec.Cmd
|
|
// 根据操作系统选择不同的ping命令
|
|
switch runtime.GOOS {
|
|
case "windows":
|
|
command = exec.Command("cmd", "/c", "ping -n 1 -w 1 "+ip+" && echo true || echo false")
|
|
case "darwin":
|
|
command = exec.Command("/bin/bash", "-c", "ping -c 1 -W 1 "+ip+" && echo true || echo false")
|
|
default: // linux
|
|
command = exec.Command("/bin/bash", "-c", "ping -c 1 -w 1 "+ip+" && echo true || echo false")
|
|
}
|
|
|
|
// 捕获命令输出
|
|
var outinfo bytes.Buffer
|
|
command.Stdout = &outinfo
|
|
|
|
// 执行命令
|
|
if err := command.Start(); err != nil {
|
|
return false
|
|
}
|
|
|
|
if err := command.Wait(); err != nil {
|
|
return false
|
|
}
|
|
|
|
// 分析输出结果
|
|
output := outinfo.String()
|
|
return strings.Contains(output, "true") && strings.Count(output, ip) > 2 && !containsPingError(output)
|
|
}
|
|
|
|
// makemsg 构造ICMP echo请求消息
|
|
func makemsg(host string) []byte {
|
|
msg := make([]byte, 40)
|
|
|
|
// 获取标识符
|
|
id0, id1 := genIdentifier(host)
|
|
|
|
// 设置ICMP头部
|
|
msg[0] = 8 // Type: Echo Request
|
|
msg[1] = 0 // Code: 0
|
|
msg[2] = 0 // Checksum高位(待计算)
|
|
msg[3] = 0 // Checksum低位(待计算)
|
|
msg[4], msg[5] = id0, id1 // Identifier
|
|
msg[6], msg[7] = genSequence(1) // Sequence Number
|
|
|
|
// 计算校验和
|
|
check := checkSum(msg[0:40])
|
|
msg[2] = byte(check >> 8) // 设置校验和高位
|
|
msg[3] = byte(check & 255) // 设置校验和低位
|
|
|
|
return msg
|
|
}
|
|
|
|
// checkSum 计算ICMP校验和
|
|
func checkSum(msg []byte) uint16 {
|
|
sum := 0
|
|
length := len(msg)
|
|
|
|
// 按16位累加
|
|
for i := 0; i < length-1; i += 2 {
|
|
sum += int(msg[i])*256 + int(msg[i+1])
|
|
}
|
|
|
|
// 处理奇数长度情况
|
|
if length%2 == 1 {
|
|
sum += int(msg[length-1]) * 256
|
|
}
|
|
|
|
// 将高16位加到低16位
|
|
sum = (sum >> 16) + (sum & 0xffff)
|
|
sum = sum + (sum >> 16)
|
|
|
|
// 取反得到校验和
|
|
return uint16(^sum)
|
|
}
|
|
|
|
// genSequence 生成ICMP序列号
|
|
func genSequence(v int16) (byte, byte) {
|
|
ret1 := byte(v >> 8) // 高8位
|
|
ret2 := byte(v & 255) // 低8位
|
|
return ret1, ret2
|
|
}
|
|
|
|
// genIdentifier 根据主机地址生成标识符
|
|
func genIdentifier(host string) (byte, byte) {
|
|
if len(host) < 2 {
|
|
return 0, 0
|
|
}
|
|
return host[0], host[1]
|
|
}
|
|
|
|
// ArrayCountValueTop 统计IP地址段存活数量并返回TOP N结果
|
|
func ArrayCountValueTop(arrInit []string, length int, flag bool) (arrTop []string, arrLen []int) {
|
|
if len(arrInit) == 0 {
|
|
return
|
|
}
|
|
|
|
// 统计各网段出现次数,预分配容量
|
|
segmentCounts := make(map[string]int, len(arrInit)/4)
|
|
for _, ip := range arrInit {
|
|
segments := strings.Split(ip, ".")
|
|
if len(segments) != 4 {
|
|
continue
|
|
}
|
|
|
|
// 根据flag确定统计B段还是C段
|
|
var segment string
|
|
if flag {
|
|
segment = fmt.Sprintf("%s.%s", segments[0], segments[1]) // B段
|
|
} else {
|
|
segment = fmt.Sprintf("%s.%s.%s", segments[0], segments[1], segments[2]) // C段
|
|
}
|
|
|
|
segmentCounts[segment]++
|
|
}
|
|
|
|
// 创建副本用于排序
|
|
sortMap := make(map[string]int)
|
|
for k, v := range segmentCounts {
|
|
sortMap[k] = v
|
|
}
|
|
|
|
// 获取TOP N结果
|
|
for i := 0; i < length && len(sortMap) > 0; i++ {
|
|
maxSegment := ""
|
|
maxCount := 0
|
|
|
|
// 查找当前最大值
|
|
for segment, count := range sortMap {
|
|
if count > maxCount {
|
|
maxCount = count
|
|
maxSegment = segment
|
|
}
|
|
}
|
|
|
|
// 添加到结果集
|
|
arrTop = append(arrTop, maxSegment)
|
|
arrLen = append(arrLen, maxCount)
|
|
|
|
// 从待处理map中删除已处理项
|
|
delete(sortMap, maxSegment)
|
|
}
|
|
|
|
return
|
|
}
|
|
|
|
// =============================================================================
|
|
// TCP 补充探测 - 当 ICMP 响应率过低时自动启用
|
|
// =============================================================================
|
|
|
|
// tcpProbeCommonPorts TCP 探测使用的常用端口
|
|
// 这些端口在大多数服务器上至少有一个开放
|
|
var tcpProbeCommonPorts = []int{80, 443, 22, 445}
|
|
|
|
// tcpProbeTimeout TCP 探测超时时间(较短,只做存活判断)
|
|
const tcpProbeTimeout = 2 * time.Second
|
|
|
|
// tcpProbeThreshold TCP 补充探测触发阈值
|
|
// 当 ICMP 响应率低于此值时,自动启用 TCP 补充探测
|
|
const tcpProbeThreshold = 0.1 // 10%
|
|
|
|
// tcpProbeAlive 使用 TCP 探测主机是否存活
|
|
// 尝试连接常用端口,任一端口响应即认为存活
|
|
func tcpProbeAlive(host string) bool {
|
|
for _, port := range tcpProbeCommonPorts {
|
|
addr := fmt.Sprintf("%s:%d", host, port)
|
|
conn, err := common.WrapperTcpWithTimeout("tcp", addr, tcpProbeTimeout)
|
|
if err == nil {
|
|
_ = conn.Close()
|
|
return true
|
|
}
|
|
}
|
|
return false
|
|
}
|
|
|
|
// runTcpProbeForHosts 对指定主机列表进行 TCP 补充探测
|
|
// 返回存活的主机列表
|
|
func runTcpProbeForHosts(hosts []string, config *common.Config) []string {
|
|
if len(hosts) == 0 {
|
|
return nil
|
|
}
|
|
|
|
var wg sync.WaitGroup
|
|
var mu sync.Mutex
|
|
aliveHosts := make([]string, 0)
|
|
|
|
// 并发控制,避免资源耗尽
|
|
concurrency := 50
|
|
if len(hosts) < concurrency {
|
|
concurrency = len(hosts)
|
|
}
|
|
limiter := make(chan struct{}, concurrency)
|
|
|
|
for _, host := range hosts {
|
|
wg.Add(1)
|
|
limiter <- struct{}{}
|
|
|
|
go func(h string) {
|
|
defer func() {
|
|
<-limiter
|
|
wg.Done()
|
|
}()
|
|
|
|
if tcpProbeAlive(h) {
|
|
mu.Lock()
|
|
aliveHosts = append(aliveHosts, h)
|
|
mu.Unlock()
|
|
|
|
// 保存结果
|
|
result := &output.ScanResult{
|
|
Time: time.Now(),
|
|
Type: output.TypeHost,
|
|
Target: h,
|
|
Status: "alive",
|
|
Details: map[string]interface{}{
|
|
"protocol": "TCP",
|
|
},
|
|
}
|
|
_ = common.SaveResult(result)
|
|
|
|
if !config.Output.Silent {
|
|
common.LogInfo(i18n.Tr("host_alive", h, "TCP"))
|
|
}
|
|
}
|
|
}(host)
|
|
}
|
|
|
|
wg.Wait()
|
|
return aliveHosts
|
|
}
|
|
|
|
// getUnrespondedHosts 获取未响应的主机列表
|
|
func getUnrespondedHosts(allHosts []string, aliveHosts []string) []string {
|
|
aliveSet := make(map[string]struct{}, len(aliveHosts))
|
|
for _, h := range aliveHosts {
|
|
aliveSet[h] = struct{}{}
|
|
}
|
|
|
|
unresponded := make([]string, 0, len(allHosts)-len(aliveHosts))
|
|
for _, h := range allHosts {
|
|
if _, alive := aliveSet[h]; !alive {
|
|
unresponded = append(unresponded, h)
|
|
}
|
|
}
|
|
return unresponded
|
|
}
|