Fail2Ban中ipset类型配置问题解析与解决方案

问题背景

在使用Fail2Ban进行网络防护时，管理员可能会遇到需要批量封禁IP段（CIDR格式）的需求。然而，默认配置下Fail2Ban使用ipset的hash:ip类型，这会导致在处理大量IP段时出现"Hash is full"错误，因为每个IP地址都会被单独存储，快速耗尽ipset的容量限制。

问题分析

当尝试封禁类似103.131.71.0/24这样的IP段时，系统日志会显示"ipset v7.17: Hash is full, cannot add more elements"错误。这是因为：

1. 默认的ipset类型为hash:ip，会将整个IP段展开为256个独立IP地址
2. 即使设置了较大的maxelem值(如1000000)，对于大规模IP段封禁仍可能不足
3. 使用hash:ip类型处理IP段不仅效率低下，还可能造成IP段之间的冲突

解决方案

方法一：自定义action配置

1. 创建自定义action文件/etc/fail2ban/action.d/manual.local：

[INCLUDES]
before = iptables-ipset.conf

[Definition]
actionstart = ipset -exist create <ipmset> hash:net timeout <default-ipsettime> maxelem <maxelem> <familyopt>
              <_ipt_add_rules>

2. 在jail配置中指定使用此action：

[manual]
enabled = true
banaction = manual

方法二：使用新版参数（Fail2Ban v1.0+）

在较新版本的Fail2Ban中，可以直接通过参数指定ipset类型：

[manual]
enabled = true
action = iptables-ipset[type=allports, ipsettype=hash:net]

重要注意事项

1. 修改配置后必须完全重启Fail2Ban服务，简单的reload可能不会生效
2. 如果已有ipset存在，需要先手动销毁旧的ipset集合
3. 确保配置文件中的action名称与实际使用的action匹配

技术原理

hash:net与hash:ip的主要区别：

• hash:ip：将每个IP地址单独存储，适合精确到单个IP的封禁
• hash:net：将IP段作为整体存储，适合批量封禁，节省存储空间

例如，封禁192.0.2.0/24：

• hash:ip会存储256个条目(192.0.2.0-192.0.2.255)
• hash:net仅存储1个条目(192.0.2.0/24)

最佳实践

1. 根据实际需求选择合适的ipset类型：

   • 主要封禁单个IP：使用hash:ip
   • 主要封禁IP段：使用hash:net

2. 合理设置maxelem参数，平衡内存使用和封禁容量

3. 定期检查ipset使用情况：

   ipset list <setname>
   

4. 对于混合场景(既有IP段又有单个IP)，hash:net类型同样适用，因为单个IP可以视为/32或/128的子网

通过正确配置ipset类型，管理员可以更高效地利用Fail2Ban进行大规模网络防护，避免"Hash is full"错误，同时确保安全策略的准确执行。