Harvester项目中的IP地址耗尽问题分析与解决方案

问题背景

在Harvester v1.4.1版本中，用户报告了一个严重的网络问题：当Harvester集群节点重启后，10.52.x.x IP地址空间会出现耗尽现象，导致容器工作负载无法正常调度。这个问题与RKE2的已知问题高度相关，表现为CNI网络插件无法正确释放已分配的IP地址。

问题现象

用户在使用Harvester集群时，经历以下典型场景：

1. 正常运行容器化工作负载
2. 关闭Harvester集群
3. 重新启动集群后
4. 发现工作负载无法调度
5. 检查/var/lib/cni/networks目录发现IP地址资源耗尽

技术分析

经过深入调查，开发团队确认该问题与containerd/CNI在硬重启后无法正确协调现有IP地址分配有关。具体表现为：

1. CNI插件在节点重启后未能清理之前分配的IP地址记录
2. 这些"僵尸"IP地址仍然被标记为已占用状态
3. 新工作负载无法获取可用IP地址
4. 问题会随时间积累，最终导致IP地址池完全耗尽

值得注意的是，这个问题与iptables桥接转发内核参数无关，也与管理桥接器的VLAN标记问题无关。HarvesterOS已经包含了iptables二进制文件，因此不受RKE2文档中提到的第一个问题影响。

解决方案

开发团队提供了两种解决方案：

临时解决方案

对于已经出现问题的节点，可以手动执行以下步骤：

1. 停止RKE2服务
2. 删除/var/lib/cni/networks/k8s-pod-network目录下的所有锁定IP地址文件
3. 重新启动RKE2服务

或者，用户可以通过添加以下cloud-init配置到/oem/99_cni_reset.yaml文件中实现自动清理：

name: "reset container dhcp leases"
stages:
   initramfs:
     - command:
       - rm -rf /var/lib/cni/networks/k8s-pod-network

永久解决方案

开发团队在Harvester安装程序中实现了永久修复方案，主要变更包括：

1. 在RKE2引导前自动清理CNI网络目录
2. 确保不会残留无效的IP地址记录
3. 该修复已合并到主分支并计划在v1.4.2版本中发布

影响评估

该问题属于高优先级缺陷，因为它可能导致生产环境中断和节点不可用。虽然存在临时解决方案，但需要用户手动干预，这在生产环境中是不可取的。永久解决方案的推出将从根本上解决这个问题，提高Harvester集群的稳定性和可靠性。

验证情况

该修复已在v1.5-a1ce6a16-head版本中验证通过。测试团队在QEMU/KVM环境下的2节点集群中成功复现并验证了修复效果。

总结

Harvester团队快速响应并解决了这个关键的IP地址耗尽问题，体现了对产品质量和用户体验的高度重视。用户升级到包含该修复的版本后，将不再受到IP地址耗尽问题的困扰，可以更加安心地使用Harvester集群运行生产工作负载。