Harvester项目中CNI Pod网络缓存清理问题的分析与解决

问题背景

在Kubernetes集群中，CNI(容器网络接口)负责管理Pod之间的网络通信。Harvester作为一个基于Kubernetes的分布式存储系统，其网络功能同样依赖于CNI插件。在Harvester v1.4版本中，发现了一个与CNI Pod网络缓存清理相关的问题，这可能导致网络资源分配异常。

问题现象

在Harvester v1.4.2版本中，运维人员检查节点上的CNI网络缓存目录时，发现/var/lib/cni/networks/k8s-pod-network/目录下积累了大量IP地址分配记录文件。这些文件正常情况下应该在Pod终止后被清理，但实际情况是它们被保留了下来。

问题影响

1. IP地址浪费：未清理的IP分配记录可能导致IP地址无法被重新分配使用
2. 网络资源耗尽：长期积累可能导致可用IP地址耗尽
3. 网络异常：可能影响新Pod的网络连接

技术分析

CNI插件在分配IP地址时，会在/var/lib/cni/networks/k8s-pod-network/目录下创建对应的记录文件。这些文件包含了IP地址与容器ID的映射关系。理想情况下，当Pod被删除时，这些记录文件应该被同步清理。

在Harvester v1.4.2中，清理机制未能正常工作，导致这些文件被保留。这可能是由于：

1. 清理逻辑的执行时机不正确
2. 文件系统权限问题导致清理失败
3. 清理过程被意外中断

解决方案

Harvester团队通过修改安装程序，在系统初始化阶段主动清理CNI网络缓存目录。具体实现是在initramfs阶段执行以下命令：

name: "reset container dhcp leases"
stages:
  initramfs:
    - name: "reset container dhcp leases"
      commands:
      - rm -rf /var/lib/cni/networks/k8s-pod-network

这个解决方案具有以下特点：

1. 早期执行：在系统初始化的最早阶段就执行清理
2. 彻底性：直接删除整个缓存目录而非单个文件
3. 可靠性：在initramfs阶段执行，避免了运行时可能存在的干扰

验证结果

在修复后的版本(v1.4-7acb4fdb-head)中验证显示：

1. 系统启动后，/var/lib/cni/networks/k8s-pod-network目录被正确初始化
2. Pod创建时，新的IP分配记录能够正常生成
3. 系统运行一段时间后，目录内容保持正常状态，没有出现异常积累

最佳实践建议

对于使用Harvester的管理员，建议：

1. 定期检查/var/lib/cni/networks/k8s-pod-network目录内容
2. 在升级集群前，考虑手动清理该目录
3. 关注Harvester的版本更新，及时应用相关修复

总结

CNI网络缓存清理是Kubernetes网络功能稳定性的重要保障。Harvester团队通过系统初始化阶段的主动清理机制，有效解决了缓存清理不彻底的问题，提升了集群网络资源的利用率和管理效率。这一修复已被纳入v1.4.3版本，建议相关用户及时升级以获得更稳定的网络体验。