Amazon VPC CNI插件Pod卡在Terminating状态问题分析

问题现象

在使用Amazon EKS集群时，用户遇到了AWS VPC CNI插件(aws-node)的DaemonSet Pod卡在Terminating状态的问题。具体表现为：

1. aws-node Pod无法正常终止，持续停留在Terminating状态
2. 节点上其他被删除的Pod也因此受到影响，同样卡在Terminating状态
3. 日志中出现文件写入错误："write /host/var/log/aws-routed-eni/ipamd.log: n"
4. VPC CNI释放IP地址的速度明显变慢

问题背景

AWS VPC CNI是Amazon EKS集群中负责网络管理的核心组件，它以DaemonSet形式运行在每个节点上，主要功能包括：

• 为Pod分配IP地址
• 管理弹性网络接口(ENI)
• 处理节点网络配置
• 维护路由表和网络策略

当CNI插件出现问题时，会直接影响整个集群的网络功能，包括Pod创建、删除和通信。

原因分析

从日志和配置信息来看，可能的原因包括：

1. 日志文件写入问题：CNI插件尝试写入日志文件时遇到错误，可能是由于文件系统权限问题或磁盘空间不足导致。

2. 版本过旧：用户使用的是v1.10.4版本的CNI插件，该版本相对较旧，可能存在已知的缺陷。

3. 资源清理问题：CNI插件在终止过程中无法正确清理网络资源，导致终止流程无法完成。

4. 节点状态异常：底层节点可能存在某些异常，影响了CNI插件的正常操作。

解决方案

针对这类问题，建议采取以下解决步骤：

1. 升级CNI插件版本：

   • 将CNI插件升级到最新稳定版本（当前推荐v1.19.5）
   • 新版本修复了许多已知问题，特别是资源清理和终止流程方面的改进

2. 检查节点状态：

   • 验证节点磁盘空间是否充足
   • 检查文件系统权限是否正确
   • 确认节点内核版本与CNI插件兼容

3. 强制删除卡住的Pod：

   kubectl delete pod <pod-name> --grace-period=0 --force
   

   注意：这应该是最后手段，可能会留下需要手动清理的资源

4. 监控资源释放：

   • 观察IP地址释放情况
   • 检查ENI的分配和释放记录

预防措施

为避免类似问题再次发生，建议：

1. 定期更新CNI插件到推荐版本
2. 监控节点磁盘空间和文件系统健康状况
3. 设置合理的资源请求和限制
4. 实施完善的日志轮转策略

总结

AWS VPC CNI插件作为EKS集群网络功能的核心组件，其稳定性直接影响整个集群的运行。遇到Pod卡在Terminating状态时，首先应考虑升级到最新版本，因为许多网络相关问题在新版本中已得到修复。同时，完善的监控和运维流程可以帮助及早发现和预防类似问题的发生。