Amazon EKS AMI 中 hpc6a.48xlarge 实例在政府云区域的拓扑发现问题分析

在 Amazon EKS 环境中使用 hpc6a.48xlarge 实例类型时，特别是在政府云区域（如 us-gov-west-1）部署时，可能会遇到节点初始化后持续保留 node.cloudprovider.kubernetes.io/uninitialized=true:NoSchedule 污点的问题。这个问题源于 Kubernetes 云控制器管理器（cloud-controller-manager）与 AWS EC2 API 的交互异常。

问题背景

当 Kubernetes 集群在 AWS 环境中运行时，cloud-controller-manager 负责与 AWS API 交互以完成节点初始化等任务。对于 hpc6a.48xlarge 这类高性能计算实例，控制器会尝试调用 EC2 的 DescribeInstanceTopology API 来获取实例拓扑信息。然而，在政府云区域，虽然 hpc6a.48xlarge 实例类型可用，但 DescribeInstanceTopology API 却不受支持。

根本原因分析

问题发生在 cloud-provider-aws 组件的拓扑发现逻辑中。正常情况下，当 API 在某个区域不可用时，控制器应该能够识别并记录该区域为不支持拓扑发现的区域，从而避免后续重复调用。但在近期（2025年6月24日后），EC2 API 的错误响应格式发生了变化，导致现有的错误处理逻辑无法正确识别这种"API不支持"的情况。

具体表现为：

1. 控制器持续尝试调用 DescribeInstanceTopology API
2. 由于 API 在政府云区域不可用，请求失败
3. 错误处理逻辑未能正确识别这种失败情况
4. 控制器进入无限重试循环
5. 节点初始化流程无法完成，污点无法移除

影响范围

此问题主要影响：

• 使用 hpc6a.48xlarge 或其他需要拓扑发现的实例类型
• 部署在政府云区域（如 us-gov-west-1）的集群
• 使用较新版本（2025年6月24日后）AMI 的节点

临时解决方案

在官方修复发布前，可以通过以下方法临时解决问题：

1. 手动添加拓扑标签：为节点或节点组添加拓扑标签，绕过拓扑发现逻辑：

   topology.k8s.aws/network-node-layer-1: "nn1"
   

2. 降级 AMI 版本：回滚到2025年6月24日前的 AMI 版本，这些版本中的错误处理逻辑仍能正常工作。

长期解决方案

AWS 团队已经确认并修复了此问题。建议用户：

1. 更新到最新版本的 cloud-controller-manager
2. 使用最新发布的 EKS AMI
3. 监控节点初始化过程，确认污点按预期移除

最佳实践建议

对于在特殊区域（如政府云）部署 Kubernetes 集群的用户，建议：

1. 在正式部署前，充分测试节点初始化流程
2. 监控 cloud-controller-manager 日志，及时发现类似问题
3. 保持 AMI 和组件版本更新，以获取最新的修复和改进

通过理解这一问题的背景和解决方案，用户可以更好地在政府云等特殊环境中部署和管理 EKS 集群，确保计算资源的正常调度和使用。