Terraform AWS EKS 模块中 Karpenter 部署问题分析与解决方案

问题背景

在使用 Terraform AWS EKS 模块（版本 19.21.0）部署 Karpenter 时，用户遇到了 Helm 安装超时的问题。经过排查发现，Karpenter 的 Pod 无法被调度到集群节点上，导致整个部署流程失败。

问题现象

当执行 Terraform 部署时，Helm 安装 Karpenter 的步骤会出现超时错误。检查 Kubernetes 集群状态，可以看到 Karpenter 的 Pod 处于 Pending 状态，事件日志显示调度失败，原因是"no nodes available to schedule pods"。

根本原因分析

这个问题源于 Fargate 配置与 Karpenter Pod 调度需求之间的不匹配。具体表现为：

1. 集群配置了 Fargate Profile 来管理 karpenter 命名空间的工作负载
2. 但 Karpenter 控制器 Pod 的资源请求（特别是 CPU 和内存）不符合 Fargate 的最小资源要求
3. 缺乏明确的 Pod 标签选择器匹配，导致 Fargate Profile 无法正确识别和调度 Karpenter Pod

解决方案

方案一：调整 Fargate Profile 配置

在 Fargate Profile 中明确添加标签选择器，确保能够正确匹配 Karpenter Pod：

fargate_profiles = {
  karpenter = {
    selectors = [
      { 
        namespace = "karpenter"
        labels = {
          "k8s-app" = "karpenter"
        }
      }
    ]
  }
}

方案二：配置 Karpenter Pod 资源请求和标签

在 Helm 部署 Karpenter 时，明确设置资源请求和限制，并添加匹配的标签：

resource "helm_release" "karpenter" {
  # ... 其他配置 ...
  values = [
    <<-EOT
    controller:
      resources:
        requests:
          cpu: 1
          memory: 1Gi
        limits:
          cpu: 1
          memory: 1Gi
    podLabels:
        k8s-app: karpenter
    EOT
  ]
}

最佳实践建议

1. 资源规划：Fargate 有最小资源要求（0.25 vCPU 和 512MB 内存），确保 Pod 的资源请求符合这些要求。

2. 标签管理：为 Fargate Profile 和 Pod 使用一致的标签系统，确保调度器能够正确匹配。

3. 渐进式部署：可以先部署最小可用的 Karpenter 配置，验证基本功能后再逐步添加复杂配置。

4. 监控与调试：部署后立即检查 Pod 状态和事件日志，快速发现并解决调度问题。

总结

在 EKS 上部署 Karpenter 时，特别是在使用 Fargate 的场景下，需要特别注意资源请求和标签匹配的配置。通过合理设置 Fargate Profile 的选择器和 Karpenter Pod 的资源规格，可以确保 Karpenter 控制器能够正常启动，为后续的节点自动扩缩容功能奠定基础。