Prometheus Node Exporter在混合EKS集群中的调度优化

在Kubernetes环境中部署监控系统时，Prometheus Node Exporter是一个常用的组件，用于收集节点级别的指标数据。然而，在AWS EKS混合集群（同时包含EC2和Fargate节点）环境中，Node Exporter的调度可能会遇到一些问题。

问题背景

当EKS集群同时使用EC2和Fargate节点时，Node Exporter的Pod可能会被错误地调度到Fargate节点上。由于Fargate节点的特殊性质，这些Pod将无法正常运行，导致它们一直处于Pending状态。这是因为：

1. Fargate节点是托管的无服务器计算环境，无法安装和运行需要主机访问的DaemonSet
2. Node Exporter需要访问主机级别的指标，这在Fargate环境中不可行

解决方案

通过在Node Exporter的部署配置中添加节点亲和性规则，可以确保它只被调度到EC2节点上。具体实现方法是使用以下affinity配置：

affinity:
  nodeAffinity:
    requiredDuringSchedulingIgnoredDuringExecution:
      nodeSelectorTerms:
      - matchExpressions:
        - key: eks.amazonaws.com/compute-type
          operator: NotIn
          values:
          - fargate

这段配置明确告诉Kubernetes调度器："不要将Pod调度到带有eks.amazonaws.com/compute-type=fargate标签的节点上"。

实现方式

对于使用Helm部署Prometheus Stack的用户，可以通过以下方式添加这个配置：

1. 如果你直接使用values.yaml文件：

prometheus-node-exporter:
  affinity:
    nodeAffinity:
      requiredDuringSchedulingIgnoredDuringExecution:
        nodeSelectorTerms:
        - matchExpressions:
          - key: eks.amazonaws.com/compute-type
            operator: NotIn
            values:
            - fargate

2. 如果你使用Terraform管理Helm发布：

resource "helm_release" "prometheus-stack" {
  values = [<<-EOF
      prometheus-node-exporter:
        affinity:
          nodeAffinity:
            requiredDuringSchedulingIgnoredDuringExecution:
              nodeSelectorTerms:
              - matchExpressions:
                - key: eks.amazonaws.com/compute-type
                  operator: NotIn
                  values:
                  - fargate
  EOF
  ]
}

技术细节

1. requiredDuringSchedulingIgnoredDuringExecution：这是一个硬性要求，在调度时必须满足，但在Pod运行后不会重新评估

2. NotIn操作符：确保Pod不会被调度到具有指定值的节点上

3. eks.amazonaws.com/compute-type标签：这是EKS自动为节点添加的标签，用于标识节点类型

最佳实践

1. 对于生产环境，建议始终在混合集群中明确指定Node Exporter的调度约束

2. 即使当前集群没有Fargate节点，添加这个配置也是防御性编程的好习惯

3. 可以考虑将这个配置作为标准实践纳入你的基础设施即代码模板中

总结

在混合EKS集群环境中，为Prometheus Node Exporter添加适当的节点亲和性规则是确保监控系统稳定运行的关键步骤。这个简单的配置调整可以避免Pod被错误调度到不兼容的Fargate节点上，从而保证监控数据的完整性和可靠性。