KubeSphere集群节点资源配置获取异常问题分析与解决

问题背景

在使用KubeSphere管理Kubernetes集群时，管理员可能会遇到一个典型问题：KubeSphere控制台显示的节点资源配置与实际物理机配置不符。具体表现为控制台显示的CPU核心数和内存容量是实际物理机配置的两倍，这种情况会导致资源监控数据失真，影响集群资源管理和调度决策。

问题现象

通过KubeSphere控制台查看节点资源时，显示某节点配置为16核CPU/32GB内存，而实际云主机的物理配置仅为8核CPU/16GB内存。这种差异会导致以下问题：

1. 资源监控图表显示不准确
2. 工作负载调度依据错误数据
3. 资源配额管理出现偏差

根本原因分析

经过深入排查，发现问题根源在于监控数据采集环节。具体原因如下：

1. 双份node-exporter运行：在集群中同时存在KubeSphere自带的node-exporter和云服务商(如腾讯云TKE)提供的node-exporter
2. 指标重复采集：Prometheus默认会采集所有node-exporter的指标数据，导致相同指标被重复计算
3. 数据聚合错误：在计算节点总资源时，Prometheus会将两份node-exporter采集的数据相加，造成资源数值翻倍

解决方案

要解决这个问题，我们需要调整Prometheus的配置，使其只采集KubeSphere自身的node-exporter数据。具体步骤如下：

1. 通过KubeSphere控制台找到"WhizardTelemetry Monitoring"扩展组件
2. 修改"Extension Config"配置项
3. 添加Prometheus的服务监控选择器配置

配置内容如下：

kube-prometheus-stack:
  prometheusSpec:
    serviceMonitorSelector:
      matchLabels:
        app.kubernetes.io/vendor: kubesphere

这个配置的作用是让Prometheus只选择带有app.kubernetes.io/vendor: kubesphere标签的ServiceMonitor，从而过滤掉云服务商提供的监控端点。

验证方法

实施解决方案后，可以通过以下方式验证问题是否解决：

1. Prometheus查询验证：

   • 使用count by (cluster, node) (node_cpu_seconds_total{mode="idle",job="node-exporter"})查询CPU核心数
   • 使用sum by (cluster, node) (node_memory_MemTotal_bytes{job="node-exporter"})查询内存总量

2. KubeSphere控制台验证：

   • 检查节点详情页面的资源配置显示
   • 观察资源监控图表的数据变化

3. 命令行验证：

   • 使用kubectl describe node查看节点资源容量
   • 对比物理机实际配置cat /proc/cpuinfo和free -m的输出

最佳实践建议

为避免类似问题，建议在混合云环境中遵循以下最佳实践：

1. 统一监控体系：在KubeSphere集群中，尽量使用单一的监控数据采集体系
2. 标签管理：为所有监控资源添加清晰的标签，便于识别和管理
3. 配置审核：在集群初始化时，检查并确认Prometheus的采集范围
4. 定期检查：建立监控数据准确性的定期检查机制

总结

KubeSphere集群节点资源配置显示异常问题通常是由于监控数据重复采集导致的。通过合理配置Prometheus的服务监控选择器，可以确保资源数据的准确性。这个问题也提醒我们，在云原生环境中，各种组件的集成需要特别注意配置的兼容性和数据的一致性。掌握这些排查和解决问题的思路，对于维护生产环境的稳定性至关重要。