Apache APISIX 指标异常问题排查与解决

问题背景

在使用 Apache APISIX 3.8.0 版本部署在 EKS 集群时，发现一个异常现象：当将 APISIX 的部署副本数从 1 增加到 10 后，Prometheus 监控指标出现了异常增长，即使在没有实际流量负载的情况下。

现象描述

从监控图表可以观察到：

1. 指标 apisix_http_requests_total 出现了异常增长
2. 在 10 个 APISIX Pod 的部署中，指标值明显高于 5 个 Pod 的部署
3. 深入检查发现，在 5 个 Pod 的部署中，其中一个 Pod 的指标值异常高（约 160,000），而其他 Pod 只有 200-300 左右

配置分析

用户提供的 Helm values.yaml 配置中包含了 Prometheus 插件的关键设置：

pluginAttrs:
  prometheus: 
    export_uri: /apisix/prometheus/metrics 
    metric_prefix: apisix_ 
    enable_export_server: true 
    export_addr: 
      ip: 0.0.0.0 
      port: 9091 
    prefer_name: true

问题原因

1. 指标标签缺失：从现象看，指标 apisix_http_requests_total 缺少应有的标签（如路由、服务等标识），这使得难以追踪指标来源
2. Prometheus 配置问题：prefer_name 设置为 true 可能导致指标名称优先于标签
3. 内部通信影响：APISIX 节点间的健康检查或内部通信可能被错误计入指标

解决方案

通过调整 Prometheus 插件的配置解决了问题，关键修改点包括：

1. 优化 prefer_name 设置，确保指标包含足够的标签信息
2. 检查并调整内部通信的监控排除设置
3. 验证指标采集端点的过滤规则

最佳实践建议

1. 合理设置指标前缀和标签：确保监控指标包含足够的上下文信息
2. 副本数调整时的监控验证：在调整 APISIX 集群规模时，应验证监控指标的准确性
3. 内部通信隔离：配置排除内部健康检查等通信的监控计数
4. 版本兼容性检查：确保 Prometheus 插件版本与 APISIX 核心版本兼容

总结

APISIX 的监控指标异常通常与插件配置和内部通信处理相关。通过合理的 Prometheus 插件配置和监控策略调整，可以确保指标数据的准确性和可靠性，为系统运维提供有效的数据支持。