VictoriaMetrics中vmagent升级后时间序列激增问题分析

问题背景

在VictoriaMetrics监控系统中，用户从vmagent 1.103.0版本升级到1.104.0版本后，观察到了一个严重的问题：系统中新创建的时间序列数量(vm_new_timeseries_created_total)出现了大幅增长，这直接导致了vmstorage节点的CPU使用率达到100%，最终引发集群故障。

问题根源

经过深入分析，发现问题与vmagent的-streamAggr.dedupInterval=30s参数配置密切相关。这个参数在1.104.0版本中的行为发生了重要变化：

1. 行为变更：在1.104.0版本之前，去重功能仅作用于流聚合配置(streamAggr.config)中明确匹配的指标。而在1.104.0版本后，当设置了streamAggr.dedupInterval或remoteWrite.streamAggr.dedupInterval参数时，去重操作会应用于所有数据。

2. 标签排序影响：去重处理器会对指标标签进行排序操作。如果原始指标标签未排序，经过排序后会被视为新的时间序列，导致vm_new_timeseries_created_total计数器增加。

技术细节

1. 去重机制：VictoriaMetrics的去重功能会对传入的样本数据进行处理，确保在指定时间窗口内相同指标的重复数据被合并。

2. 标签排序：在去重过程中，系统会对指标标签进行标准化排序。例如，指标metric{a="1",b="2"}和metric{b="2",a="1"}虽然在语义上相同，但由于标签顺序不同，在未经排序的情况下会被视为不同的时间序列。

3. 性能影响：大规模的去重操作会显著增加vmagent的处理负担，同时由于新时间序列的创建，会给vmstorage带来额外的索引压力。

解决方案

对于遇到类似问题的用户，建议采取以下解决方案：

1. 配置调整：如果只需要对特定指标进行去重，应避免使用全局的streamAggr.dedupInterval参数，改为在流聚合配置文件中为特定规则设置dedup_interval属性。

2. 监控策略：

   • 升级前评估指标标签的排序情况
   • 监控vm_new_timeseries_created_total指标的变化
   • 关注vmstorage的CPU使用率和索引增长情况

3. 最佳实践：

   • 在应用端确保指标标签的标准化输出
   • 对于不需要去重的场景，避免启用全局去重功能
   • 合理设置去重时间窗口，平衡数据精度和系统负载

总结

这次事件揭示了监控系统中一个容易被忽视的细节——指标标签的顺序一致性。VictoriaMetrics在1.104.0版本中修正了去重功能的行为，使其与文档描述一致，但这也带来了兼容性挑战。运维团队在升级监控系统时，需要充分理解各版本的行为差异，做好充分的测试和预案，特别是对于处理海量时间序列的生产环境。