Valkey集群故障转移过程中slot统计断言失败问题分析

问题背景

在使用Valkey集群时，当执行手动故障转移操作(cluster failover)将副本节点提升为主节点时，系统会触发断言失败导致崩溃。错误信息显示在cluster_slot_stats.c文件的第153行，断言条件server.cluster->slot_stats[c->slot].network_bytes_out >= (uint64_t)llabs(len)不成立。

问题现象

在维护过程中进行手动集群故障转移时，多个Valkey节点因相同的断言错误而崩溃。该问题仅在启用了--cluster-slot-stats-enabled yes配置时出现。

技术分析

集群slot统计机制

Valkey集群中的slot统计功能用于跟踪每个slot的网络流量。当启用cluster-slot-stats-enabled配置时，系统会记录每个slot的输入输出字节数，这对于监控和负载均衡非常有用。

断言失败原因

在故障转移过程中，新提升的主节点会继承原主节点的slot统计信息。然而，当客户端在新主节点开始处理请求时，系统会检查slot统计中的输出字节数是否大于等于当前请求的长度。由于故障转移后slot统计信息可能被重置或未正确初始化，导致这一断言条件不成立。

问题复现条件

1. 集群配置：至少2个节点，一个主节点和一个副本节点
2. 配置要求：两个节点都启用--cluster-slot-stats-enabled yes
3. 操作步骤：
   • 客户端持续向副本节点发送SET命令
   • 执行故障转移操作将副本提升为主节点
   • 新主节点在处理请求时会触发断言失败

解决方案

该问题已在最新代码中得到修复，主要修改包括：

1. 在故障转移过程中正确处理slot统计信息的初始化
2. 确保slot统计信息的连续性
3. 增加对统计信息的有效性检查

最佳实践建议

对于生产环境使用Valkey集群的用户，建议：

1. 如果不需要slot级别的流量统计，可以考虑禁用cluster-slot-stats-enabled选项
2. 在进行故障转移操作前，确保集群处于稳定状态
3. 监控集群状态，特别是在执行维护操作时
4. 及时更新到包含修复补丁的版本

总结

Valkey集群的slot统计功能在特定场景下可能引发断言失败问题，特别是在故障转移过程中。通过理解其内部机制和正确配置，可以有效避免此类问题。对于需要精确slot统计的用户，建议使用已修复该问题的版本。