Apache Kvrocks集群中从节点数据同步失败问题分析

问题描述

在使用Apache Kvrocks构建Redis集群时，发现当通过kvrocks-controller创建集群后，从节点无法正确同步主节点的数据。具体表现为：在主节点执行SET命令写入数据后，从节点无法通过GET命令获取到相应数据。

环境配置

• Kvrocks版本：2.8
• Kvrocks-controller版本：unstable
• 编译选项：启用了-DPORTABLE=1标志
• 集群配置：6个节点，副本数为2

问题复现步骤

1. 通过kvrocks-controller的API接口创建集群
2. 在主节点执行SET命令写入测试数据
3. 在从节点尝试GET命令获取数据
4. 发现从节点无法获取主节点写入的数据

根本原因分析

经过深入排查，发现问题出在集群配置参数master-use-repl-port上。该参数在集群模式下必须设置为no，而当前配置中该参数被设置为yes，导致了数据同步失败。

解决方案

修改Kvrocks配置文件，确保在集群模式下将master-use-repl-port参数设置为：

master-use-repl-port no

技术背景

master-use-repl-port参数控制着主节点是否使用专用复制端口进行数据同步。在集群模式下，正确的配置应该是：

1. 单机模式：可以设置为yes，使用专用复制端口
2. 集群模式：必须设置为no，使用常规端口进行数据同步

这个参数配置错误会导致集群节点间的通信协议不匹配，从而造成数据同步失败。

预防措施

为了避免类似问题再次发生，建议：

1. 在部署Kvrocks集群前，仔细检查所有配置参数
2. 针对不同部署模式（单机/集群）使用不同的配置模板
3. 在集群创建后，立即验证主从同步是否正常
4. 建立配置检查清单，确保关键参数设置正确

总结

Kvrocks作为Redis兼容的分布式存储系统，在集群配置上有其特定的要求。master-use-repl-port参数的正确设置对于集群数据同步至关重要。通过本次问题的分析和解决，我们更加深入理解了Kvrocks集群配置的关键点，为后续的运维工作积累了宝贵经验。