Kubeblocks中MySQL集群所有Pod显示为Primary状态问题分析

问题现象

在使用Kubeblocks部署MySQL集群时，发现一个异常现象：当创建一个包含2个副本的MySQL集群后，两个Pod实例都被标记为"primary"角色。正常情况下，MySQL主从复制架构中应该只有一个主节点(Primary)，其余为从节点(Secondary)。

通过kbcli cluster list-instances命令查看集群实例状态，发现两个Pod都显示为primary角色：

NAME                    NAMESPACE   CLUSTER         COMPONENT   STATUS    ROLE      ACCESSMODE   AZ       CPU(REQUEST/LIMIT)   MEMORY(REQUEST/LIMIT)   STORAGE     NODE                        CREATED-TIME                 
mysql-cluster-mysql-0   default     mysql-cluster   mysql       Running   primary   <none>       <none>   500m / 500m          512Mi / 512Mi           data:20Gi   disk-full-test/10.3.0.4     Dec 13,2024 13:59 UTC+0800   
mysql-cluster-mysql-1   default     mysql-cluster   mysql       Running   primary   <none>       <none>   500m / 500m          512Mi / 512Mi           data:20Gi   disk-full-test-1/10.3.0.6   Dec 13,2024 13:59 UTC+0800

技术背景

在Kubeblocks中，MySQL集群的部署和管理是通过Operator模式实现的。Operator会创建并管理一组Pod，这些Pod通过Kubernetes的StatefulSet控制器进行编排。每个Pod中运行着MySQL数据库实例，并通过Kubeblocks提供的lorry组件进行角色探测和管理。

正常情况下，MySQL集群应该自动形成一个主从复制拓扑结构，其中：

1. 一个Pod被选举为主节点(Primary)，负责处理所有写操作
2. 其他Pod作为从节点(Secondary)，从主节点同步数据

问题分析

通过查看Pod日志，我们可以发现问题的根源：

1. 第一个Pod(mysql-cluster-mysql-0)启动时：

   • 检测到没有现有的leader配置
   • 将自己声明为primary角色
   • 发送事件通知集群状态变更

2. 第二个Pod(mysql-cluster-mysql-1)启动时：

   • 检测到已经存在一个leader(mysql-cluster-mysql-0)
   • 但是仍然将自己声明为primary角色
   • 发送事件通知集群状态变更

关键日志片段：

DEBUG checkrole check member {"member": "mysql-cluster-mysql-0", "role": "primary"}
INFO checkrole there is a another leader {"member": "mysql-cluster-mysql-0"}
INFO checkrole another leader's lorry is online, just ignore {"member": "mysql-cluster-mysql-0"}
DEBUG checkrole check member {"member": "mysql-cluster-mysql-1", "role": ""}

这表明lorry组件虽然检测到了另一个主节点存在，但仍然将自己的角色设置为primary，这显然是不符合预期的行为。

问题原因

经过深入分析，这个问题可能由以下几个因素导致：

1. 角色选举机制缺陷：Kubeblocks使用的DCS-K8S分布式协调服务在检测到已有leader时，未能正确阻止新实例声明为主节点。

2. 事件处理逻辑问题：lorry组件在检测到其他主节点存在时，虽然记录了日志，但未能正确调整自身角色状态。

3. 配置同步延迟：可能存在leader配置信息在集群中传播延迟的问题，导致多个实例同时认为自己是主节点。

解决方案

该问题已被项目维护者标记为已修复。修复方案可能包括：

1. 改进选举机制：增强DCS-K8S服务的leader选举逻辑，确保任何时候只有一个实例能成为主节点。

2. 完善角色检查：在lorry组件中增加更严格的角色验证逻辑，当检测到已有主节点时，自动将自身角色调整为从节点。

3. 增加冲突检测：在角色变更事件中添加冲突检测机制，防止多个实例同时声明为主节点。

最佳实践建议

对于使用Kubeblocks部署MySQL集群的用户，建议：

1. 版本选择：确保使用已修复该问题的Kubeblocks版本。

2. 监控配置：设置适当的监控，及时发现并处理集群中的角色异常。

3. 测试验证：在部署生产环境前，充分测试集群的故障转移和角色切换能力。

4. 资源规划：为MySQL实例分配足够的CPU和内存资源，避免因资源不足导致角色选举异常。

总结

Kubeblocks作为一款数据库云原生管理工具，在简化数据库部署和管理方面提供了很大便利。这次遇到的MySQL集群多主问题展示了分布式系统在角色管理方面的复杂性。通过分析这类问题，我们可以更好地理解Kubeblocks内部工作机制，并在实际使用中采取适当的预防措施。