GreptimeDB 中 Mito 与 Metasrv 在添加列时行为不一致问题分析

问题背景

在分布式时序数据库 GreptimeDB 中，用户通过 gRPC 接口执行表结构变更操作时，发现 Mito 存储引擎与 Metasrv 元数据服务在处理多列添加请求时存在行为不一致的问题。这种不一致性会导致后续数据插入操作失败，属于严重的数据一致性问题。

问题现象

当用户按照以下步骤操作时会出现异常：

1. 创建包含列(a, ts)的表test
2. 通过gRPC请求添加列(a, b)，即使忽略错误
3. 再次通过gRPC请求添加列(c, d)
4. 尝试插入数据
5. 执行查询操作

预期结果是插入和查询都能成功执行，但实际会出现插入失败，报错信息显示系统无法找到列b。

技术分析

根本原因

这个问题暴露出 GreptimeDB 在分布式架构下两个核心组件间的协同问题：

1. Mito引擎：作为存储引擎，负责实际的数据存储和表结构管理
2. Metasrv服务：作为元数据服务，维护集群的元数据状态

当连续执行多个添加列操作时，特别是当某些操作可能包含重复列名时，两个组件对表结构变更的处理逻辑出现了分歧，导致最终状态不一致。

影响范围

该问题会影响以下部署模式：

• 单机模式(Standalone)
• 分布式集群模式(Distributed Cluster)

版本影响范围包括0.11.1及可能更早版本。

解决方案思路

要解决这个问题，需要从以下几个方面入手：

1. 操作原子性：确保添加多列的操作是原子的，要么全部成功，要么全部失败
2. 状态一致性：在Mito和Metasrv之间建立更强的一致性保证机制
3. 冲突检测：在添加列操作前，先检查列名是否已存在，避免重复添加
4. 错误处理：完善错误处理机制，确保在出现冲突时能正确回滚

技术实现建议

在具体实现上，建议采用以下方法：

1. 两阶段提交：对于分布式环境下的表结构变更，采用两阶段提交协议确保所有节点状态一致
2. 乐观锁控制：使用版本号机制检测并发修改，防止不一致状态
3. 预检查机制：在执行实际变更前，先在内存中模拟操作结果，验证操作的可行性
4. 完善测试用例：增加针对并发DDL操作和异常场景的测试用例

总结

这个问题揭示了分布式数据库系统中组件间协同一致性的重要性。通过分析GreptimeDB中Mito和Metasrv在添加列操作时的行为差异，我们可以更好地理解分布式系统设计中状态同步的挑战。解决这类问题不仅需要修复具体bug，更需要建立完善的分布式事务机制和一致性保证策略，这对提升GreptimeDB的稳定性和可靠性具有重要意义。