Apache Kvrocks 数据库一致性隔离语义优化方案探讨

背景介绍

Apache Kvrocks作为一款高性能键值存储系统，其当前的数据库API在处理多读操作或嵌套调用时存在一个潜在问题：这些读操作没有使用固定的数据快照，可能导致单次操作过程中读取到不同时间点的数据快照，从而引发数据一致性问题。

问题分析

在分布式数据库系统中，事务隔离级别和数据一致性是核心关注点。当前Kvrocks的实现中，当API执行包含多个读操作或嵌套调用时，每个读操作可能会获取不同的快照，这种不一致的快照视图可能导致业务逻辑出现异常。

解决方案设计

经过社区讨论，提出了引入Context参数的解决方案：

struct Context {
  explicit Context(engine::Storage *storage) 
    : storage_(storage), 
      snapshot_(storage->GetDB()->GetSnapshot()) {}

  engine::Storage *storage_ = nullptr;
  const rocksdb::Snapshot *snapshot_ = nullptr;
  rocksdb::WriteBatchWithIndex* batch_ = nullptr;

  Context() = default;
  rocksdb::ReadOptions GetReadOptions();
  const rocksdb::Snapshot *GetSnapShot();
};

该设计的核心思想是：

1. 通过Context传递确定的快照
2. 在整个调用过程中保持快照不变
3. 对于需要读取当前操作自身写入数据的场景，使用WriteBatchWithIndex结合GetFromBatchAndDB方法

技术挑战与讨论

在实现过程中，开发团队遇到了几个关键技术挑战：

1. WriteBatch处理问题：

   • 当前大多数操作使用WriteBatch
   • 需要将操作序列从WriteBatch复制到Context的WriteBatchWithIndex
   • 讨论了两种实现方式：
     • 保留WriteBatch，通过Iterator追加操作
     • 改用WriteBatchBase接口

2. DeleteRange操作的特殊性：

   • WriteBatchWithIndex不完全支持所有WriteBatch操作
   • DeleteRange操作在WriteBatchWithIndex中的索引问题
   • 性能考量：大规模删除操作可能导致服务停顿

3. 隔离级别定义：

   • 多线程处理请求时的隔离级别选择
   • 倾向于实现快照隔离(Snapshot Isolation)
   • 写操作锁保护机制分析

实施进展

目前解决方案正在实施中，主要进展包括：

1. 采用第一种方案处理WriteBatch
2. 对DeleteRange操作进行特殊处理
3. 正在进行Golang测试环境的调试

未来展望

这项改进将显著提升Kvrocks的数据一致性保证，为复杂业务场景提供更可靠的基础设施支持。后续工作将重点关注：

1. 性能优化，特别是大规模删除场景
2. 更全面的测试覆盖
3. 与其他特性的兼容性验证

通过这项改进，Kvrocks将能够为使用者提供更强的一致性保证，满足更广泛的业务场景需求。