首页
/ TiKV中BatchSplit在联合状态下的挂起问题分析

TiKV中BatchSplit在联合状态下的挂起问题分析

2025-05-14 07:20:48作者:翟江哲Frasier

在TiKV分布式键值存储系统中,存在一个关于BatchSplit操作在特定条件下会挂起的技术问题。这个问题发生在Region处于联合状态(Joint State)时执行BatchSplit操作的情况下。

问题背景

当TiKV集群中的Region处于配置变更的中间状态——即所谓的"联合状态"时,如果此时恰好执行BatchSplit操作,会导致新分裂出来的Region继承了这个联合状态。这种情况下,新Region会一直保持在这个中间状态,直到PD(Placement Driver)检测到并下发"leave-joint-state"操作指令。

问题现象

从日志中可以清晰地看到问题发生的全过程:

  1. 首先系统执行了一个"move-hot-read-leader"操作,这个操作会将Region的leader从一个store迁移到另一个store
  2. 迁移过程中Region进入了联合状态
  3. 在联合状态期间,系统又收到了BatchSplit的请求
  4. 新分裂出来的Region继承了父Region的联合状态配置
  5. 新Region一直保持在这个中间状态,直到约10秒后PD检测到并下发离开联合状态的指令

技术原理分析

这个问题本质上源于TiKV对Region分裂操作和配置变更操作的协调处理不足。在Raft协议中,配置变更是通过两阶段提交完成的:

  1. 第一阶段:进入联合状态,新旧配置同时生效
  2. 第二阶段:提交新配置,退出联合状态

当Region分裂发生时,新Region应该继承父Region的最终稳定状态,而不是中间的过渡状态。当前实现中,新Region直接复制了父Region的全部配置,包括处于联合状态的配置,这就导致了问题。

影响范围

这个问题会影响所有使用BatchSplit功能的场景,特别是在高负载情况下频繁发生leader迁移和Region分裂时。主要影响包括:

  1. Region分裂操作延迟增加
  2. 新Region在联合状态期间无法正常服务请求
  3. 可能导致短暂的读写性能下降

解决方案

从技术实现角度,正确的处理方式应该是:

  1. 在分裂前检查Region是否处于联合状态
  2. 如果处于联合状态,应该等待联合状态完成后再执行分裂
  3. 或者确保新Region继承的是稳定配置而非过渡配置

这个问题的修复需要修改TiKV的Region分裂逻辑,确保新创建的Region总是处于稳定状态,避免继承中间过渡配置。

总结

TiKV中的这个BatchSplit问题展示了分布式系统中状态管理的重要性。在实现复杂操作时,必须考虑所有可能的中间状态及其影响。通过分析这个问题,我们可以更好地理解TiKV内部Region管理和配置变更的机制,也为类似分布式系统的设计提供了有价值的参考。

登录后查看全文
热门项目推荐
相关项目推荐

热门内容推荐

最新内容推荐

项目优选

收起
openHiTLS-examplesopenHiTLS-examples
本仓将为广大高校开发者提供开源实践和创新开发平台,收集和展示openHiTLS示例代码及创新应用,欢迎大家投稿,让全世界看到您的精巧密码实现设计,也让更多人通过您的优秀成果,理解、喜爱上密码技术。
C
53
466
kernelkernel
deepin linux kernel
C
22
5
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
349
381
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
7
0
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
133
186
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
878
517
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
336
1.1 K
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
180
264
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
612
60
note-gennote-gen
一款跨平台的 Markdown AI 笔记软件,致力于使用 AI 建立记录和写作的桥梁。
TSX
83
4