Tarantool项目中的Memtx MVCC引擎处理DDL语句时崩溃问题分析

问题背景

在Tarantool数据库系统中，Memtx作为其内存存储引擎，在启用MVCC(多版本并发控制)功能时，被发现存在一个严重问题：当系统同时处理DDL(数据定义语言)操作和预准备事务语句时，会导致系统崩溃。这一问题在并发环境下尤为突出，可能引发多种不同类型的断言失败。

问题现象

开发人员通过多个测试用例重现了这一问题，主要表现为三种不同的崩溃场景：

1. 故事删除断言失败：在执行空间删除操作时，系统断言story->del_stmt == NULL失败，表明在删除故事时存在未处理的删除语句。

2. 历史回滚断言失败：在修改空间格式时，系统断言test_stmt->del_story == NULL失败，表明在回滚被删除故事的历史记录时存在问题。

3. 不可见计数断言失败：在执行空间格式修改前后进行数据替换操作时，系统断言link->newer_story != NULL失败，表明在计算不可见记录数量时故事链出现异常。

技术分析

MVCC与DDL的交互问题

Memtx MVCC引擎的核心思想是通过维护数据的不同版本来实现并发控制。当DDL操作(如空间删除或格式修改)与普通DML操作(如插入、更新)并发执行时，MVCC需要妥善处理这些操作之间的依赖关系。

问题的根源在于MVCC引擎没有正确处理DDL操作与预准备事务之间的交互。具体表现为：

1. 故事链管理不当：在DDL操作提交前，新旧事务的故事被混在同一个链中，导致后续操作无法正确识别有效记录。

2. 状态同步缺失：当DDL操作修改了表结构后，预准备事务中的语句没有及时同步这些变更，导致后续处理时出现状态不一致。

3. 资源清理不彻底：在DDL操作回滚或提交时，没有完全清理与之相关的MVCC故事和语句资源。

并发场景下的竞态条件

在多线程环境下，当DDL操作与多个并发事务交织执行时，特别是在使用WAL延迟注入模拟网络延迟的情况下，这些问题会以断言失败的形式暴露出来。测试用例中通过以下方式重现了这些问题：

1. 创建多个并发事务对同一数据进行修改
2. 在事务准备阶段注入WAL延迟
3. 在延迟期间发起DDL操作
4. 解除延迟后观察系统行为

解决方案

针对这一问题，Tarantool开发团队进行了深入分析并提出了修复方案，主要改进包括：

1. 完善故事链管理：确保DDL操作前后故事链的完整性，防止新旧事务故事混淆。

2. 加强状态同步机制：在DDL操作执行时，正确处理预准备事务的状态同步，避免出现不一致。

3. 优化资源清理流程：在DDL操作提交或回滚时，彻底清理相关的MVCC资源，防止残留引用。

4. 增强断言检查：在关键路径添加更严格的断言，提前发现问题而非导致崩溃。

影响与建议

这一问题的修复对于使用Tarantool MVCC功能的用户尤为重要，特别是在高并发环境下频繁执行DDL操作的场景。建议用户：

1. 及时升级到包含修复的版本
2. 在高并发场景下谨慎执行DDL操作
3. 考虑在测试环境中验证DDL与事务的交互行为
4. 监控系统日志中的相关警告信息

通过这次问题的分析和修复，Tarantool的MVCC引擎在处理DDL操作时的稳定性和可靠性得到了显著提升，为复杂场景下的数据操作提供了更坚实的基础。