YugabyteDB事务参与者模块中的竞态条件问题分析

问题背景

在YugabyteDB数据库系统的2.25.1.0-b203版本中，发现了一个与事务处理相关的严重问题。该问题发生在事务参与者(TransactionParticipant)模块中，具体表现为在特定场景下会出现程序崩溃。这个问题在Packed toggle off/on压力测试中被发现，导致了数据库服务进程异常终止。

问题现象

当系统执行事务中止(Abort)操作时，会触发一个SIGABRT信号，导致进程崩溃。从调用栈可以看出，崩溃发生在TransactionParticipant::Impl::Abort方法中，具体是在尝试获取RunningTransaction对象的共享指针时失败。

技术分析

根本原因

问题的根本原因在于RunningTransaction::Abort方法中存在竞态条件。该方法在执行过程中释放了互斥锁后，尝试通过shared_from_this()获取当前对象的共享指针，而此时对象可能已经被销毁。

具体问题代码如下：

void RunningTransaction::Abort(client::YBClient* client,
                             TransactionStatusCallback callback,
                             std::unique_lock<std::mutex>* lock) {
  lock->unlock();  // 释放锁
  // 此时对象可能被销毁
  context_.rpcs_.RegisterAndStart(
      client::AbortTransaction(
          ..., 
          [status_tablet, self = shared_from_this(), ...](...) {
            // 使用self指针
          }),
      &abort_handle_);
}

问题机制

1. 对象生命周期管理：在YugabyteDB中，RunningTransaction对象通过共享指针管理生命周期。当最后一个共享指针释放时，对象会被销毁。

2. 竞态条件形成：在Abort方法中，先释放了锁，然后才尝试获取共享指针。在这两个操作之间，其他线程可能已经释放了对该对象的最后一个引用，导致对象被销毁。

3. 异常抛出：当对象已被销毁时，shared_from_this()会抛出bad_weak_ptr异常，最终导致进程终止。

解决方案

正确的做法是在释放锁之前先获取共享指针，确保对象的生命周期延续到整个操作完成：

void RunningTransaction::Abort(client::YBClient* client,
                             TransactionStatusCallback callback,
                             std::unique_lock<std::mutex>* lock) {
  auto shared_ref = shared_from_this();  // 先获取共享指针
  lock->unlock();  // 再释放锁
  // 使用shared_ref保证对象存活
  context_.rpcs_.RegisterAndStart(
      client::AbortTransaction(
          ..., 
          [status_tablet, self = std::move(shared_ref), ...](...) {
            // 安全使用self指针
          }),
      &abort_handle_);
}

影响范围

该问题影响以下YugabyteDB版本：

• 主开发分支
• 2.20版本分支
• 2024.1版本分支
• 2024.2版本分支

预防措施

为了避免类似问题，开发人员在编写多线程代码时应当：

1. 明确对象的生命周期管理策略
2. 在释放锁之前确保所有必要的资源引用都已获取
3. 对可能被并发访问的共享资源进行严格的生命周期分析
4. 使用RAII模式管理资源

总结

这个案例展示了在多线程环境下对象生命周期管理的重要性。特别是在数据库系统中，事务处理涉及复杂的并发控制，任何细微的竞态条件都可能导致严重问题。通过这个问题的分析，我们不仅解决了具体的崩溃问题，也为类似场景下的代码编写提供了最佳实践参考。