深入分析oneTBB项目中concurrent_vector的阻塞问题

问题背景

在Intel的oneTBB(Threading Building Blocks)并行编程库中，tbb::concurrent_vector是一个线程安全的动态数组容器，它允许多个线程并发地进行插入操作而无需外部同步。然而，在2021.13版本中，用户报告了一个严重的阻塞问题，即使在最简单的使用场景下也会出现。

问题现象

当多个线程同时调用concurrent_vector的grow_by()方法进行并发插入时，系统会出现阻塞。具体表现为多个线程在grow_by()函数内部无限循环等待，无法继续执行。这个问题在Windows 10 Enterprise LTSC系统上使用Visual Studio 2017(17.9.7版本)编译运行时被观察到，硬件环境为Intel Xeon Gold 6248R CPU。

问题复现

通过以下简单的测试代码可以稳定复现该问题：

#include "random"
#include "oneapi/tbb/parallel_for.h"
#include "oneapi/tbb/concurrent_vector.h"

std::mt19937_64 gen;

int main()
{
    constexpr int max_grow_by = 32;
    constexpr int n_inserts = 1024;
    constexpr int n_repits = 1024*128;
    auto rand = std::bind(std::uniform_int_distribution<int>{1, max_grow_by}, std::ref(gen));

    std::vector<int> n_grow_by(n_inserts);
    for (int iter = 0; iter < n_repits; ++iter) {
        std::generate(n_grow_by.begin(), n_grow_by.end(), rand);
        tbb::concurrent_vector<double> vec;
        tbb::parallel_for<int>(0, n_inserts, [&](int i) {
            vec.grow_by(n_grow_by[i]);
        });
    }
    return 0;
}

技术分析

concurrent_vector内部使用分段表结构来支持并发增长，每个段包含固定数量的元素。当容器需要扩容时，多个线程可能会同时尝试分配新的段。阻塞问题的根源在于内部同步机制的设计缺陷：

1. 分段表锁竞争：多个线程同时尝试修改分段表时，可能会陷入互相等待的状态
2. 内存分配竞争：在分配新段内存时，如果多个线程同时触发分配，可能导致锁竞争
3. 扩容策略问题：grow_by()方法的实现可能在处理并发扩容请求时存在逻辑缺陷

解决方案

开发团队已经提出了修复方案，主要改进点包括：

1. 优化内部锁机制，减少锁竞争的可能性
2. 改进内存分配策略，避免在热点路径上进行同步
3. 重新设计扩容算法，确保在高并发场景下的正确性

影响范围

该问题影响所有使用concurrent_vector进行高并发插入操作的应用程序，特别是在以下场景中风险较高：

• 大量线程同时调用grow_by()方法
• 插入操作频繁且不可预测
• 系统负载较高时

最佳实践

在使用concurrent_vector时，建议：

1. 避免在热点路径上频繁调用grow_by()
2. 如果可能，预先预留足够的容量
3. 考虑批量插入而非单元素插入
4. 及时更新到修复后的版本

结论

并发容器的实现是并行编程中最具挑战性的任务之一。oneTBB团队对concurrent_vector阻塞问题的快速响应和修复展现了其对产品质量的承诺。开发者在使用此类高级并发数据结构时，应当充分了解其特性和限制，并在生产环境中进行充分的压力测试。