scikit-learn中OpenBLAS 0.3.28线程安全问题的分析与解决方案

在scikit-learn项目的最新开发过程中，我们发现了一个与OpenBLAS 0.3.28版本相关的线程安全问题。这个问题表现为在多线程环境下执行距离计算时会出现段错误（Segmentation Fault），特别是在使用pthreads线程模型的OpenBLAS实现时。

问题现象

当使用OpenBLAS 0.3.28的pthreads版本时，在特定硬件架构（如Haswell、SkylakeX等）上运行包含并行距离计算的scikit-learn代码时，程序会意外崩溃。典型的崩溃场景包括：

1. 使用pairwise_distances函数计算欧氏距离
2. 结合joblib并行执行BLAS运算
3. 在调用threadpool_limits后创建并行任务

这个问题不会出现在OpenBLAS 0.3.27版本中，也不会出现在使用OpenMP线程模型的OpenBLAS 0.3.28版本中。

技术背景

OpenBLAS是一个高性能的BLAS实现，它支持多种线程模型，包括pthreads和OpenMP。在并行计算场景中，BLAS库的线程安全性至关重要，特别是在以下复杂情况下：

• 多级并行：当应用层并行（如joblib）与BLAS内部并行同时使用时
• 线程限制：当动态调整BLAS线程数时
• 进程分叉：在fork子进程中继续使用BLAS运算

问题根源

通过深入分析，我们发现这个问题的根本原因在于OpenBLAS 0.3.28的pthreads实现在处理多级并行和线程限制时存在缺陷。具体表现为：

1. 线程本地存储(TLS)管理不当
2. 在fork后的子进程中线程状态不一致
3. 线程数限制与并行执行的交互问题

解决方案

目前有以下几种解决方案：

1. 降级OpenBLAS：将OpenBLAS降级到0.3.27版本

   • Conda用户：conda install libopenblas=0.3.27
   • Pip用户：确保numpy和scipy不使用OpenBLAS 0.3.28

2. 使用OpenMP版本：如果环境允许，使用OpenMP线程模型的OpenBLAS

   • Conda用户：mamba install "libopenblas=0.3.28=*openmp*"

3. 设置环境变量：通过设置OPENBLAS_NUM_THREADS或OMP_NUM_THREADS可以避免问题

开发者建议

对于scikit-learn开发者，建议在测试矩阵中加入以下场景：

1. 多核环境下的BLAS并行测试
2. 结合joblib和BLAS并行的测试用例
3. 不同OpenBLAS版本和线程模型的组合测试

对于最终用户，如果遇到类似的段错误问题，建议：

1. 检查OpenBLAS版本和线程模型
2. 尝试限制BLAS线程数
3. 考虑使用OpenMP版本的BLAS实现

未来展望

OpenBLAS开发团队已经在开发版本中修复了这个问题，预计将在0.3.29版本中发布。建议用户关注OpenBLAS的更新，并在稳定版本发布后及时升级。

对于高性能计算应用，线程安全和多级并行是持续需要关注的领域。建议开发者在设计并行算法时充分考虑不同BLAS实现的特性，并进行充分的兼容性测试。