Botorch模型拟合在Scipy 1.15版本中的兼容性问题分析

问题背景

Botorch是一个基于PyTorch的贝叶斯优化库，它依赖于Scipy的优化算法进行模型参数拟合。近期Scipy发布了1.15版本，其中对L-BFGS-B优化器进行了重大改进，将其核心代码从Python迁移到了C语言实现。这一改动虽然提升了性能，但却导致了Botorch中模型拟合功能的失效。

问题表现

在Scipy 1.15环境下运行Botorch的测试用例时，模型拟合过程会出现失败。具体表现为优化算法无法正确收敛或返回预期结果。开发团队暂时通过锁定Scipy版本(<1.15)来规避这个问题，但这只是一个临时解决方案。

技术分析

L-BFGS-B优化器的变化

Scipy 1.15中对L-BFGS-B优化器的重构是其核心变化之一。L-BFGS-B是一种常用的拟牛顿优化算法，特别适合处理有边界约束的优化问题。在Botorch中，它被广泛用于模型参数的拟合过程。

从Python到C的迁移带来了以下潜在影响点：

1. 数值精度处理方式可能发生变化
2. 收敛判据的实现细节可能有差异
3. 回调函数的处理逻辑可能不同
4. 边界约束的实施方式可能有调整

Botorch中的优化流程

Botorch通过ScipyOptimizer类封装了Scipy的优化功能，主要流程包括：

1. 将PyTorch张量转换为NumPy数组
2. 设置优化参数和边界条件
3. 调用Scipy的minimize函数
4. 将结果转换回PyTorch张量

这一流程在Scipy 1.15中可能出现问题的环节可能包括：

• 数据类型转换不兼容
• 梯度计算方式不一致
• 优化终止条件判断差异

解决方案建议

短期解决方案

1. 版本锁定：暂时限制Scipy版本在1.15以下，确保现有功能稳定
2. 测试环境隔离：为不同Scipy版本设置独立的测试环境

长期解决方案

1. 兼容性适配：修改Botorch的优化器封装，使其能够适应Scipy 1.15+的变化
2. 算法替代：考虑引入其他优化算法作为备选方案
3. 版本感知逻辑：实现能够根据Scipy版本自动调整的优化流程

实施建议

对于需要立即解决问题的用户，建议暂时锁定Scipy版本：

pip install scipy<1.15

对于开发者，建议进行以下验证：

1. 在不同Scipy版本下运行完整的测试套件
2. 比较优化结果在不同版本下的数值差异
3. 检查边界约束处理是否一致
4. 验证梯度计算是否正确传递

总结

Scipy 1.15对L-BFGS-B优化器的重构虽然提升了性能，但也带来了与Botorch的兼容性问题。这一问题凸显了科学计算生态系统中版本依赖管理的重要性。建议开发者在升级依赖库时进行充分测试，特别是当依赖库进行了底层实现变更时。对于Botorch团队来说，这既是一个需要立即解决的问题，也是一个改进优化流程鲁棒性的机会。