Botorch中优化算法homotopy方法的约束支持改进

背景介绍

Botorch是PyTorch生态中专注于贝叶斯优化的核心库，其optimize_acqf_homotopy方法实现了一种基于同伦（homotopy）的优化算法。该方法通过逐步调整优化问题的参数来寻找全局最优解，特别适用于复杂的非凸优化问题。

问题发现

在近期使用过程中，开发者发现optimize_acqf_homotopy方法存在一个明显的功能缺失：它无法处理优化过程中的各种约束条件，包括不等式约束、等式约束和非线性不等式约束。这一限制使得该方法无法应用于许多实际场景，特别是需要满足特定约束条件的混合优化问题。

技术分析

现有实现的问题

当前实现中，optimize_acqf_homotopy方法通过两个阶段进行优化：

1. 循环优化阶段：使用optimize_acqf进行初步优化
2. 最终优化阶段：使用更精确的参数进行最终优化

然而，该方法存在两个主要问题：

1. 约束参数无法从外部传入
2. 某些参数（如fixed_features）仅在循环阶段使用，而不会传递到最终优化阶段

设计考量

在讨论解决方案时，开发者提出了几种可能的实现方式：

1. 显式参数传递：将optimize_acqf的所有参数都作为optimize_acqf_homotopy的参数
2. 关键字参数字典：使用optimize_acqf_loop_kwargs和optimize_acqf_final_kwargs两个字典参数
3. 混合方案：对常用参数使用显式传递，对特殊参数使用字典

经过深入讨论，核心开发者澄清了options和final_options参数的设计初衷：它们用于控制不同优化阶段的精度和迭代次数，从而提高整体优化效率。

解决方案

最终确定采用以下改进方案：

1. 添加三个明确的约束参数：

   • inequality_constraints
   • equality_constraints
   • nonlinear_inequality_constraints

2. 修复参数传递bug，确保所有相关参数都能正确传递到两个优化阶段

3. 更新文档说明，明确options参数的实际用途和预期行为

技术意义

这一改进使得optimize_acqf_homotopy方法能够：

• 处理带约束的优化问题
• 保持与optimize_acqf方法一致的API设计
• 提高在混合优化问题中的实用性
• 为稀疏优化等特殊场景提供更好的支持

实现细节

在具体实现中，需要注意：

1. 约束条件在两个优化阶段应保持一致
2. 需要添加充分的测试用例验证约束处理功能
3. 考虑向后兼容性，避免破坏现有代码

总结

Botorch团队通过这一改进，增强了optimize_acqf_homotopy方法的功能性和实用性，使其能够更好地服务于需要约束优化的实际应用场景。这一改进也体现了开源社区通过协作解决实际问题的典型过程，从问题发现到方案讨论，再到最终实现。