Botorch中多目标优化的绝对值最小化问题解决方案

多目标优化中的绝对值最小化挑战

在基于Botorch框架进行贝叶斯优化时，我们经常会遇到多目标优化问题。其中一种典型场景是：一个目标需要最大化，而另一个目标则需要最小化其绝对值。这种需求在实际工程和科研中十分常见，例如在控制系统设计中，我们可能希望最大化系统性能指标，同时最小化控制输入的绝对值以降低能耗。

传统方法的局限性

对于简单的多目标优化问题，Botorch提供的qNEHVI和qEHVI算法能够很好地处理以下情况：

• 两个目标都需要最大化
• 两个目标都需要最小化
• 一个目标需要最大化，另一个需要最小化（通过取负转换为最大化问题）

然而，当遇到需要最小化目标绝对值的情况时，直接对训练集取绝对值会导致尺度问题，这种方法并不可行。因为绝对值操作会破坏原始数据的分布特性，影响高斯过程模型的拟合效果。

基于复合目标的解决方案

针对这一问题，Botorch专家提出了使用复合目标的创新方法。具体实现思路如下：

1. 保持第一个目标的原始形式：对于需要最大化的目标，直接使用原始输出值。

2. 对第二个目标进行转换：对于需要最小化绝对值的第二个目标，采用负平方距离的形式。这种转换有两个优点：

   • 保持了最大化优化的框架
   • 平方操作强化了接近零值的优化效果

技术实现细节

在Botorch中，可以通过定义自定义目标函数来实现这一策略：

def custom_objective(Y, X): 
    return Y[..., 0], -(Y[..., 1].pow(2))

objective = GenericMCMultiOutputObjective(objective=custom_objective)

这段代码中：

• Y[..., 0]表示第一个目标输出，保持原样用于最大化
• -(Y[..., 1].pow(2))对第二个目标取平方后取负，转换为最大化问题
• GenericMCMultiOutputObjective将自定义目标函数封装为Botorch可用的目标对象

实际应用建议

在实际应用中，采用这种方法时需要注意以下几点：

1. 目标尺度平衡：确保两个目标在数值尺度上相近，必要时可以进行归一化处理。

2. 模型验证：在实施前，建议先用模拟数据验证复合目标的效果。

3. 超参数调整：可能需要调整获取函数的相关超参数以获得最佳性能。

4. 结果解释：最终结果需要反向转换回原始目标空间进行解释。

这种基于复合目标的方法为处理绝对值最小化需求提供了一种优雅的解决方案，扩展了Botorch在多目标优化问题中的应用范围。