在BoTorch中处理缺失观测点的贝叶斯优化策略

背景介绍

在贝叶斯优化过程中，我们经常会遇到这样的情况：优化目标函数在某些输入点上无法返回有效值（返回NaN）。这种情况在实际应用中很常见，比如某些参数组合会导致实验失败、仿真崩溃或者计算超时。本文将探讨如何在BoTorch框架下优雅地处理这类缺失观测点的问题。

问题分析

当使用贝叶斯优化时，如果目标函数在某些区域返回NaN值，传统的处理方法通常包括：

1. 简单地重新采样新点
2. 给NaN点赋予一个极差的值（如负无穷）
3. 完全避开这些区域

然而，这些方法各有缺点：重新采样可能效率低下；赋予极差值会误导模型；完全避开可能错过潜在的好区域。

BoTorch解决方案

BoTorch提供了几种处理缺失观测点的策略：

1. 直接重采样方法

如提问者所示，可以通过循环不断重采样直到获得有效点：

new_y = torch.full((10,), float('nan'))
while torch.isnan(new_y).any().item():
    new_x, _ = optimize_acqf(
        acq, 
        q=10, 
        bounds=bounds, 
        num_restarts=128, 
        raw_samples=128)
    new_y = f(new_x)

这种方法简单直接，但在高维空间或NaN区域较大时效率较低。

2. 使用X_pending技巧

BoTorch专家建议可以利用X_pending参数来引导采样避开已知的NaN区域：

# 获取已知NaN点的位置
nan_points = train_X[torch.isnan(train_Y)]
acq = qExpectedImprovement(gp, best_f=max(train_Y), X_pending=nan_points)

这种方法通过在采集函数中标记"待处理"点，使优化器倾向于避开这些区域。

3. 构建约束模型

更系统的方法是构建一个二元分类模型来预测哪些区域会产生NaN值：

1. 将NaN观测标记为无效区域
2. 训练一个分类GP模型预测无效概率
3. 在采集函数中加入约束条件

这种方法虽然复杂，但能更智能地探索搜索空间。

实现建议

在实际应用中，建议根据具体情况选择合适的方法：

• 对于NaN点较少的情况，简单重采样可能足够
• 对于中等规模的NaN区域，X_pending技巧是良好的折中方案
• 对于复杂或大规模的无效区域，建议实现完整的约束优化框架

结论

处理缺失观测点是贝叶斯优化中的常见挑战。BoTorch提供了灵活的机制来处理这种情况，从简单的重采样到复杂的约束建模。选择哪种方法取决于具体问题的性质和计算资源的限制。理解这些技术可以帮助研究人员更有效地在实际应用中使用贝叶斯优化。