Botorch中LogNoisyExpectedImprovement和NoisyExpectedImprovement的模型兼容性问题分析

问题背景

在Botorch项目中，LogNoisyExpectedImprovement和NoisyExpectedImprovement这两个获取函数(Acquisition Function)的实现中存在一个重要的兼容性问题。这两个类在内部使用_get_noiseless_fantasy_model函数来创建幻想模型(Fantasy Model)，但当前实现仅支持默认配置的GP模型（使用默认的Matern核函数），且不支持任何输入或输出变换。

问题表现

当用户尝试使用以下配置时，代码会抛出异常：

1. 使用了输入变换(InputTransform)或输出变换(OutcomeTransform)
2. 使用了非默认的协方差模块(CovarModule)，如RBFKernel
3. 使用了非默认的均值模块(MeanModule)

错误信息表明状态字典(state_dict)加载失败，因为模型结构不匹配。

技术分析

_get_noiseless_fantasy_model函数的当前实现存在几个关键限制：

1. 硬编码创建默认的SingleTaskGP模型，忽略了原始模型的配置
2. 没有正确处理输入/输出变换
3. 状态字典加载采用严格模式(strict=True)，导致结构不匹配时直接报错

解决方案思路

一个更健壮的实现应该：

1. 深度复制原始模型的所有关键组件，包括：

   • 协方差模块(covar_module)
   • 均值模块(mean_module)
   • 输入变换(input_transform)
   • 输出变换(outcome_transform)

2. 正确处理输出变换的批量扩展：

   • 需要将变换参数扩展到与批量维度匹配

3. 适当处理状态字典加载：

   • 使用strict=False模式加载状态字典
   • 确保变换后的数据与模型结构一致

4. 正确初始化幻想模型：

   • 在设置训练数据后调用eval()
   • 确保输入数据经过适当变换

实现挑战

在尝试实现这一改进时，发现了一些测试失败的情况，特别是：

1. 梯度检查失败(X_test.grad比较)
2. 数值精度阈值检查失败

这表明改进后的实现可能在数值稳定性或梯度传播方面存在微妙差异，需要更深入的分析和调整。

对用户的影响

这个问题限制了Botorch的灵活性，用户无法在这些获取函数中使用：

• 自定义核函数
• 输入标准化/归一化
• 输出标准化 而这些功能在实际应用中往往是必需的。

最佳实践建议

在问题修复前，用户应：

1. 避免在这些获取函数中使用输入/输出变换
2. 使用默认的Matern核函数
3. 考虑使用Monte Carlo获取函数作为替代方案

总结

这个问题揭示了Botorch中幻想模型创建机制的一个局限性。一个完善的解决方案需要仔细处理模型组件的复制、状态字典的加载以及变换的应用，同时确保数值稳定性和梯度计算的正确性。这需要深入理解GPyTorch和Botorch的内部工作机制。

该问题的修复将显著增强Botorch的灵活性和实用性，特别是在需要自定义模型配置的复杂优化场景中。