BoTorch项目中多保真度下界最大价值熵获取函数的缺陷分析
2025-06-25 08:55:05作者:瞿蔚英Wynne
问题概述
在BoTorch深度学习框架中,研究人员发现了一个关于多保真度优化的重要缺陷。具体而言,当使用qMultiFidelityLowerBoundMaxValueEntropy获取函数时,如果存在待评估点(X_pending),该函数会意外失败。这一现象在使用SingleTaskMultiFidelityGP模型时尤为明显,而标准的多保真度最大价值熵获取函数(qMultiFidelityMaxValueEntropy)则表现正常。
技术背景
多保真度优化是贝叶斯优化领域的重要技术,它允许算法同时考虑不同保真度(精度)级别的评估数据。BoTorch框架提供了两种相关的获取函数:
qMultiFidelityMaxValueEntropy- 标准的多保真度最大价值熵方法qMultiFidelityLowerBoundMaxValueEntropy- 基于下界近似的高效变体
这两种方法都设计用于处理批量评估(q>1)和待评估点(X_pending),但在实际实现中,下界变体出现了兼容性问题。
问题表现
当尝试使用qMultiFidelityLowerBoundMaxValueEntropy获取函数进行优化时,如果设置了待评估点,系统会抛出形状不匹配的运行时错误。错误发生在尝试广播张量形状时,表明在内部计算过程中存在维度处理不当的问题。
根本原因分析
经过深入调查,发现问题根源在于:
qMultiFidelityLowerBoundMaxValueEntropy继承自两个基类功能,在整合过程中对张量形状的处理不够完善- 当存在待评估点时,系统需要同时处理当前候选点和待评估点的组合形状,而现有实现未能正确处理这种情况
- 虽然文档表明支持q>1和X_pending,但实际实现中存在隐含的q=1假设
解决方案
目前采取的临时解决方案是:
- 移除了
X_pending参数支持,避免错误发生 - 添加了明确的限制说明
长期解决方案需要:
- 重新设计张量形状处理逻辑
- 确保与基类功能的完全兼容
- 完善测试用例,覆盖各种参数组合
影响范围
这一问题主要影响以下使用场景:
- 需要同时进行多保真度优化和异步评估的应用
- 使用下界近似方法以提高计算效率的场景
- 批量评估(q>1)与待评估点组合使用的情况
最佳实践建议
在问题完全修复前,建议用户:
- 对于需要待评估点的场景,暂时使用标准的多保真度最大价值熵方法
- 如果必须使用下界变体,确保不设置待评估点
- 密切关注BoTorch的版本更新,及时获取修复补丁
总结
这一缺陷揭示了贝叶斯优化框架中复杂获取函数实现面临的挑战,特别是在组合多种高级功能时。BoTorch团队已经意识到这一问题,并正在积极寻求长期解决方案。对于用户而言,理解这些限制有助于更好地规划实验设计和算法选择。
登录后查看全文
热门项目推荐
相关项目推荐
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C094
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python058
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
AgentCPM-Explore没有万亿参数的算力堆砌,没有百万级数据的暴力灌入,清华大学自然语言处理实验室、中国人民大学、面壁智能与 OpenBMB 开源社区联合研发的 AgentCPM-Explore 智能体模型基于仅 4B 参数的模型,在深度探索类任务上取得同尺寸模型 SOTA、越级赶上甚至超越 8B 级 SOTA 模型、比肩部分 30B 级以上和闭源大模型的效果,真正让大模型的长程任务处理能力有望部署于端侧。Jinja00
最新内容推荐
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
475
3.54 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
225
94
暂无简介
Dart
725
175
React Native鸿蒙化仓库
JavaScript
287
339
Ascend Extension for PyTorch
Python
284
316
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.27 K
701
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
10
1
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
849
441
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
65
19