Botorch中待处理点(X_pending)在复合采集函数中的处理机制
在贝叶斯优化框架Botorch中,采集函数(Acquisition Function)的设计是一个核心组件。当我们需要构建复合采集函数时(即一个采集函数包装另一个采集函数),待处理点(X_pending)的处理机制需要特别注意,以避免重复处理导致的计算错误。
待处理点的基本概念
在贝叶斯优化过程中,"待处理点"指的是那些已经被选中但尚未完成评估的候选点。这些点需要被考虑在当前采集函数的计算中,以避免重复选择相同的或过于接近的点。
Botorch通过@concatenate_pending_points
装饰器来自动处理这些待处理点。这个装饰器会在采集函数的forward
方法被调用时,自动将self.X_pending
与输入的X
进行拼接。
复合采集函数中的问题
当构建复合采集函数时(例如PriorGuidedAcquisitionFunction包装另一个采集函数),如果被包装的采集函数也设置了X_pending,就会出现双重拼接的问题:
- 外层采集函数的
forward
方法会先拼接一次X_pending - 然后在内层采集函数的
forward
方法中又会拼接一次相同的X_pending
这种重复处理不仅浪费计算资源,更重要的是会导致错误的采集函数值计算,从而影响优化过程。
正确的处理方式
正确的做法应该是:
- 只在最外层的复合采集函数中设置X_pending
- 被包装的内层采集函数不应该再设置X_pending
- 外层采集函数负责在适当的时候将X_pending传递给内层计算
在Botorch的实现中,PriorGuidedAcquisitionFunction
就是一个典型的例子。它接受一个基础采集函数作为参数,但只在自己这一层处理X_pending,而不会让基础采集函数也处理相同的X_pending。
实现建议
在实际实现复合采集函数时,开发者应该:
- 明确文档说明X_pending应该在哪里设置
- 在初始化时检查被包装的采集函数是否已经设置了X_pending,并给出警告
- 确保X_pending只被处理一次
- 对于需要特殊处理的情况(如SampleReducingMCAcquisitionFunction),要有明确的判断逻辑
总结
在Botorch中构建复合采集函数时,正确处理X_pending是保证优化过程正确性的关键。开发者需要理解装饰器@concatenate_pending_points
的工作原理,并在设计复合采集函数时遵循"单一责任原则",确保X_pending只被最外层的采集函数处理一次。这种设计不仅提高了代码的健壮性,也使得采集函数的组合更加灵活和可预测。
PaddleOCR-VL
PaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00- DDeepSeek-V3.2-ExpDeepSeek-V3.2-Exp是DeepSeek推出的实验性模型,基于V3.1-Terminus架构,创新引入DeepSeek Sparse Attention稀疏注意力机制,在保持模型输出质量的同时,大幅提升长文本场景下的训练与推理效率。该模型在MMLU-Pro、GPQA-Diamond等多领域公开基准测试中表现与V3.1-Terminus相当,支持HuggingFace、SGLang、vLLM等多种本地运行方式,开源内核设计便于研究,采用MIT许可证。【此简介由AI生成】Python00
openPangu-Ultra-MoE-718B-V1.1
昇腾原生的开源盘古 Ultra-MoE-718B-V1.1 语言模型Python00HunyuanWorld-Mirror
混元3D世界重建模型,支持多模态先验注入和多任务统一输出Python00AI内容魔方
AI内容专区,汇集全球AI开源项目,集结模块、可组合的内容,致力于分享、交流。03Spark-Scilit-X1-13B
FLYTEK Spark Scilit-X1-13B is based on the latest generation of iFLYTEK Foundation Model, and has been trained on multiple core tasks derived from scientific literature. As a large language model tailored for academic research scenarios, it has shown excellent performance in Paper Assisted Reading, Academic Translation, English Polishing, and Review Generation, aiming to provide efficient and accurate intelligent assistance for researchers, faculty members, and students.Python00GOT-OCR-2.0-hf
阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile013
- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00
热门内容推荐
最新内容推荐
项目优选









