IREE v3.3.0发布:全面支持RDNA4 GPU与优化框架升级
OpenXLA项目旗下的IREE(Intermediate Representation Execution Environment)近日发布了v3.3.0版本,这是一个专注于机器学习模型编译与执行的高性能运行时系统。IREE通过将机器学习模型转换为优化的中间表示(IR),能够在各种硬件平台上实现高效执行。本次更新带来了多项重要改进,特别是在AMD Radeon RDNA4 GPU支持、编译器优化框架和运行时性能方面。
RDNA4 GPU全面支持
v3.3.0版本最显著的改进之一是增加了对AMD Radeon RDNA4架构GPU的完整支持。开发者现在可以在RDNA4设备上同时使用ROCm/HIP和Vulkan两种后端进行模型推理。这一支持使得IREE能够充分利用RDNA4架构的先进特性,如改进的矩阵计算单元和更高的能效比。
在实际应用中,这一特性已经被集成到shark-ai的SDXL实现中,展示了在稳定扩散模型上的出色表现。RDNA4支持不仅限于推理,还包括了完整的开发工具链,使得开发者能够针对这一架构进行深度优化。
编译器优化体系重构
本次版本对编译器优化流程进行了重大重构,引入了全新的--iree-opt-level全局优化标志。这个标志提供了O0到O3四个优化级别,简化了开发者的优化选择过程。在底层实现上,IREE团队重新组织了优化管道,使得不同优化级别能够更智能地组合各种优化策略。
优化框架的改进特别体现在对ROCm后端的支持上。多项针对性的优化被引入,包括数学函数近似策略的调整、内存访问模式的优化等。这些改进使得在AMD GPU上的执行效率有了显著提升。
运行时系统增强
运行时系统方面,HIP后端的稳定性和性能都得到了加强。v3.3.0修复了多个HIP运行时的内存管理问题,特别是在异步内存操作和资源清理方面。一个重要的进步是HIP运行时现在正式支持Windows平台,扩大了IREE的应用范围。
针对CUDA后端,修复了事件创建标志的问题,提高了时间测量的准确性。这些改进使得IREE在各种GPU平台上的表现更加稳定可靠。
开发工具与测试完善
IREE v3.3.0增强了开发工具链的功能。iree-opt工具现在支持--show-dialects和--list-passes命令,方便开发者了解可用的编译选项和转换通道。测试套件得到了大幅扩充,新增了28个数学运算的测试用例,覆盖了更广泛的数值计算场景。
数学运算的验证机制也得到改进,check.expect_almost_eq操作现在支持容差参数,使得浮点数比较更加灵活准确。这对于确保数值计算的正确性尤为重要。
架构清理与未来方向
本次发布移除了长期处于废弃状态的iree_input方言,开发者现在应该直接使用hal和flow方言。这是IREE架构简化的一部分,旨在减少维护负担并提高代码清晰度。
从技术演进来看,IREE正朝着更智能的自动优化方向发展。新增的水平融合GEMM支持、改进的注意力机制处理等都显示出编译器正变得更加擅长自动发现和利用并行计算机会。同时,对新型硬件架构的快速支持能力也体现了IREE作为跨平台执行环境的优势。
总体而言,IREE v3.3.0在硬件支持、编译器技术和运行时性能方面都取得了显著进步,为机器学习模型的部署和执行提供了更加强大和灵活的工具链。这些改进将直接转化为更高效的模型推理体验和更广泛的硬件兼容性。
ERNIE-4.5-VL-28B-A3B-ThinkingERNIE-4.5-VL-28B-A3B-Thinking 是 ERNIE-4.5-VL-28B-A3B 架构的重大升级,通过中期大规模视觉-语言推理数据训练,显著提升了模型的表征能力和模态对齐,实现了多模态推理能力的突破性飞跃Python00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Python00
HunyuanVideo-1.5暂无简介00
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00