IREE项目中RISC-V 64架构动态打包操作的数值问题分析与解决
2025-06-26 00:02:51作者:龚格成
在IREE编译器项目中,开发团队发现了一个关于RISC-V 64架构下动态打包操作(dynamic pack)的数值精度问题。这个问题最初在代码审查过程中被发现,表现为动态打包操作在RISC-V 64平台上运行时产生了与预期不符的数值结果。
问题现象
测试用例显示,RISC-V 64架构在执行动态打包操作时,输出张量的数值与预期结果存在明显差异。具体表现为:
- 静态打包测试(static_pack_simple_pad_mode)中,实际输出与预期输出在多个位置存在数值差异
- 动态打包测试(dynamic_pack_simple_pad_mode)中,同样出现了数值不匹配的情况
测试用例原本设计用于验证打包操作在不同填充模式下的正确性,但在RISC-V 64平台上却未能通过验证。
技术背景
打包操作(pack operation)是深度学习编译器中的一个重要功能,它负责将输入张量按照特定模式重新排列和填充。在IREE中,这个操作被广泛用于数据布局转换和内存优化。动态打包与静态打包的主要区别在于,动态打包的某些参数(如填充大小)可以在运行时确定,而静态打包的所有参数都必须在编译时确定。
RISC-V作为一种新兴的开源指令集架构,其64位版本在数值处理上可能存在一些特殊行为,特别是在处理动态形状和填充操作时。
问题根源
经过深入分析,开发团队发现这个问题源于LLVM后端对RISC-V 64架构的代码生成存在缺陷。具体来说,在处理动态打包操作时,某些边界条件的处理不够完善,导致了数值计算错误。
解决方案
开发团队在LLVM项目中提交了修复补丁,该补丁专门针对RISC-V 64架构下的打包操作进行了优化。修复主要包括:
- 修正了边界条件处理的逻辑
- 优化了动态形状计算时的数值精度保证
- 完善了填充模式下的特殊处理
这个修复已经合并到LLVM主分支,并经过验证能够正确解决IREE测试用例中的数值问题。
后续工作
随着LLVM修复补丁的合入,IREE团队计划:
- 在下次LLVM同步时将修复引入IREE代码库
- 重新启用之前因这个问题而禁用的RISC-V 64测试用例
- 加强对RISC-V架构下数值操作的测试覆盖
这个问题的解决不仅修复了当前的测试失败,也为IREE在RISC-V架构上的进一步优化和功能开发奠定了基础。随着RISC-V生态的不断发展,IREE团队将持续关注并优化其在该架构上的表现。
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0212
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0135
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
项目优选
收起
deepin linux kernel
C
32
16
暂无描述
Dockerfile
774
5.07 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
872
2.01 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
468
461
Ascend Extension for PyTorch
Python
756
959
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
696
1.39 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.1 K
1.14 K
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.03 K
271
昇腾LLM分布式训练框架
Python
183
230
CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。
Python
1.03 K
645