Highway项目中的WidenMulAccumulate操作优化探讨
2025-06-12 00:56:49作者:廉皓灿Ida
背景介绍
Highway是一个高性能SIMD指令抽象库,它提供了跨平台的向量化操作接口。在实际应用中,特别是在图像处理领域,经常需要进行向量元素的扩展乘法累加操作(Widen Multiply Accumulate),即将两个向量的元素分别扩展后进行乘法运算,再与第三个向量相加。这种操作在颜色空间转换、矩阵变换等场景中非常常见。
问题核心
在Highway项目中,当前提供的ReorderWidenMulAccumulate接口虽然能够实现扩展乘法累加功能,但其行为在不同平台上并不完全一致。具体来说:
- 在ARM NEON平台上,它使用
vmlal指令,直接对向量的高低部分进行扩展乘法累加 - 在ARM SVE平台上,它处理的是奇偶索引的元素而非高低部分
这种不一致性导致开发者在使用时需要针对不同平台编写特殊处理代码,增加了开发复杂度和维护成本。
技术分析
当前实现的问题
当前实现的主要问题在于平台间的行为差异:
- NEON的
vmlal指令直接处理向量高低部分 - SVE的
svmlalb/svmlalt指令处理的是奇偶索引元素
这种差异使得开发者无法编写统一的跨平台代码,必须针对不同平台进行特殊处理。
性能考量
性能测试表明:
- 直接使用
vmlal指令的实现比使用PromoteTo+MulAdd组合快约25% - 虽然现代编译器(如Clang 9+和GCC 11+)能够将
PromoteTo+MulAdd优化为vmlal指令,但优化效果仍不如直接使用
解决方案探讨
社区提出了几种可能的解决方案:
- 新增专用API:添加一个保证行为一致的
WidenMulAccumulate接口,在支持平台上使用原生指令,在不支持平台上使用通用实现 - 依赖编译器优化:继续使用
PromoteTo+MulAdd组合,依赖编译器进行优化 - 平台特定代码:让开发者自行编写平台特定的优化代码
最佳实践建议
基于讨论和分析,对于需要使用扩展乘法累加操作的开发者,目前建议:
- 如果性能要求极高且主要目标平台是ARM NEON,可以直接使用平台特定的实现
- 对于需要跨平台兼容性的场景,可以使用
PromoteTo+MulAdd组合,现代编译器能够进行较好的优化 - 关注Highway项目的更新,未来可能会提供更统一的接口
未来展望
Highway项目团队正在考虑添加一个行为更一致的API,这将大大简化跨平台开发。同时,随着编译器优化的不断进步,PromoteTo+MulAdd组合的性能差距有望进一步缩小。开发者可以根据自己的需求选择最适合的方案。
在SIMD编程中,理解底层指令的行为差异和性能特性非常重要。Highway这样的抽象库正在努力简化这一过程,但在某些情况下,了解平台特性仍然是获得最佳性能的关键。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0153- DDeepSeek-V4-ProDeepSeek-V4-Pro(总参数 1.6 万亿,激活 49B)面向复杂推理和高级编程任务,在代码竞赛、数学推理、Agent 工作流等场景表现优异,性能接近国际前沿闭源模型。Python00
LongCat-Video-Avatar-1.5最新开源LongCat-Video-Avatar 1.5 版本,这是一款经过升级的开源框架,专注于音频驱动人物视频生成的极致实证优化与生产级就绪能力。该版本在 LongCat-Video 基础模型之上构建,可生成高度稳定的商用级虚拟人视频,支持音频-文本转视频(AT2V)、音频-文本-图像转视频(ATI2V)以及视频续播等原生任务,并能无缝兼容单流与多流音频输入。00
auto-devAutoDev 是一个 AI 驱动的辅助编程插件。AutoDev 支持一键生成测试、代码、提交信息等,还能够与您的需求管理系统(例如Jira、Trello、Github Issue 等)直接对接。 在IDE 中,您只需简单点击,AutoDev 会根据您的需求自动为您生成代码。Kotlin03
Intern-S2-PreviewIntern-S2-Preview,这是一款高效的350亿参数科学多模态基础模型。除了常规的参数与数据规模扩展外,Intern-S2-Preview探索了任务扩展:通过提升科学任务的难度、多样性与覆盖范围,进一步释放模型能力。Python00
skillhubopenJiuwen 生态的 Skill 托管与分发开源方案,支持自建与可选 ClawHub 兼容。Python0112
项目优选
收起
暂无描述
Dockerfile
733
4.75 K
deepin linux kernel
C
31
16
Ascend Extension for PyTorch
Python
651
797
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1.25 K
153
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.1 K
611
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.01 K
1.01 K
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
147
237
昇腾LLM分布式训练框架
Python
168
200
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
434
395
暂无简介
Dart
986
253