CANN 9.0.0-beta.1 版本说明全解读:版本配套矩阵、新增特性与子包独立升级实践
CANN 9.0.0-beta.1 版本说明全解读:版本配套矩阵、新增特性与子包独立升级实践
CANN 9.0.0-beta.1 是昇腾 CANN 9.0.0 主线发布前的 Beta 版本,本文以 CANN 发布管理仓库中的 9.0.0-beta.1/release-notes.md 为核心,完整梳理该版本的版本配套关系(HDK、组合包、独立升级子包、开源子包四层矩阵)、六大领域的新增特性(算子库、通信库、图引擎、算子编程、运行时、开发与维测工具),并给出子包独立升级的完整命令行操作。读完本文,你可以依据配套矩阵规划自己的 CANN 软件组合,快速掌握 9.0.0-beta.1 的能力增量,并能在默认路径与自定义安装路径两种场景下独立升级 cann-hixl 等子包。
版本定位与文档出处
本仓库 release-management 是 CANN 的版本发布管理仓库,用于统一版本管控规范,沉淀发布计划、版本说明(Release Notes)、版本配套关系与升级策略等。9.0.0-beta.1 版本说明就存放在 9.0.0-beta.1/release-notes.md,同目录下的 release-plan.md 记录了该版本从特性收集到最终发布的完整节奏:特性收集(2025/12/05—12/30)→ 开发(2025/12/25—2026/01/29)→ 构建(2026/01/30)→ 两轮测试(2026/01/31—02/23)→ QA 报告(2026/02/25—02/26)→ 发布(2026/02/28)。从发布计划可以看出,Beta 版本同样经历了完整的特性评审、构建、双轮测试与 QA 把关流程,这也解释了为什么版本说明中"已知问题"为空、删除与废弃特性为"不涉及"。
版本软件的获取入口为昇腾社区官方 CANN 下载页面,用户可按版本号筛选并下载对应的组合包与子包安装文件(run 包)。
版本配套关系:一张表看懂"和谁一起用"
版本说明的第一大核心内容是配套关系,它回答了"这个 CANN 版本应该搭配哪一版驱动、哪些子包"的问题,共分为四层:
CANN 与 Ascend HDK 版本配套
| CANN 版本 | 配套 Ascend HDK 版本 |
|---|---|
| CANN 9.0.0-beta.1 | Ascend HDK 25.5.1 |
这一层定义了 CANN 与底层硬件驱动/固件(HDK,Hardware Development Kit)的绑定关系。部署环境时需要先确认宿主机的 HDK 版本与 CANN 9.0.0-beta.1 匹配,否则可能出现驱动与运行时库不兼容的问题。
CANN 组合包版本配套
| ops 版本 | 配套 toolkit 版本 |
|---|---|
| ascend-cann-ops 9.0.0-beta.1 | ascend-cann-toolkit 9.0.0-beta.1 |
CANN 组合包层面,算子包(ops)与开发工具包(toolkit)在 9.0.0-beta.1 上保持同版本配套,两者需要一起安装才能构成完整的开发与运行环境。
CANN 独立升级子包版本配套
| CANN 子包版本 | 版本源码标签 | 配套 CANN 版本 |
|---|---|---|
| cann-ops-math 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-ops-nn 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-ops-cv 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-ops-transformer 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-hccl 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-hixl 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
这 6 个子包(数学算子、NN 算子、CV 算子、Transformer 算子、集合通信库 HCCL、单边通信库 HIXL)支持脱离组合包独立升级,每个子包都对应一个 v9.0.0-beta.1 的版本源码标签,可用于在源码侧追溯与版本对齐。
CANN 开源子包版本配套
| CANN 子包版本 | 版本源码标签 | 配套 CANN 版本 |
|---|---|---|
| cann-opbase 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-oam-tools 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-asc-tools 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-asc-devkit 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-pto-isa 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-ge-compiler 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-ge-executor 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-graph-autofusion 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-metadef 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-dflow-executor 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-hcomm 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
| cann-npu-runtime 9.0.0-beta.1 | v9.0.0-beta.1 | CANN 9.0.0-beta.1 |
开源子包覆盖算子基础框架(opbase)、运维与维测工具(oam-tools)、算子开发工具链(asc-tools / asc-devkit)、虚拟指令集(pto-isa)、图编译与执行(ge-compiler / ge-executor / dflow-executor)、自动融合(graph-autofusion)、图定义(metadef)、集合通信(hcomm)与 NPU 运行时(npu-runtime)等模块,为社区开发者提供了完整的可追溯源码基线。
配套关系解读:四层配套矩阵实际上构成了一个从"硬件(HDK)→ 组合包(toolkit + ops)→ 可独立升级子包(6 个)→ 开源源码子包(12 个)"的递进结构。前两层决定"最小可运行环境",第三层决定"按需升级边界",第四层决定"源码级可追溯性"。
新增特性:六大领域的能力增量
算子库
ops-nn 库:低比特量化与融合算子矩阵
ops-nn 库在 9.0.0-beta.1 中最突出的增量是低 bit 类算子与融合算子对更多数据类型的支持:fp8/mxfp8/hifp8/mxfp4 等低比特格式,以及 pertensor / perchannel / pertoken / pergroup / perblock 等不同量化与组合方式。具体落点包括:
- 全量化融合算子
quant_batch_matmul_v4:将输入量化与矩阵乘融合,降低中间张量的内存与带宽开销; - 伪量化融合算子
weight_quant_batch_matmul_v2:权重侧伪量化与矩阵乘融合,典型用于权重低比特化部署场景; - MX 动态量化算子
dynamic_mx_quant、grouped_dynamic_mx_quant:按 MX 格式做动态量化,支持分组粒度; - 非 MX 动态量化算子
dynamic_quant_v2、grouped_dynamic_block_quant:支持按 block 分组的非 MX 动态量化路径。
同时 ops-nn 还提供 matmul、卷积、norm、hash 类算子编程的优秀实践(含 MatMul 算子 VCV 性能优化实践与效果分析、MatMul 算子性能优化实践与效果分析两篇 Wiki),新增基于 <<<>>> 调用方式的算子开发样例,并支持编译生成静态库——发布的 nn 独立组件包会携带静态库,便于离线链接与集成。
ops-transformer 库:Transformer 场景能力完善
Transformer 相关算子在 Atlas A3 系列产品上进一步完善:
moe_distribute_dispatch:MC2 dispatch 与 combine 算子支撑性能维测能力、类 deepep 接口与扩展泛化能力;sparse_flash_attention_grad:SparseFlashAttentionGrad 算子能力强化,支持确定性计算等;incre_flash_attention:增量 FlashAttention 能力强化,同样支持确定性计算;moe_init_routing_v2:MoeInitRoutingV2 等算子能力强化,支持 int4 与 smoothquant。
在 Atlas A2 系列产品上新增/增强了 MC2 通算融合算子:新增 AllToAllMatmul 与 MatmulAllToAll 算子(面向 Ulysses 并行等需要通信与矩阵乘融合的场景),QuantMatmulAllToAll 支持 A8W8,AllToAllQuantMatmul 支持 A16W8 与 A16W4。
ops-math 库:算子工程构建与 CI 能力增强
ops-math 库本版本的能力增量更多落在算子工程效率侧:
- 算子工程支持 kernel 并行编译,缩短大规模算子工程的编译耗时;
- 算子工程日志优化,提升构建与运行问题的定位效率;
- 算子 CI 支持算子增量 UT 与冒烟,减少全量回归成本、加快合入节奏;
- 算子构建脚本支持导出预编译文件,降低算子问题定位难度;
- 支持 Docker 部署,便于在容器化环境中完成算子开发与验证。
通信库:集合通信与单边通信
集合通信(HCCL / hcomm)面向 Atlas A3 训练与推理系列产品新增:
alltoallv算子 AICPU 展开模式支持通信 task 缓存功能;- 支持单机多容器部署(不共卡场景);
- 支持通信域粒度的超平面 QoS 配置;
- AICPU 与 host 自定义算子场景支持 profiling 信息上报,提升自定义通信算子的维测能力;
- AICPU 自定义算子场景支持 host 与 AICPU 之间的 kernel 同步。
单边通信(HIXL)方面,Atlas A3 训练/推理系列产品在超节点内 HCCS 场景下支持 D2rH 直传能力——即本端 Device 内存与远端 Host 内存之间的直接通信能力,可降低 KV Cache 等跨端传输的时延与 CPU 参与开销。
图引擎
- ES 构图提供多种场景的 sample,降低构图上手成本;
- ES 构图 Readable Dump 支持子图的友好展示,便于图结构问题排查;
- 自定义 pass 改图能力增强,新增"原图优化之后改图"的能力,使开发者可以在框架完成优化后再介入改图;
- 图模式多流场景下 nopadding 连续内存支持内存复用,改善大模型多流执行的内存占用。
算子编程
- 将高阶 API 样例(ascendc-api-adv)迁移至 asc-devkit 仓库,并统一使用
<<<>>>调用方式(样例位于 asc-devkit 的examples/03_libraries目录); - 联合毕昇编译器优化融合编译性能,缩短算子融合场景的编译链路。
运行时:新增查询与配置接口
运行时(npu-runtime)新增了一批面向易用性与可观测性的接口:
| 能力 | 接口 |
|---|---|
| 包版本号查询(返回字符串版本号) | aclError aclsysGetVersionStr(char *pkgName, char *versionStr) |
| 包版本号查询(返回数值版本号) | aclError aclsysGetVersionNum(char *pkgName, int32_t *versionNum) |
| 查询指定流(Stream)的优先级 | aclError aclrtStreamGetPriority(aclrtStream stream, uint32_t *priority) |
| 查询创建 Stream 时设置的 flag 标志 | aclError aclrtStreamGetFlags(aclrtStream stream, uint32_t *flags) |
| 获取 Device 的唯一标识 UUID | aclError aclrtDeviceGetUuid(int32_t deviceId, aclrtUuid *uuid) |
| 获取待查询地址所属内存块的起始地址与大小 | aclError aclrtMemGetAddressRange(void *ptr, void **pbase, size_t *psize) |
| 设置系统级强一致性计算参数 | aclError aclrtSetSysParamOpt(aclSysParamOpt opt, int64_t value) |
| 查询系统级强一致性计算参数 | aclError aclrtGetSysParamOpt(aclSysParamOpt opt, int64_t *value) |
| 设置上下文级强一致性计算参数 | aclError aclrtCtxSetSysParamOpt(aclSysParamOpt opt, int64_t value) |
| 查询上下文级强一致性计算参数 | aclError aclrtCtxGetSysParamOpt(aclSysParamOpt opt, int64_t *value) |
这些接口的典型价值在于:aclsysGetVersionStr/Num 便于应用在启动时自检依赖的包版本;aclrtStreamGetPriority/GetFlags 与创建 Stream 时的设置形成闭环,帮助诊断流调度问题;aclrtDeviceGetUuid 为多卡环境下的设备识别提供稳定标识;aclrtMemGetAddressRange 便于内存泄漏分析与指针归属检查;Set/GetSysParamOpt 系列则服务于强一致性计算场景,通过系统级与上下文级两级参数实现确定性行为控制。
开发与维测工具
性能调优工具
- msprof 动态 profiler 支持一次性配置多个业务进程 pid,支撑客户同时采集多个业务进程的数据,适配多进程部署形态;
- 新增
-m参数,支持开启对称内存(symmetric memory),用于特定通信/计算场景下的内存布局优化。
AMCT 模型压缩工具
- 新增 HIF8/FP8/FP4/MXFP8/MXFP4 量化数据类型,扩展低比特量化覆盖面;
- 新增与 HIF8 匹配的 OFMR 量化算法,为高动态范围低比特量化提供更优的精度-压缩比折中。
删除/废弃特性、已知问题与已修复问题
删除和废弃特性
版本说明明确标注:不涉及。即 9.0.0-beta.1 没有删除或废弃任何既有特性,兼容性风险面较小。
已知问题
版本说明标注:无。作为经过双轮测试的 Beta 版本,发布时没有公开已知问题条目。
已修复问题
- 集合通信:优化快恢时的状态迁移及超时机制,解决快速恢复失败的问题;
- 集合通信:修复大规模集群的通信域初始化失败问题(故障点在 rootinfo 集群信息收集阶段)。
漏洞修补
版本开源及第三方软件的漏洞修复情况,统一通过昇腾社区的"漏洞修补列表"文档跟踪发布,用户升级前可对照列表确认涉及自身依赖的漏洞是否已在本版本覆盖。
子包独立升级:按需升级的完整操作指南
使用场景
子包独立升级提供了灵活的按需升级能力。典型场景:某用户已安装 a.b.c 版本的组合包 Ascend-cann-toolkit 与 Ascend-cann-ops,由于业务需要将单边通信库能力更新至 x.y.z 版本,此时无需重装整套组合包,只需独立升级子包 cann-hixl 即可。其中 a.b.c 与 x.y.z 请替换为实际版本号。
前置条件
升级子包前,请确保已安装配套版本的组合包 Ascend-cann-toolkit 与 Ascend-cann-ops。如未安装,请先参考《CANN 软件安装指南》完成组合包安装,再执行子包升级。
路径一致性原则
子包的升级路径必须与组合包的安装路径保持一致。升级工具通过该路径定位既有组合包环境,路径不一致会导致升级失败或环境错乱。因此先确认组合包当初安装时是否使用了 --install-path 参数,再选择下述两个场景中的对应命令。
场景一:组合包安装在默认路径下
适用于组合包安装时未使用 --install-path 参数(即安装在默认路径)的情况:
chmod +x cann-hixl_x.y.z_linux-aarch64.run
./cann-hixl_x.y.z_linux-aarch64.run --upgrade
其中 --upgrade 表示执行升级(而非全新安装),工具会默认到组合包的默认安装路径下完成子包覆盖更新。
场景二:组合包安装在指定路径下
适用于组合包安装时指定了自定义路径 /home/custom_path(即安装时使用了 --install-path=/home/custom_path)的情况:
chmod +x cann-hixl_x.y.z_linux-aarch64.run
./cann-hixl_x.y.z_linux-aarch64.run --upgrade --install-path=/home/custom_path
这里必须显式携带 --install-path=/home/custom_path,让升级工具定位到实际的组合包安装目录。
参数与文件命名说明
- 子包安装文件命名为
cann-<子包名>_<版本号>_linux-<架构>.run,本文示例中的x.y.z为版本号占位符、aarch64表示 ARM 架构(x86 环境对应x86_64); --upgrade:以升级模式运行,仅更新指定子包,不触碰组合包中其他组件;--install-path:显式指定组合包安装路径,仅在非默认安装时必需;- 所有可独立升级子包(cann-ops-math、cann-ops-nn、cann-ops-cv、cann-ops-transformer、cann-hccl、cann-hixl)的操作步骤完全一致,只需替换 run 包文件名即可。
在仓库中继续深入
- 查看本版本说明原文:9.0.0-beta.1/release-notes.md
- 查看本版本的发布计划与里程碑:9.0.0-beta.1/release-plan.md
- 了解仓库整体定位与内容组织:README.md
- 对比后续 GA 版本的能力演进:9.0.0 正式版在 Beta 基础上进一步扩充了算子库、通信库、图引擎与运行时能力,并新增了废弃特性清单与更完整的文档变更说明,详见 9.0.0/release-notes.md,可作为从 Beta 到 GA 能力差异的对照参考。
结合配套矩阵与发布计划可见,CANN 9.0.0-beta.1 的核心价值在于:一方面以低比特量化算子矩阵、MC2 融合算子与运行时新接口支撑大模型训练/推理的精度与性能诉求;另一方面通过子包独立升级机制与完整开源源码标签,为社区用户提供"按需升级、源码可溯"的版本治理体验。