YOLO26昇腾NPU训练实战:torch_npu混合精度训练完整教程
YOLO26昇腾NPU训练实战:torch_npu混合精度训练完整教程
本文带你从零跑通 YOLO26 在昇腾 910B3 NPU 上的训练全流程:基于 torch_npu 启用混合精度(AMP)训练,再经 ONNX、ATC 转换到 OM 离线模型并完成推理验证。全程使用官方 CANN 8.5.0 容器,配合仓库自带的小数据集,新手也能快速上手。
一、环境要求与依赖清单 📋
开始前先确认硬件与软件版本,这是昇腾 NPU 训练顺利运行的前提:
| 项目 | 版本 / 规格 |
|---|---|
| 模型 | YOLO26 / YOLO11(ultralytics 框架) |
| AI 加速卡 | 昇腾 910B3 |
| CPU 架构 | ARM |
| CANN | 8.5.0 |
| numpy | < 2.0 |
完整环境说明见 README.md。关键依赖包括 torch_npu、pytorch_npu、ultralytics 和推理压测工具 ais_bench,均可通过 pip 安装。
二、一键启动 CANN 容器
推荐直接使用官方镜像 quay.io/ascend/cann:8.5.0,一条 docker run 命令即可完成挂载与启动(需映射 /dev/davinci_manager、/dev/devmm_svm、/dev/hisi_hdc 等 NPU 设备),避免手动配置 CANN 环境出错。启动容器后依次执行 apt update 安装图形库依赖,再按 README.md 中的清单安装 Python 依赖即可。
获取仓库代码:
git clone https://gitcode.com/Ascend-SACT/Yolo26
三、准备训练数据集 🗂️
正式训练前,建议先用仓库内置的小数据集 coco0 验证环境是否打通。它包含 9 张 COCO 格式图片和对应的标签文件:
数据集配置定义在 coco0/coco10.yaml 中,涵盖 COCO 全部 80 个类别。正式训练时只需把 model.train() 里的 data 参数改成你的 COCO 数据集配置路径即可。
四、编写 torch_npu 混合精度训练脚本 ⚙️
参考仓库中的 train.py,在 GPU 版 YOLO 训练脚本基础上只需做 4 处关键改造:
- GPU → NPU 自动迁移:导入
from torch_npu.contrib import transfer_to_npu,让 ultralytics 自动把张量搬到 NPU; - 打通混合精度:
ultralytics.utils.checks.check_amp = lambda model: True,跳过 AMP 检查让模型支持混合精度训练; - 小批量训练优化:
torch_npu.npu.set_compile_mode(jit_compile=False),避免重复触发 JIT 编译,显著降低小批量训练的额外开销; - 启动训练:
model.train(data='coco0/coco10.yaml', epochs=20, batch=16, device='npu', amp=True),其中amp=True即开启混合精度。
脚本还支持 torchrun 多卡分布式训练,通过 HCCL 后端初始化进程组、按 LOCAL_RANK 绑定 NPU 设备,并注册 atexit 清理函数。执行 python train.py 即可开始训练,终端会逐 Epoch 打印 loss、mAP50 等指标:
五、查看训练结果 📈
训练结束后,脚本会在验证集上评估并自动保存最佳权重 best.pt 到 runs/detect/train/weights 目录。从下面的输出可以看到各类别的 mAP50 与 mAP50-95 得分,以及约 448ms 的单图推理速度:
六、pt → onnx → om 模型转换 🔁
要部署到 NPU 离线推理,还需把 best.pt 转换为目标平台格式。
第一步:PT 转 ONNX。 参考 pt2onnx.py,执行 model.export(format="onnx", imgsz=640, opset=17, simplify=True)。固定输入尺寸 640 并开启 simplify,可提升 ATC 转换效率、降低转换失败概率:
第二步:ATC 转换 OM 模型。 参考 convert.sh 执行转换命令,指定 --soc_version=Ascend910B3 和 --input_shape="images:1,3,640,640",并通过 --precision_mode=allow_mix_precision 允许推理时使用混合精度:
七、NPU 推理验证 ✅
最后用 infer_om.py 加载 best_om.om 完成端到端验证。脚本内置 letterbox 预处理、坐标逆变换与画框逻辑,执行 python infer_om.py -m best_om.om 即可随机取图推理,检测框与置信度绘制在原图上:
如果还想量化模型性能,可用 ais_bench 对 OM 模型做批量压测,输出时延与吞吐指标:
八、常见问题速查 ❓
nnms算子 fallback 到 CPU 的警告:torchvision::nms暂不支持 NPU 后端会回退 CPU,属于正常提示,不影响训练结果;check_amp报错导致 AMP 无法启用:按第四节的 lambda 方式覆盖检查函数即可;- numpy 版本冲突:务必保持
numpy<2.0,否则 torch_npu 可能报 ABI 错误; - 小数据集训练特别慢:记得设置
jit_compile=False,避免每个 Epoch 重复编译。
至此,YOLO26 在昇腾 NPU 上的混合精度训练、模型转换与推理部署已全部跑通。换上自己的数据集与更长的 epochs,就能训练出可用的目标检测模型 🚀






