YOLO26昇腾NPU训练实战:torch_npu混合精度训练完整教程

原创2026-10-29 17:54:051,402 阅读
文章标签:深度学习计算机视觉

YOLO26昇腾NPU训练实战:torch_npu混合精度训练完整教程

本文带你从零跑通 YOLO26 在昇腾 910B3 NPU 上的训练全流程:基于 torch_npu 启用混合精度(AMP)训练,再经 ONNX、ATC 转换到 OM 离线模型并完成推理验证。全程使用官方 CANN 8.5.0 容器,配合仓库自带的小数据集,新手也能快速上手。

一、环境要求与依赖清单 📋

开始前先确认硬件与软件版本,这是昇腾 NPU 训练顺利运行的前提:

项目 版本 / 规格
模型 YOLO26 / YOLO11(ultralytics 框架)
AI 加速卡 昇腾 910B3
CPU 架构 ARM
CANN 8.5.0
numpy < 2.0

完整环境说明见 README.md。关键依赖包括 torch_npu、pytorch_npu、ultralytics 和推理压测工具 ais_bench,均可通过 pip 安装。

二、一键启动 CANN 容器

推荐直接使用官方镜像 quay.io/ascend/cann:8.5.0,一条 docker run 命令即可完成挂载与启动(需映射 /dev/davinci_manager、/dev/devmm_svm、/dev/hisi_hdc 等 NPU 设备),避免手动配置 CANN 环境出错。启动容器后依次执行 apt update 安装图形库依赖,再按 README.md 中的清单安装 Python 依赖即可。

获取仓库代码:

git clone https://gitcode.com/Ascend-SACT/Yolo26

三、准备训练数据集 🗂️

正式训练前,建议先用仓库内置的小数据集 coco0 验证环境是否打通。它包含 9 张 COCO 格式图片和对应的标签文件:

YOLO26昇腾NPU训练所用的coco0小数据集样本图片

数据集配置定义在 coco0/coco10.yaml 中,涵盖 COCO 全部 80 个类别。正式训练时只需把 model.train() 里的 data 参数改成你的 COCO 数据集配置路径即可。

四、编写 torch_npu 混合精度训练脚本 ⚙️

参考仓库中的 train.py,在 GPU 版 YOLO 训练脚本基础上只需做 4 处关键改造:

  1. GPU → NPU 自动迁移:导入 from torch_npu.contrib import transfer_to_npu,让 ultralytics 自动把张量搬到 NPU;
  2. 打通混合精度:ultralytics.utils.checks.check_amp = lambda model: True,跳过 AMP 检查让模型支持混合精度训练;
  3. 小批量训练优化:torch_npu.npu.set_compile_mode(jit_compile=False),避免重复触发 JIT 编译,显著降低小批量训练的额外开销;
  4. 启动训练:model.train(data='coco0/coco10.yaml', epochs=20, batch=16, device='npu', amp=True),其中 amp=True 即开启混合精度。

脚本还支持 torchrun 多卡分布式训练,通过 HCCL 后端初始化进程组、按 LOCAL_RANK 绑定 NPU 设备,并注册 atexit 清理函数。执行 python train.py 即可开始训练,终端会逐 Epoch 打印 loss、mAP50 等指标:

YOLO26昇腾NPU混合精度训练日志,loss随Epoch逐步下降

五、查看训练结果 📈

训练结束后,脚本会在验证集上评估并自动保存最佳权重 best.pt 到 runs/detect/train/weights 目录。从下面的输出可以看到各类别的 mAP50 与 mAP50-95 得分,以及约 448ms 的单图推理速度:

YOLO26混合精度训练完成后的验证结果与best.pt权重保存信息

六、pt → onnx → om 模型转换 🔁

要部署到 NPU 离线推理,还需把 best.pt 转换为目标平台格式。

第一步:PT 转 ONNX。 参考 pt2onnx.py,执行 model.export(format="onnx", imgsz=640, opset=17, simplify=True)。固定输入尺寸 640 并开启 simplify,可提升 ATC 转换效率、降低转换失败概率:

YOLO26 pt权重成功导出为onnx模型

第二步:ATC 转换 OM 模型。 参考 convert.sh 执行转换命令,指定 --soc_version=Ascend910B3 和 --input_shape="images:1,3,640,640",并通过 --precision_mode=allow_mix_precision 允许推理时使用混合精度:

ATC将onnx模型转换为昇腾910B3 om离线模型成功

七、NPU 推理验证 ✅

最后用 infer_om.py 加载 best_om.om 完成端到端验证。脚本内置 letterbox 预处理、坐标逆变换与画框逻辑,执行 python infer_om.py -m best_om.om 即可随机取图推理,检测框与置信度绘制在原图上:

YOLO26 om模型在昇腾NPU上的推理检测框结果展示

如果还想量化模型性能,可用 ais_bench 对 OM 模型做批量压测,输出时延与吞吐指标:

ais_bench对YOLO26 om模型的NPU推理性能压测结果

八、常见问题速查 ❓

  • nnms 算子 fallback 到 CPU 的警告:torchvision::nms 暂不支持 NPU 后端会回退 CPU,属于正常提示,不影响训练结果;
  • check_amp 报错导致 AMP 无法启用:按第四节的 lambda 方式覆盖检查函数即可;
  • numpy 版本冲突:务必保持 numpy<2.0,否则 torch_npu 可能报 ABI 错误;
  • 小数据集训练特别慢:记得设置 jit_compile=False,避免每个 Epoch 重复编译。

至此,YOLO26 在昇腾 NPU 上的混合精度训练、模型转换与推理部署已全部跑通。换上自己的数据集与更长的 epochs,就能训练出可用的目标检测模型 🚀

登录后查看全文
Yolo26