首页
/ MMDeploy项目构建ONNXRuntime自定义算子时的兼容性问题分析

MMDeploy项目构建ONNXRuntime自定义算子时的兼容性问题分析

2025-06-27 04:17:48作者:戚魁泉Nursing

问题概述

在使用MMDeploy项目构建ONNXRuntime自定义算子时,开发者可能会遇到编译错误,主要报错信息显示Ort::CustomOpApi类型未定义。这个问题源于ONNXRuntime版本升级导致的API变更,是典型的版本兼容性问题。

技术背景

MMDeploy是OpenMMLab生态系统中的模型部署工具,支持将训练好的深度学习模型转换为多种推理引擎格式。其中,ONNXRuntime是一个广泛使用的跨平台推理引擎,支持通过自定义算子扩展功能。

在ONNXRuntime 1.16.0版本之前,开发者使用Ort::CustomOpApi类来实现自定义算子。但从1.16.0版本开始,这个API被标记为废弃(deprecated),导致基于旧API编写的代码无法在新版本中编译通过。

问题根源分析

编译错误的核心在于:

  1. Ort::CustomOpApi类在ONNXRuntime 1.16.0及更高版本中已被移除
  2. MMDeploy当前代码实现仍依赖于这个已被移除的API
  3. 错误表现为编译器无法找到CustomOpApi类型定义

解决方案

目前可行的解决方案是使用与MMDeploy兼容的ONNXRuntime版本:

  1. 降级ONNXRuntime:安装1.15.1或更早版本
  2. 等待MMDeploy更新:关注项目更新,等待支持新版本ONNXRuntime的代码合并

技术影响评估

这个问题对开发者的影响主要体现在:

  • 限制了ONNXRuntime版本的选择
  • 可能需要维护多个ONNXRuntime版本环境
  • 新版本ONNXRuntime的性能优化和安全修复无法立即使用

最佳实践建议

  1. 在开发环境中明确指定ONNXRuntime版本
  2. 考虑使用虚拟环境隔离不同项目的依赖
  3. 定期关注MMDeploy项目更新,了解API兼容性改进

未来展望

随着ONNXRuntime的持续发展,MMDeploy项目有望在未来版本中适配新的API设计。开发者可以:

  1. 关注项目GitHub上的相关讨论
  2. 参与社区贡献,帮助推动兼容性改进
  3. 在项目稳定版发布前,谨慎评估升级计划

这个问题是深度学习部署工具链中常见的版本兼容性挑战,理解其背后的技术原因有助于开发者更好地规划项目依赖和升级策略。

登录后查看全文

项目优选

收起
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
471
465
kernelkernel
deepin linux kernel
C
32
16
atomcodeatomcode
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get Started
Rust
2.09 K
218
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
700
1.4 K
docsdocs
暂无描述
Dockerfile
780
5.08 K
pytorchpytorch
Ascend Extension for PyTorch
Python
758
968
flutter_flutterflutter_flutter
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
880
2.03 K
mindquantummindquantum
MindQuantum is a general software library supporting the development of applications for quantum computation.
Python
183
111
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.11 K
682