FunASR项目中的ONNX模型加载问题解析

问题背景

在使用FunASR项目进行语音识别时，用户尝试将Paraformer模型导出为ONNX格式并进行加载时遇到了两个主要问题：

1. 类型不匹配错误：在加载ONNX模型时出现"Type parameter (Tind) of Optype (Slice) bound to different types"错误
2. 配置键缺失错误：在初始化Paraformer时出现"'token_list' key not found in config"错误

技术分析

ONNX模型加载的类型不匹配问题

第一个错误是由于ONNX模型中Slice操作节点的类型参数不一致导致的。具体表现为：

• 节点/make_pad_mask/Slice的类型参数Tind被同时绑定到了tensor(int64)和tensor(int32)两种类型
• 这种类型不一致会导致ONNX Runtime无法正确加载模型

这种问题通常出现在模型转换过程中，当不同框架或版本对同一操作的类型处理不一致时发生。

配置键缺失问题

第二个错误表明在模型配置中缺少必要的'token_list'键：

• TokenIDConverter初始化时需要token_list参数
• 这个参数应该来自模型的配置文件(config.yaml)
• 缺失这个关键配置会导致模型无法正确初始化词表转换器

解决方案

FunASR开发团队已经修复了这些问题：

1. 对于ONNX类型不匹配问题：

• 修复了模型导出过程中的类型一致性处理
• 确保所有操作节点的类型参数统一

2. 对于配置键缺失问题：

• 完善了模型配置文件的生成逻辑
• 确保必要的token_list信息被正确包含在配置中

用户操作建议

遇到类似问题的用户可以采取以下步骤：

1. 更新FunASR到最新版本
2. 重新导出ONNX模型
3. 检查模型配置文件是否完整包含所有必要字段
4. 如果问题仍然存在，可以检查模型转换过程中的日志信息

总结

模型格式转换和跨框架部署是语音识别系统实际应用中的常见挑战。FunASR团队通过持续优化解决了ONNX导出和加载过程中的兼容性问题，为用户提供了更稳定的模型部署体验。理解这些问题的本质有助于开发者在遇到类似问题时更快定位和解决。