TensorRT中Mask-RCNN模型转换失败问题解析与解决方案

问题背景

在使用TensorRT 8.6版本对Mask-RCNN模型进行转换时，开发者遇到了引擎构建失败的问题。具体表现为当尝试通过trtexec工具将ONNX模型转换为TensorRT引擎时，出现了形状不匹配的错误。

错误分析

错误日志显示，在解析ONNX模型时，TensorRT在节点"/backbone/Add_1"处遇到了形状广播不兼容的问题。关键错误信息为"Shape Error (broadcast dimensions must be conformable)"，这表明在模型结构中存在维度不匹配的操作。

根本原因

经过深入分析，发现该问题源于TensorRT对动态形状支持的限制。Mask-RCNN模型通常具有动态输入形状的特性，但TensorRT 8.6版本中用于模型转换的插件不支持动态形状。具体表现为：

1. 原始模型输入尺寸为1515×1217，这种非标准尺寸导致了后续特征金字塔网络(FPN)中的形状计算出现问题
2. TensorRT要求输入张量的高度和宽度必须固定为1344×1344，这是由模型架构和插件实现决定的

解决方案

要成功转换Mask-RCNN模型，需要采取以下步骤：

1. 预处理阶段：在将模型导出为ONNX格式前，必须将MIN_SIZE_TEST和MAX_SIZE_TEST参数统一设置为1344
2. 输入尺寸调整：确保所有输入图像在转换前都被调整为1344×1344的标准尺寸
3. 模型验证：使用Netron等工具检查ONNX模型结构，确认各层形状符合预期

技术建议

对于使用TensorRT部署检测模型的开发者，建议注意以下几点：

1. 了解TensorRT对不同模型架构的支持限制，特别是对动态形状的支持情况
2. 在模型转换前，仔细阅读TensorRT官方文档中关于特定模型(如Mask-RCNN)的转换要求
3. 对于复杂的检测模型，考虑使用TensorRT提供的专用示例代码作为参考
4. 在遇到形状相关错误时，优先检查输入尺寸是否符合模型要求

通过遵循这些最佳实践，可以显著提高模型转换的成功率，并充分发挥TensorRT在推理加速方面的优势。