FastDeploy中PPYOLOE+模型NMS处理问题解析

在使用FastDeploy部署PPYOLOE+目标检测模型时，开发者可能会遇到一个常见问题：当调用apply_nms()方法后出现形状不匹配的错误。本文将深入分析这一问题的成因，并提供完整的解决方案。

问题现象

当开发者使用FastDeploy加载PPYOLOE+模型并进行预测时，如果尝试调用postprocessor.apply_nms()方法，会收到如下错误提示：

The shape of boxes and scores should be [batch, boxes_num, 4], [batch, classes_num, boxes_num]

而如果注释掉这行代码，预测则可以正常进行。这表明问题与NMS(非极大值抑制)处理环节有关。

问题根源

这一问题的根本原因在于模型导出时的配置与推理时的后端选择不匹配。PPYOLOE+模型在导出时可以通过exclude_nms参数控制是否保留NMS操作：

1. 当exclude_nms=True时，模型导出时不包含NMS操作，需要在推理时单独处理
2. 当exclude_nms=False时，模型已内置NMS操作，无需额外处理

解决方案

根据不同的模型导出配置，需要采用不同的FastDeploy后端设置：

情况一：导出时设置exclude_nms=True

# 使用Paddle Inference后端
option.use_paddle_infer_backend()

情况二：导出时设置exclude_nms=True且启用TRT

# 先启用Paddle Inference后端
option.use_paddle_infer_backend()
# 再启用TRT加速
option.paddle_infer_option.enable_trt = True

最佳实践建议

1. 模型导出一致性：确保模型导出时的配置与推理时的后端设置相匹配
2. 性能考量：如果追求推理速度，建议使用TRT加速
3. 灵活性选择：根据实际需求决定是否在模型中内置NMS操作
   • 内置NMS：简化部署流程
   • 外置NMS：提供更大的后处理灵活性

通过正确理解模型导出配置与推理后端的关系，开发者可以避免这类NMS处理问题，确保PPYOLOE+模型在FastDeploy上的顺利部署。