DJL项目中使用YOLOv5模型推理时遇到的张量维度不匹配问题解析

问题背景

在使用Deep Java Library(DJL)框架加载YOLOv5模型进行目标检测时，开发者可能会遇到"RuntimeError: The size of tensor a (16) must match the size of tensor b (80) at non-singleton dimension 3"这样的错误。这个错误通常发生在模型推理阶段，表明在计算过程中两个张量的维度不匹配。

错误原因分析

这个错误的本质是模型期望的输入张量与提供的张量在特定维度上不匹配。具体来说：

1. 维度含义：在YOLOv5模型中，最后一个维度通常代表类别数量。错误信息显示一个张量有16个类别，而另一个有80个类别，这表明模型配置与预期不符。

2. 输入尺寸问题：YOLOv5模型通常有固定的输入尺寸要求(如640x640)。开发者尝试将输入图像调整为800x800，但未正确配置模型参数，导致后续处理时维度不匹配。

3. 模型训练配置：原始模型可能是基于80类(如COCO数据集)训练的，而当前模型可能是针对16类任务微调的，但推理时未正确配置类别数。

解决方案

正确配置YOLOv5Translator

使用DJL的YoloV5Translator时，需要确保所有参数与模型训练时的配置一致：

Criteria<Image, DetectedObjects> criteria = Criteria.builder()
    .setTypes(Image.class, DetectedObjects.class)
    .optDevice(device)
    .optModelUrls(modelPath)
    .optModelName("objDet.pt")
    .optEngine("PyTorch")
    .optArgument("width", 800)  // 与模型期望的输入宽度一致
    .optArgument("height", 800) // 与模型期望的输入高度一致
    .optArgument("resize", true)
    .optArgument("toTensor", true)
    .optArgument("applyRatio", true)
    .optArgument("threshold", 0.8f)
    .optTranslatorFactory(new YoloV5TranslatorFactory())
    .build();

关键参数说明

1. width/height：必须与模型训练时使用的输入尺寸完全一致。YOLOv5通常使用640x640，但自定义模型可能有不同要求。

2. resize：是否自动调整输入图像尺寸，通常设为true。

3. toTensor：是否将图像转换为张量，必须为true。

4. applyRatio：是否保持原始图像宽高比进行resize。

5. threshold：置信度阈值，可根据需求调整。

最佳实践建议

1. 了解模型细节：在使用第三方训练的模型前，应了解其训练配置，包括输入尺寸、类别数等关键参数。

2. 统一预处理：确保推理时的预处理(归一化、resize等)与训练时完全一致。

3. 版本兼容性：检查PyTorch模型版本与DJL引擎版本的兼容性，本例中使用的是PyTorch 2.0.1。

4. 错误处理：添加适当的错误处理机制，捕获并记录维度不匹配等常见错误。

总结

在DJL中使用YOLOv5模型时，输入张量维度不匹配是常见问题。通过正确配置YoloV5Translator参数，确保输入尺寸、类别数等与模型训练时一致，可以有效解决这类问题。开发者应当重视模型配置的细节，这是成功部署深度学习模型的关键所在。