MMDetection中RetinaNet训练结果为空的问题分析与解决方案

问题背景

在使用MMDetection框架训练RetinaNet模型时，很多开发者会遇到一个常见问题：训练过程中测试结果为空，即模型无法检测到任何目标。这种情况在使用自定义数据集时尤为常见，特别是当开发者从其他检测模型(如Faster R-CNN或CenterNet)迁移到RetinaNet时。

问题现象

训练日志显示测试结果为空，具体表现为：

• 训练过程中loss值正常下降
• 但在验证阶段，模型输出的检测框数量为0
• 评估指标(如mAP)显示为空或为0

根本原因分析

经过技术分析和实践验证，导致RetinaNet训练结果为空的主要原因有以下几点：

1. 类别ID设置不当：在COCO格式的数据集中，类别ID应该从1开始编号，而不是0。RetinaNet对类别ID的起始值较为敏感。

2. 学习率设置不合理：RetinaNet相比其他检测模型对学习率更为敏感，过大的学习率会导致模型无法正常收敛。

3. 模型配置不匹配：自定义数据集的类别数量与配置文件中的num_classes参数不一致。

4. 数据预处理问题：输入图像的尺寸、归一化参数等与模型预期不符。

解决方案

1. 正确设置类别ID

在COCO格式的标注文件中，确保：

• 类别ID从1开始编号
• 类别ID连续且无跳跃
• 类别数量与模型配置一致

示例标注文件片段：

{
  "categories": [
    {"id": 1, "name": "bottle"},
    {"id": 2, "name": "cable"},
    // 其他类别...
  ]
}

2. 调整学习率参数

RetinaNet推荐使用较小的学习率：

• 初始学习率建议设置在0.0005左右
• 使用学习率预热策略
• 配合适当的学习率衰减计划

配置示例：

optim_wrapper = dict(
    optimizer=dict(
        type='SGD',
        lr=0.0005,  # 较小的学习率
        momentum=0.9,
        weight_decay=0.0001),
    type='OptimWrapper')

3. 验证模型配置

确保模型配置中的关键参数正确：

• num_classes与数据集类别数一致
• 输入图像尺寸与预处理配置匹配
• 数据增强策略合理

4. 完整配置示例

以下是一个经过验证可用的RetinaNet配置示例（基于ResNet18 backbone）：

model = dict(
    type='RetinaNet',
    backbone=dict(
        type='ResNet',
        depth=18,
        norm_cfg=dict(type='BN'),
        norm_eval=True,
        style='pytorch',
        init_cfg=dict(type='Pretrained', checkpoint='torchvision://resnet18')),
    neck=dict(
        type='FPN',
        in_channels=[64, 128, 256, 512],
        out_channels=256,
        start_level=1,
        num_outs=5),
    bbox_head=dict(
        type='RetinaHead',
        num_classes=15,  # 必须与数据集类别数一致
        in_channels=256,
        stacked_convs=4,
        feat_channels=256,
        anchor_generator=dict(
            type='AnchorGenerator',
            octave_base_scale=4,
            scales_per_octave=3,
            ratios=[0.5, 1.0, 2.0],
            strides=[8, 16, 32, 64, 128]),
        bbox_coder=dict(
            type='DeltaXYWHBBoxCoder',
            target_means=[0.0, 0.0, 0.0, 0.0],
            target_stds=[1.0, 1.0, 1.0, 1.0]),
        loss_cls=dict(
            type='FocalLoss',
            use_sigmoid=True,
            gamma=2.0,
            alpha=0.25,
            loss_weight=1.0),
        loss_bbox=dict(type='L1Loss', loss_weight=1.0)),
    train_cfg=dict(
        assigner=dict(
            type='MaxIoUAssigner',
            pos_iou_thr=0.5,
            neg_iou_thr=0.4,
            min_pos_iou=0,
            ignore_iof_thr=-1),
        allowed_border=-1,
        pos_weight=-1,
        debug=False),
    test_cfg=dict(
        nms_pre=1000,
        min_bbox_size=0,
        score_thr=0.05,
        nms=dict(type='nms', iou_threshold=0.5),
        max_per_img=100))

实践建议

1. 从小数据集开始：先用少量数据验证模型能否正常训练，再扩展到全量数据。

2. 可视化验证：使用MMDetection提供的可视化工具检查数据加载是否正确。

3. 监控训练过程：关注分类损失和回归损失的变化趋势。

4. 逐步调参：先确保模型能输出检测结果，再优化性能指标。

通过以上方法，开发者可以有效解决RetinaNet训练结果为空的问题，并在此基础上进一步优化模型性能。