py-RFCN-priv项目中的Faster R-CNN端到端训练网络解析

网络架构概述

py-RFCN-priv项目中的VGG_CNN_M_1024模型是一个基于Faster R-CNN框架的目标检测网络，专门针对PASCAL VOC数据集(21类)进行了优化。该网络采用端到端的训练方式，将区域建议网络(RPN)和分类网络整合在一个统一的框架中。

网络结构详解

1. 输入数据层

网络首先定义了一个Python层作为数据输入层：

layer {
  name: 'input-data'
  type: 'Python'
  top: 'data'
  top: 'im_info'
  top: 'gt_boxes'
  python_param {
    module: 'roi_data_layer.layer'
    layer: 'RoIDataLayer'
    param_str: "'num_classes': 21"
  }
}

这一层负责加载图像数据(data)、图像信息(im_info)和真实标注框(gt_boxes)，其中num_classes参数设置为21对应PASCAL VOC的20个物体类别加1个背景类。

2. 基础卷积网络(Backbone)

网络采用VGG_CNN_M_1024作为基础特征提取网络，包含5个卷积层：

1. conv1层：96个7×7卷积核，步长2，输出特征图尺寸减半
2. conv2层：256个5×5卷积核，步长2，再次下采样
3. conv3-conv5层：512个3×3卷积核，保持特征图尺寸不变

每层卷积后都跟随ReLU激活函数，前两层还使用了局部响应归一化(LRN)和最大池化层来增强特征表达能力。

3. 区域建议网络(RPN)

RPN是Faster R-CNN的核心创新，它直接在卷积特征图上生成候选区域：

layer {
  name: "rpn_conv/3x3"
  type: "Convolution"
  bottom: "conv5"
  top: "rpn/output"
  convolution_param {
    num_output: 256
    kernel_size: 3 pad: 1 stride: 1
  }
}

RPN首先使用3×3卷积生成256维特征，然后通过两个1×1卷积分别输出：

• 分类分数(rpn_cls_score)：18个输出(2×9，表示9个锚点每个的前景/背景得分)
• 边界框回归(rpn_bbox_pred)：36个输出(4×9，表示9个锚点每个的坐标偏移)

RPN训练时使用两种损失函数：

1. 分类损失：SoftmaxWithLoss，区分前景/背景
2. 回归损失：SmoothL1Loss，优化边界框位置

4. 候选区域生成与处理

RPN生成的候选区域经过以下处理：

1. 通过ProposalLayer生成ROI(感兴趣区域)
2. 通过ProposalTargetLayer为每个ROI分配标签和回归目标

layer {
  name: 'roi-data'
  type: 'Python'
  bottom: 'rpn_rois'
  bottom: 'gt_boxes'
  top: 'rois'
  top: 'labels'
  top: 'bbox_targets'
  top: 'bbox_inside_weights'
  top: 'bbox_outside_weights'
  python_param {
    module: 'rpn.proposal_target_layer'
    layer: 'ProposalTargetLayer'
    param_str: "'num_classes': 21"
  }
}

5. ROI池化与分类网络

候选区域通过ROI池化层转换为固定尺寸(6×6)的特征图：

layer {
  name: "roi_pool5"
  type: "ROIPooling"
  bottom: "conv5"
  bottom: "rois"
  top: "pool5"
  roi_pooling_param {
    pooled_w: 6
    pooled_h: 6
    spatial_scale: 0.0625 # 1/16
  }
}

随后是两个全连接层(fc6, fc7)和Dropout层，最后输出：

• 分类分数(cls_score)：21类得分
• 边界框回归(bbox_pred)：84维(21类×4个坐标)

6. 损失函数

分类网络同样使用两种损失：

1. 分类损失：SoftmaxWithLoss
2. 回归损失：SmoothL1Loss

网络特点分析

1. 端到端训练：RPN和分类网络共享卷积特征，可以联合优化
2. 多任务损失：同时优化分类和定位精度
3. 高效区域建议：RPN直接在特征图上生成建议，避免了传统方法(如Selective Search)的计算开销
4. 锚点机制：使用9个不同尺度和长宽比的锚点，提高了对不同形状物体的适应性

训练技巧

1. 学习率策略：不同层设置不同的学习率(lr_mult)，通常卷积层学习率较低
2. 权重初始化：使用高斯分布初始化，分类层std=0.01，回归层std=0.001
3. Dropout：在全连接层后使用Dropout(ratio=0.5)防止过拟合
4. 损失平衡：通过bbox_inside_weights和bbox_outside_weights调整回归损失的重要性

该网络结构体现了Faster R-CNN的核心思想，通过区域建议网络和分类网络的联合训练，实现了高效准确的目标检测。在PASCAL VOC数据集上，这种结构能够取得优异的检测性能。