PyTorch-Image-Models中MobileNetV4输出维度问题解析

问题背景

在使用PyTorch-Image-Models（timm）库中的MobileNetV4模型时，开发者发现了一个关于特征维度输出的不一致现象。具体表现为：当使用MobileNetV4作为特征提取器时，虽然模型的num_features属性显示为960，但实际输出的特征维度却是1280。

技术细节分析

在timm库中，MobileNetV4的设计延续了MobileNetV3的架构特点，包含了一个额外的层在全局池化之后。这个设计决策导致了特征维度的特殊处理：

1. num_features属性（值为960）实际上表示的是forward_features()方法的输出维度
2. 而通过forward_head(..., pre_logits=True)或直接调用模型时得到的1280维输出，在最新版本的timm库中被统一称为head_hidden_size

模型架构对比

与ConvNeXt等模型不同，MobileNetV3/V4系列在特征处理上有其独特之处：

• MobileNetV3/V4系列：

  • num_features ≠ head_hidden_size
  • 特征提取后还有额外的处理层

• ConvNeXt等大多数模型：

  • num_features = head_hidden_size
  • 特征提取后直接输出

开发者建议

对于需要使用MobileNetV4作为特征提取器的开发者，应当注意以下几点：

1. 如果需要获取960维的特征（即forward_features()的输出），应当明确调用该方法
2. 若需要获取1280维的特征（即经过头部处理后的特征），可以直接调用模型或使用forward_head方法
3. 在模型选择时，应当根据实际需要的特征维度来决定使用哪种模型架构

总结

timm库中的MobileNetV4模型在特征维度处理上保持了与MobileNetV3一致的设计理念，通过分离num_features和head_hidden_size来提供更灵活的特征提取能力。理解这一设计差异有助于开发者更有效地利用这些模型进行计算机视觉任务。