focalnet_tiny_srf.ms_in1k的srn与ms_in1k标签是什么?config.json逐行解读
focalnet_tiny_srf.ms_in1k的srn与ms_in1k标签是什么?config.json逐行解读
focalnet_tiny_srf.ms_in1k 是 timm(PyTorch Image Models)中一个基于 FocalNet 架构的轻量级图像分类模型:参数量仅 28.4M、输入 224×224 图像,由论文作者在 ImageNet-1k 数据集上预训练。本文帮你快速搞懂模型名里 srf 与 ms_in1k 两个"标签"到底代表什么,并对 config.json 逐行解读,新手也能一次看懂这个模型卡片。
💡 小提示:标题里的 "srn" 其实是 srf 的笔误,模型全名是
focalnet_tiny_srf,下面会详细说明。
一、模型名拆解:focalnet_tiny_srf.ms_in1k 怎么读?
timm 的模型名遵循固定格式:架构_规格.训练标签,拆开看一目了然:
| 片段 | 含义 |
|---|---|
focalnet |
网络架构,即 Focal Modulation Networks(NeurIPS 2022 提出的视觉 Transformer 替代方案) |
tiny |
规模档位,FocalNet 家族中最小的一档(28.4M 参数,4.4 GMACs) |
srf |
Standard Residual Fusion,标准残差融合结构,是 FocalNet 的默认主干变体 |
ms_in1k |
预训练标签:在 ImageNet-1k 上预训练的权重,ms 对应作者采用的 MSRV(Mixed-Scale Resolution,混合尺度分辨率)训练配方 |
也就是说,ms_in1k 不是模型结构的一部分,而是"这份权重是怎么来的"的说明书——它在 config.json 的 pretrained_cfg.tag 字段中正式出现。
二、ms_in1k 标签详解:它决定了什么?
ms_in1k 标签在 timm 中会绑定的关键信息如下:
- 输入规格:3 通道、224×224 的 RGB 图像
- 数据增强:验证时中心裁剪 90%(
crop_pct: 0.9) - 归一化参数:沿用 ImageNet 标准 mean/std
- 分类头:1000 个 ImageNet 类别 + 7×7 全局平均池化
📌 如果你在 timm 里执行 timm.create_model('focalnet_tiny_srf.ms_in1k', pretrained=True),timm 就是靠这个标签去加载正确的权重并应用上述预处理配置。
三、config.json 逐行解读
下面按 config.json 的实际行序逐个解释:
{
"architecture": "focalnet_tiny_srf",
"num_classes": 1000,
"num_features": 768,
"pretrained_cfg": { ... }
}
第 2 行 architecture: "focalnet_tiny_srf"
声明模型架构名,即 FocalNet-tiny 的标准残差融合(srf)版本。timm 用它在注册表中找到对应的网络实现代码。
第 3 行 num_classes: 1000
分类头输出的类别数为 1000,正好对应 ImageNet-1k 的 1000 个类别。做迁移学习时通常要把它改成自己的类别数。
第 4 行 num_features: 768
主干网络最终输出的特征维度为 768 维。做特征提取、相似度检索或接自定义分类头时,这个数字就是你需要知道的"特征向量宽度"。
第 5 行 pretrained_cfg
预训练配置块的开始,下面所有内容都描述"这份预训练权重"。
第 6 行 tag: "ms_in1k"
预训练标签,前文已详解:ImageNet-1k + 作者 MSRV 训练配方的官方权重。
第 7 行 custom_load: false
加载权重时无需自定义逻辑,按标准方式直接映射即可(true 时 timm 才会启用特殊加载函数,例如 ViT 的相对位置插值)。
第 8-12 行 input_size: [3, 224, 224]
推荐输入张量形状:通道数 C=3、高 H=224、宽 W=224(CHW 顺序)。
第 13 行 fixed_input_size: false
输入尺寸并非固定死。FocalNet 属于 Transformer 类模型,允许改变输入分辨率(位置编码会自适应处理)。
第 14 行 interpolation: "bicubic"
当预训练权重的尺寸与新尺寸不匹配时,采用双三次(bicubic)插值重采样,这是 ViT/FocalNet 类模型微调时的推荐方式。
第 15 行 crop_pct: 0.9
验证/测试阶段中心裁剪比例:从 224 边长中取 90% 区域作为评估视图,防止边缘裁剪偏差。
第 16 行 crop_mode: "center"
裁剪模式为中心裁剪,与上一行配合使用。
第 17-21 行 mean: [0.485, 0.456, 0.406]
ImageNet 标准的 RGB 通道均值,输入图像需先做 (x/255 - mean) / std 归一化。
第 22-26 行 std: [0.229, 0.224, 0.225]
对应的 RGB 通道标准差,同样是 ImageNet 的标准值。
第 27 行 num_classes: 1000
在预训练配置中再次确认权重对应的类别数为 1000,timm 加载时会据此校验分类头。
第 28-31 行 pool_size: [7, 7]
输入 224×224 时,最终特征图是 7×7,全局平均池化就作用在这 49 个位置上,之后送入分类头。
第 32 行 first_conv: "stem.proj"
网络"第一层卷积"的参数名是 stem.proj。timm 在特征提取、卷积适配(ConvNeXt 式迁移)时需要定位第一层,这个字段就是路标。
第 33 行 classifier: "head.fc"
分类器层名为 head.fc。做迁移学习冻结/替换分类头、或提取 embedding 时,timm 靠它找到分类层。
第 34 行 license: "mit"
权重许可证为 MIT,商业使用友好,与 README.md 头部 frontmatter 中的 license: mit 一致。
四、仓库文件结构:一共就 4 个文件
focalnet_tiny_srf.ms_in1k/
├── README.md # 模型卡片:介绍、用法、论文引用
├── config.json # 本次逐行解读的模型配置
├── model.safetensors # 权重(safetensors 格式)
└── pytorch_model.bin # 权重(pickle 格式,与上者等价)
几个新手容易踩的点:
- ⚠️ 仓库中的 model.safetensors 与 pytorch_model.bin 是 Git LFS 指针文件(仅 134 字节),真正的权重约 114 MB(safetensors 版本 113,730,688 字节),需要
git lfs pull或从模型仓库直接下载才能拿到。 - 🎯 两个权重文件内容等价,优先使用
model.safetensors(加载更快、更安全)。 - 📄 完整的模型信息(28.4M 参数、4.4 GMACs、16.3M 激活值、Focal Modulation Networks 论文引用)都在 README.md 的 Model Details 一节。
五、3 行代码跑起来(最小可用示例)
import timm
model = timm.create_model('focalnet_tiny_srf.ms_in1k', pretrained=True)
model = model.eval()
timm 会自动根据 pretrained_cfg 完成权重下载与归一化配置;推理、特征提取(features_only=True)、embedding(num_classes=0)等完整写法见 README.md 的 Model Usage 部分。
六、常见疑问 FAQ
Q1:ms_in1k 和 in1k 有什么区别?
in1k 只表示"在 ImageNet-1k 上预训练";ms_in1k 多出来的 ms 表明权重来自论文作者的 MSRV(混合尺度分辨率)训练配方,通常精度更高。timm 会把它们注册为同一架构的不同预训练标签,用 架构.标签 的方式分别加载。
Q2:srf 是什么?为什么有人写成 srn?
srf = Standard Residual Fusion,FocalNet 论文中的默认主干结构。仓库、timm 注册名均为 srf,"srn" 属于拼写错误,检索模型时请认准 focalnet_tiny_srf.ms_in1k。
Q3:我能直接用 224 以外的输入尺寸吗?
可以。fixed_input_size: false 说明输入尺寸不锁定,配合 interpolation: bicubic 的位置插值策略,FocalNet 支持常见分辨率的自由调整。
Q4:MIT 许可下可以商用吗?
license: "mit" 表示权重采用 MIT 许可证,可自由使用、修改与商用,无需额外授权。