读懂config.json:tiny_vit_11m_224.in1k预训练配置参数逐项详解
读懂config.json:tiny_vit_11m_224.in1k预训练配置参数逐项详解
刚拿到 tiny_vit_11m_224.in1k 这个模型仓库时,很多人盯着 config.json 里那一串参数一头雾水:crop_pct 是什么?pool_size 为什么是 [7, 7]?其实这份配置文件是 Hugging Face 模型卡的标准"说明书",它记录了 TinyViT 在 ImageNet-1k 上的预训练输入规格、归一化参数和权重加载方式。本文带你逐项读懂每个参数的真实含义,以及 timm 在加载模型时如何实际使用它们。
一、先认识这个仓库:一张 TinyViT 模型卡
根据 README.md 的模型卡描述,tiny_vit_11m_224.in1k 是一个来自微软 TinyViT 论文的图像分类模型,核心指标如下:
| 指标 | 数值 | 说明 |
|---|---|---|
| Params | 11.0 M | 参数量仅 1100 万,属于轻量级 ViT |
| GMACs | 1.9 | 每张图片计算量约 1.9 GMACs,推理很快 |
| Activations | 10.7 M | 224×224 输入下的激活总量 |
| Image size | 224 × 224 | 与 config.json 中的 input_size 完全对应 |
| Dataset | ImageNet-1k | 1000 类分类训练 |
仓库只有 4 个文件,各自职责非常清晰:
| 文件 | 作用 |
|---|---|
| config.json | 模型结构名 + 预训练配置参数(本文主角) |
| model.safetensors | PyTorch 权重(safetensors 格式) |
| pytorch_model.bin | PyTorch 权重(pickle 格式) |
| README.md | 模型卡:用途、指标与示例代码 |
💡 小提示:如果你 clone 下来的权重文件只有 100 多字节,说明它还是 Git LFS 指针文件而非真实权重。此时需要在仓库目录执行
git lfs install && git lfs pull拉取完整权重。
二、config.json 顶层三个参数
打开 config.json(仅 35 行),最外层只有 4 个字段,先看前 3 个:
| 参数 | 值 | 含义 |
|---|---|---|
architecture |
tiny_vit_11m_224 |
模型结构名。timm 会根据这个名字调用对应的网络构建函数,搭建出 TinyViT 的网络骨架 |
num_classes |
1000 |
分类头输出的类别数,对应 ImageNet-1k 的 1000 个类别 |
num_features |
448 |
最终特征向量的维度。也就是网络主干输出的通道数,对应 README 示例中 torch.Size([1, 448, 7, 7]) 那个 448 |
pretrained_cfg |
{...} |
预训练配置块,下面逐项展开 |
一句话总结:architecture 决定"造什么样的网络",num_classes 和 num_features 决定"网络出口的形状",而 pretrained_cfg 决定"预训练权重是怎么来的、该怎么喂数据"。
三、pretrained_cfg 预训练配置逐项详解
这是全文的重点。pretrained_cfg 共 13 个参数,可以分成四组来理解。
3.1 训练来源标签:tag 与 custom_load
"tag": "in1k",
"custom_load": false
tag: in1k对应模型名后缀.in1k,表示该权重在 ImageNet-1k(1000 类)数据集上预训练得到。timm 中常见的 tag 还有in1k、in21k等,tag 直接告诉下游代码该用哪套预处理参数。custom_load: false表示加载权重时不需要特殊处理(比如 key 重命名、格式转换)。若为true,timm 会调用自定义的load_fn来适配。
3.2 输入规格:input_size 与 fixed_input_size
"input_size": [3, 224, 224],
"fixed_input_size": false
input_size是标准的 PyTorch 张量形状约定[C, H, W]:3 通道 RGB 图、224×224 分辨率。这就是你调用模型前必须把图片 resize 的目标尺寸。fixed_input_size: false很关键——它表示输入尺寸不固定。虽然预训练用的是 224×224,但你传入 256×256 甚至其他分辨率时,TinyViT 的分块结构依然能正常前向,不会直接报错。这对做高分辨率推理很友好。
3.3 数据预处理:mean、std 与 crop 参数
"crop_pct": 0.95,
"crop_mode": "center",
"mean": [0.485, 0.456, 0.406],
"std": [0.229, 0.224, 0.225]
这一组是"怎么把原图变成模型能吃的张量":
mean/std:ImageNet 数据集的 RGB 三通道均值和标准差,即经典的 ImageNet 归一化参数。预处理时先pixel / 255缩放到 0~1,再按(x - mean) / std归一化。crop_pct: 0.95:验证时中心裁剪的比例。224×224 的图先按 0.95 比例裁剪出约 213×213 的区域再缩放回 224×224,这是 ImageNet 验证的标准做法,能略微提升精度。crop_mode: center:裁剪方式为中心裁剪(区别于随机裁剪)。
📌 在 timm 里,这几个参数会被
timm.data.create_transform()自动读取并组装成预处理流水线,所以 README 示例中才有resolve_model_data_config这一步——你不需要手写 resize 和归一化逻辑。
3.4 权重加载相关:pool_size、first_conv、classifier、interpolation
"pool_size": [7, 7],
"first_conv": "patch_embed.conv1.conv",
"classifier": "head.fc",
"interpolation": "bicubic"
pool_size: [7, 7]:224×224 输入经过 TinyViT 主干下采样后,最终特征图的空间尺寸是 7×7(224 ÷ 32 = 7)。全局平均池化就作用在这 7×7×448 的张量上,得到 448 维特征向量。first_conv:指出模型第一个卷积层的参数名(patch embedding 中的卷积)。timm 在微调换 stem、或从不同结构的检查点迁移权重时,靠这个名字定位层。classifier:分类头(全连接层)的参数名。当你把num_classes从 1000 改成自己的类别数时,timm 会重新初始化这个头并保留其余预训练权重。interpolation: bicubic:双三次插值。当源权重与当前网络结构需要尺寸对齐(比如把 7×7 的池化权重迁移到 14×14)时,用它做空间插值。
3.5 重复出现的 num_classes
注意 pretrained_cfg 内部还有一个 num_classes: 1000,与顶层字段重复。它的语义是"这份预训练权重对应的类别数",用于校验/记录;顶层的 num_classes 才是当前模型实际的输出类别数。两者一致时说明你没有改动分类头。
四、这些参数如何被 timm 实际使用?
理解参数之间如何联动,才算真正读懂配置。以 README 中的分类示例为例:
model = timm.create_model('tiny_vit_11m_224.in1k', pretrained=True)
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)
执行链路是这样的:
timm.create_model读取architecture构建网络骨架;- 按
tag: in1k选择对应的pretrained_cfg,加载权重文件(custom_load: false则走默认加载逻辑); resolve_model_data_config把input_size、mean、std、crop_pct等参数打包成数据配置;create_transform据此生成 resize → center crop → 归一化的完整预处理流水线;- 若你做迁移学习改类别数,
classifier字段告诉 timm 该重置哪个权重。
也就是说:这份 config.json 就是"数据怎么进、权重怎么装"的完整契约,模型卡、下游代码和 timm 库三方靠它保持一致。
五、参数速查表(收藏版)
| 参数 | 值 | 一句话解释 |
|---|---|---|
architecture |
tiny_vit_11m_224 |
网络结构名,timm 据此建网 |
num_classes |
1000 |
输出类别数(ImageNet-1k) |
num_features |
448 |
主干特征向量维度 |
pretrained_cfg.tag |
in1k |
权重来自 ImageNet-1k 预训练 |
pretrained_cfg.custom_load |
false |
权重加载无需特殊处理 |
pretrained_cfg.input_size |
[3, 224, 224] |
RGB 三通道、224×224 输入 |
pretrained_cfg.fixed_input_size |
false |
允许非 224 的输入分辨率 |
pretrained_cfg.interpolation |
bicubic |
权重迁移时的插值方式 |
pretrained_cfg.crop_pct |
0.95 |
验证时中心裁剪比例 |
pretrained_cfg.crop_mode |
center |
中心裁剪 |
pretrained_cfg.mean |
[0.485, 0.456, 0.406] |
ImageNet RGB 归一化均值 |
pretrained_cfg.std |
[0.229, 0.224, 0.225] |
ImageNet RGB 归一化标准差 |
pretrained_cfg.pool_size |
[7, 7] |
池化前特征图空间尺寸 |
pretrained_cfg.first_conv |
patch_embed.conv1.conv |
首层卷积的参数名 |
pretrained_cfg.classifier |
head.fc |
分类头的参数名 |
六、总结
读 config.json 只需抓住一条主线:
architecture+num_features→ 网络长什么样、出口多宽;input_size+mean/std/crop_pct→ 数据如何预处理才能复现预训练精度;first_conv/classifier/interpolation→ 微调与权重迁移时的定位与对齐方式。
掌握这三组参数的含义后,无论是加载 model.safetensors 还是 pytorch_model.bin 做推理,还是改造 README.md 里的特征提取、图像嵌入示例,你都能明白每一行代码背后发生了什么。