读懂config.json:tiny_vit_11m_224.in1k预训练配置参数逐项详解

原创2026-10-20 12:22:561,950 阅读

读懂config.json:tiny_vit_11m_224.in1k预训练配置参数逐项详解

刚拿到 tiny_vit_11m_224.in1k 这个模型仓库时,很多人盯着 config.json 里那一串参数一头雾水:crop_pct 是什么?pool_size 为什么是 [7, 7]?其实这份配置文件是 Hugging Face 模型卡的标准"说明书",它记录了 TinyViT 在 ImageNet-1k 上的预训练输入规格、归一化参数和权重加载方式。本文带你逐项读懂每个参数的真实含义,以及 timm 在加载模型时如何实际使用它们。

一、先认识这个仓库:一张 TinyViT 模型卡

根据 README.md 的模型卡描述,tiny_vit_11m_224.in1k 是一个来自微软 TinyViT 论文的图像分类模型,核心指标如下:

指标 数值 说明
Params 11.0 M 参数量仅 1100 万,属于轻量级 ViT
GMACs 1.9 每张图片计算量约 1.9 GMACs,推理很快
Activations 10.7 M 224×224 输入下的激活总量
Image size 224 × 224 与 config.json 中的 input_size 完全对应
Dataset ImageNet-1k 1000 类分类训练

仓库只有 4 个文件,各自职责非常清晰:

文件 作用
config.json 模型结构名 + 预训练配置参数(本文主角)
model.safetensors PyTorch 权重(safetensors 格式)
pytorch_model.bin PyTorch 权重(pickle 格式)
README.md 模型卡:用途、指标与示例代码

💡 小提示:如果你 clone 下来的权重文件只有 100 多字节,说明它还是 Git LFS 指针文件而非真实权重。此时需要在仓库目录执行 git lfs install && git lfs pull 拉取完整权重。

二、config.json 顶层三个参数

打开 config.json(仅 35 行),最外层只有 4 个字段,先看前 3 个:

参数 值 含义
architecture tiny_vit_11m_224 模型结构名。timm 会根据这个名字调用对应的网络构建函数,搭建出 TinyViT 的网络骨架
num_classes 1000 分类头输出的类别数,对应 ImageNet-1k 的 1000 个类别
num_features 448 最终特征向量的维度。也就是网络主干输出的通道数,对应 README 示例中 torch.Size([1, 448, 7, 7]) 那个 448
pretrained_cfg {...} 预训练配置块,下面逐项展开

一句话总结:architecture 决定"造什么样的网络",num_classes 和 num_features 决定"网络出口的形状",而 pretrained_cfg 决定"预训练权重是怎么来的、该怎么喂数据"。

三、pretrained_cfg 预训练配置逐项详解

这是全文的重点。pretrained_cfg 共 13 个参数,可以分成四组来理解。

3.1 训练来源标签:tag 与 custom_load

"tag": "in1k",
"custom_load": false
  • tag: in1k 对应模型名后缀 .in1k,表示该权重在 ImageNet-1k(1000 类)数据集上预训练得到。timm 中常见的 tag 还有 in1k、in21k 等,tag 直接告诉下游代码该用哪套预处理参数。
  • custom_load: false 表示加载权重时不需要特殊处理(比如 key 重命名、格式转换)。若为 true,timm 会调用自定义的 load_fn 来适配。

3.2 输入规格:input_size 与 fixed_input_size

"input_size": [3, 224, 224],
"fixed_input_size": false
  • input_size 是标准的 PyTorch 张量形状约定 [C, H, W]:3 通道 RGB 图、224×224 分辨率。这就是你调用模型前必须把图片 resize 的目标尺寸。
  • fixed_input_size: false 很关键——它表示输入尺寸不固定。虽然预训练用的是 224×224,但你传入 256×256 甚至其他分辨率时,TinyViT 的分块结构依然能正常前向,不会直接报错。这对做高分辨率推理很友好。

3.3 数据预处理:mean、std 与 crop 参数

"crop_pct": 0.95,
"crop_mode": "center",
"mean": [0.485, 0.456, 0.406],
"std": [0.229, 0.224, 0.225]

这一组是"怎么把原图变成模型能吃的张量":

  • mean / std:ImageNet 数据集的 RGB 三通道均值和标准差,即经典的 ImageNet 归一化参数。预处理时先 pixel / 255 缩放到 0~1,再按 (x - mean) / std 归一化。
  • crop_pct: 0.95:验证时中心裁剪的比例。224×224 的图先按 0.95 比例裁剪出约 213×213 的区域再缩放回 224×224,这是 ImageNet 验证的标准做法,能略微提升精度。
  • crop_mode: center:裁剪方式为中心裁剪(区别于随机裁剪)。

📌 在 timm 里,这几个参数会被 timm.data.create_transform() 自动读取并组装成预处理流水线,所以 README 示例中才有 resolve_model_data_config 这一步——你不需要手写 resize 和归一化逻辑。

3.4 权重加载相关:pool_size、first_conv、classifier、interpolation

"pool_size": [7, 7],
"first_conv": "patch_embed.conv1.conv",
"classifier": "head.fc",
"interpolation": "bicubic"
  • pool_size: [7, 7]:224×224 输入经过 TinyViT 主干下采样后,最终特征图的空间尺寸是 7×7(224 ÷ 32 = 7)。全局平均池化就作用在这 7×7×448 的张量上,得到 448 维特征向量。
  • first_conv:指出模型第一个卷积层的参数名(patch embedding 中的卷积)。timm 在微调换 stem、或从不同结构的检查点迁移权重时,靠这个名字定位层。
  • classifier:分类头(全连接层)的参数名。当你把 num_classes 从 1000 改成自己的类别数时,timm 会重新初始化这个头并保留其余预训练权重。
  • interpolation: bicubic:双三次插值。当源权重与当前网络结构需要尺寸对齐(比如把 7×7 的池化权重迁移到 14×14)时,用它做空间插值。

3.5 重复出现的 num_classes

注意 pretrained_cfg 内部还有一个 num_classes: 1000,与顶层字段重复。它的语义是"这份预训练权重对应的类别数",用于校验/记录;顶层的 num_classes 才是当前模型实际的输出类别数。两者一致时说明你没有改动分类头。

四、这些参数如何被 timm 实际使用?

理解参数之间如何联动,才算真正读懂配置。以 README 中的分类示例为例:

model = timm.create_model('tiny_vit_11m_224.in1k', pretrained=True)
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)

执行链路是这样的:

  1. timm.create_model 读取 architecture 构建网络骨架;
  2. 按 tag: in1k 选择对应的 pretrained_cfg,加载权重文件(custom_load: false 则走默认加载逻辑);
  3. resolve_model_data_config 把 input_size、mean、std、crop_pct 等参数打包成数据配置;
  4. create_transform 据此生成 resize → center crop → 归一化的完整预处理流水线;
  5. 若你做迁移学习改类别数,classifier 字段告诉 timm 该重置哪个权重。

也就是说:这份 config.json 就是"数据怎么进、权重怎么装"的完整契约,模型卡、下游代码和 timm 库三方靠它保持一致。

五、参数速查表(收藏版)

参数 值 一句话解释
architecture tiny_vit_11m_224 网络结构名,timm 据此建网
num_classes 1000 输出类别数(ImageNet-1k)
num_features 448 主干特征向量维度
pretrained_cfg.tag in1k 权重来自 ImageNet-1k 预训练
pretrained_cfg.custom_load false 权重加载无需特殊处理
pretrained_cfg.input_size [3, 224, 224] RGB 三通道、224×224 输入
pretrained_cfg.fixed_input_size false 允许非 224 的输入分辨率
pretrained_cfg.interpolation bicubic 权重迁移时的插值方式
pretrained_cfg.crop_pct 0.95 验证时中心裁剪比例
pretrained_cfg.crop_mode center 中心裁剪
pretrained_cfg.mean [0.485, 0.456, 0.406] ImageNet RGB 归一化均值
pretrained_cfg.std [0.229, 0.224, 0.225] ImageNet RGB 归一化标准差
pretrained_cfg.pool_size [7, 7] 池化前特征图空间尺寸
pretrained_cfg.first_conv patch_embed.conv1.conv 首层卷积的参数名
pretrained_cfg.classifier head.fc 分类头的参数名

六、总结

读 config.json 只需抓住一条主线:

  1. architecture + num_features → 网络长什么样、出口多宽;
  2. input_size + mean/std/crop_pct → 数据如何预处理才能复现预训练精度;
  3. first_conv/classifier/interpolation → 微调与权重迁移时的定位与对齐方式。

掌握这三组参数的含义后,无论是加载 model.safetensors 还是 pytorch_model.bin 做推理,还是改造 README.md 里的特征提取、图像嵌入示例,你都能明白每一行代码背后发生了什么。

登录后查看全文
tiny_vit_11m_224.in1k