config.json 完全解析:tiny_vit_21m_224.dist_in22k 的ImageNet-22k归一化参数与裁剪配置详解
config.json 完全解析:tiny_vit_21m_224.dist_in22k 的ImageNet-22k归一化参数与裁剪配置详解
本文逐行讲解 tiny_vit_21m_224.dist_in22k 模型的 config.json 配置文件,重点解析 ImageNet-22k 归一化参数(mean/std)与 crop_pct 裁剪配置,帮助新手快速看懂这款 TinyViT 图像分类模型是如何对输入图像做预处理的。
📦 这是一个什么模型?
tiny_vit_21m_224.dist_in22k 是 timm 项目发布的一款 TinyViT 图像分类模型,在 ImageNet-22k 数据集(共 21,841 个类别)上通过"快速预训练蒸馏"方式训练,输入尺寸为 224×224。模型档案中列出的关键数据(见 README.md):
- 参数量:约 33.2M
- 计算量:4.1 GMACs
- 图像尺寸:224 × 224
整个仓库只有 4 个文件,各司其职:
| 文件 | 作用 |
|---|---|
| config.json | 模型架构与数据预处理配置(本文主角) |
| README.md | 模型卡:模型详情与使用示例 |
| model.safetensors | 模型权重(safetensors 格式) |
| pytorch_model.bin | 模型权重(PyTorch 格式) |
🔍 config.json 顶层三大字段
config.json 的顶层结构非常简单,只有三个字段:
| 字段 | 值 | 含义 |
|---|---|---|
architecture |
tiny_vit_21m_224 |
模型架构名:TinyViT,基准输入 224 |
num_classes |
21841 |
输出类别数,即 ImageNet-22k 的类别总数 |
num_features |
576 |
模型主干的特征维度 |
其中 num_classes 等于 21841,一眼就能确认这份权重是在 ImageNet-22k 上训练的;如果你打算用自己的数据集微调,只需替换最后的分类层即可。
🎯 核心:ImageNet-22k 归一化参数
配置的精髓在 pretrained_cfg 字段里,其中 归一化参数 mean 和 std 最关键(见 config.json):
| 通道 | mean | std |
|---|---|---|
| 红 R | 0.485 | 0.229 |
| 绿 G | 0.456 | 0.224 |
| 蓝 B | 0.406 | 0.225 |
归一化公式在做什么?
图像进入模型前,像素值先被缩放到 0~1 区间(即除以 255),再按 归一化值 =(像素值 − mean)÷ std 逐通道计算。它的作用有两个:
- mean:把数据分布平移到零均值附近,与模型训练时"见过"的分布保持一致
- std:拉齐三个通道的方差,避免某个颜色通道数值占主导
模型正是在这组统计量下学习的特征。如果推理时漏做归一化、或数值对不上,预测结果会明显失准——这是新手"模型能跑通、结果却全错"的头号原因。
预处理三连:输入尺寸、插值与尺寸自由度
与归一化配套的一组字段(见 config.json):
input_size: [3, 224, 224]— 模型期望 3 通道、224×224 的输入interpolation: bicubic— 缩放图片时采用双三次插值fixed_input_size: false— 输入尺寸不锁定,微调时也可使用其他分辨率
✂️ 裁剪配置:crop_pct 0.95 与中心裁剪
推理时,这款模型的标准做法是先对图像做中心裁剪(见 config.json):
- 以图像中心为基准,裁出边长为 95%(
crop_pct: 0.95)的正方形区域 - 将该区域缩放到 224×224
- 执行上文所述的 mean/std 归一化
crop_mode: center 指定了裁剪模式为中心裁剪。这一设定源自 ImageNet 训练与推理流程的惯例:推理时略裁一刀,相当于"更紧凑的取景",配合训练时的随机裁剪,对定位不准的物体更稳健,还能带来轻微精度收益。
新手无需手写这套流程,让 timm 直接读取配置即可(官方示例见 README.md):
data_config = timm.data.resolve_model_data_config(model)
transforms = timm.data.create_transform(**data_config, is_training=False)
两行代码就完成了"读取 config.json → 构建预处理流水线",mean/std、裁剪比例全部自动带出,不用手动硬编码。
🧩 pretrained_cfg 里其他值得知道的字段
| 字段 | 值 | 作用 |
|---|---|---|
tag |
dist_in22k |
预训练版本标签:ImageNet-22k 蒸馏版 |
custom_load |
false |
加载权重时无需特殊处理 |
pool_size |
[7, 7] |
全局平均池化前的特征图为 7×7 |
first_conv |
patch_embed.conv1.conv |
第一个卷积层名(用于权重加载/优化器分组) |
classifier |
head.fc |
分类层名(微调时定位要替换的层) |
🚀 快速上手小结
使用这款模型的完整链路其实只有三步:
- 用
timm.create_model('tiny_vit_21m_224.dist_in22k', pretrained=True)加载模型 - 通过
resolve_model_data_config构建预处理流水线(自动读取本文解析的归一化与裁剪配置) - 送入预处理后的图像,得到 21,841 个类别的预测概率,取 Top-1 或 Top-5 即可
只要预处理参数与仓库中的 config.json 保持一致,就能稳定复现模型卡上的表现。