3行代码搞定少样本分类：DINOv2零标注落地指南

2026-02-04 04:44:03作者：秋泉律Samson

你是否遇到过这些场景：标注数据不足50张却要训练图像分类模型？换个场景模型就失效需要重新标注？DINOv2自监督学习方法让这一切成为过去！本文将展示如何用预训练特征+线性分类器的极简方案，在有限标注数据下实现高精度图像分类，代码量不超过20行。

为什么少样本学习如此重要？

传统监督学习需要大量标注数据，而现实中80%的应用场景都面临数据稀缺问题。医疗影像标注成本高达每张数百元，工业质检样本难以获取，这些痛点导致AI落地困难。DINOv2通过在1.42亿无标注图像上预训练，提炼出通用视觉特征，让你用少量标注数据就能构建高性能模型。

DINOv2的少样本优势

DINOv2的视觉特征具有惊人的迁移能力：

零标注情况下，ViT-L/14模型在ImageNet上k-NN分类准确率达83.5%
仅用10%训练数据，线性分类器即可达到监督学习80%的性能
跨域迁移能力强，从自然图像到卫星图像无需重新训练

图1：DINOv2特征主成分分析可视化，不同颜色代表不同图像帧的特征分布

快速上手：3步实现少样本分类

1. 环境准备

首先克隆仓库并安装依赖：

git clone https://gitcode.com/GitHub_Trending/di/dinov2
cd dinov2
conda env create -f conda.yaml
conda activate dinov2

2. 加载预训练模型

DINOv2提供多种规格的预训练模型，从轻量到巨型一应俱全：

import torch
# 加载小型模型(21M参数)
model = torch.hub.load('facebookresearch/dinov2', 'dinov2_vits14')
# 如需加载大型模型(300M参数)，替换为'dinov2_vitl14'
model.eval()
model.cuda()

模型详情可查看官方文档，各模型性能如下表：

模型	参数规模	ImageNet线性分类准确率
ViT-S/14	21M	81.1%
ViT-B/14	86M	84.5%
ViT-L/14	300M	86.3%
ViT-g/14	1100M	86.5%

3. 提取特征并训练分类器

使用预训练模型提取图像特征，然后训练简单的线性分类器：

# 提取图像特征
def extract_features(model, images):
    with torch.no_grad():
        features = model(images)
    return features

# 准备少量标注数据(例如50张图像)
train_features = extract_features(model, train_images)
train_labels = load_labels("train_labels.csv")

# 训练线性分类器
classifier = torch.nn.Linear(384, num_classes).cuda()
optimizer = torch.optim.Adam(classifier.parameters(), lr=1e-4)
criterion = torch.nn.CrossEntropyLoss()

# 仅需训练几个epoch
for epoch in range(5):
    optimizer.zero_grad()
    preds = classifier(train_features)
    loss = criterion(preds, train_labels)
    loss.backward()
    optimizer.step()

核心代码位于dinov2/eval/linear.py，该模块实现了线性分类器的训练和评估流程。

进阶技巧：提升少样本性能

多特征融合策略

通过融合多个Transformer层的特征，可以进一步提升性能：

# 获取多个中间层特征
features = model.get_intermediate_layers(images, n=4)
# 融合最后4层特征
combined_features = torch.cat([f[:, 0] for f in features], dim=1)

这种方法在notebooks/semantic_segmentation.ipynb中有详细演示，特别适合样本量极小时使用。

数据增强技巧

即使标注数据少，适当的数据增强也能显著提升泛化能力：

from dinov2.data.transforms import make_classification_train_transform

transform = make_classification_train_transform(
    image_size=224,
    is_training=True
)

该变换包含随机裁剪、翻转、颜色抖动等操作，定义在dinov2/data/transforms.py。