HuggingFace Transformers项目中的Qwen2.5模型微调与加载问题解析

在HuggingFace Transformers生态系统中，使用QLoRA技术微调Qwen2.5模型时，开发者可能会遇到一个典型的问题：当尝试加载经过微调的模型时，系统会报告"size mismatch"错误，具体表现为lm_head层的权重形状不匹配。这个问题涉及到模型架构、参数保存与加载机制等多个技术细节。

问题现象

当开发者使用SFTTrainer对Qwen2.5-0.5B模型进行微调后，尝试通过AutoPeftModelForCausalLM加载模型时，会遇到如下错误提示：

size mismatch for base_model.model.lm_head.modules_to_save.default.weight: 
copying a param with shape torch.Size([151936, 896]) from checkpoint, 
the shape in current model is torch.Size([151665, 896])

这个错误表明，保存的检查点中lm_head层的输出维度(151936)与当前模型预期的维度(151665)不一致，导致无法正确加载权重。

技术背景

Qwen2.5系列模型采用了特殊的词表设计，其原始词表大小与标准Transformer模型有所不同。在微调过程中，当使用Peft(Parameter-Efficient Fine-Tuning)技术时，特别是包含了modules_to_save参数(保存完整层而不仅仅是适配器)的情况下，系统会保存完整的lm_head层权重。

问题根源

经过分析，这个问题主要由以下几个因素共同导致：

1. 词表扩展机制：在微调过程中，可能由于添加特殊token或其他操作，导致词表大小发生变化
2. 权重保存方式：使用modules_to_save保存完整层而非适配器时，会保存扩展后的词表对应的权重
3. 自动调整机制：AutoPeftModelForCausalLM在加载时会根据tokenizer自动调整模型词表大小

解决方案

针对这个问题，开发者可以采用以下几种解决方案：

1. 显式指定词表大小：在加载模型前，先手动调整基础模型的词表大小

base_model = AutoModelForCausalLM.from_pretrained('Qwen/Qwen2.5-0.5B')
base_model.resize_token_embeddings(151936)  # 显式指定词表大小
model = PeftModel.from_pretrained(base_model, peft_model_id)

2. 避免自动调整：修改加载逻辑，防止自动根据tokenizer调整词表大小

3. 统一微调环境：确保微调和推理阶段使用完全相同的tokenizer配置

最佳实践建议

为了避免类似问题，在使用HuggingFace Transformers进行模型微调时，建议：

1. 在微调前后记录并验证tokenizer的长度和模型词表大小
2. 对于Qwen等特殊架构模型，仔细检查官方文档中的词表配置要求
3. 在保存检查点时，同时保存tokenizer配置信息
4. 考虑使用更稳定的模型加载方式，如先加载基础模型再加载适配器

总结

这个问题典型地展示了在参数高效微调场景下，模型架构细节与框架自动化机制之间可能产生的冲突。理解模型原始配置、微调过程中的变化以及框架的自动处理逻辑，对于解决此类问题至关重要。通过采用明确的尺寸指定和分步加载策略，开发者可以有效地规避这类维度不匹配问题，确保模型微调和部署流程的顺畅进行。