EasyEdit项目中的LoRA模型保存问题分析与解决方案

问题背景

在使用EasyEdit项目进行模型编辑时，研究人员发现当使用LoRA（Low-Rank Adaptation）方法对Llama模型进行编辑后，调用save_pretrained方法无法正确保存adapter配置文件（adapter_config.json）和模型权重文件（adapter_model.safetensors）。这个问题在顺序编辑（sequential_edit）模式下尤为明显。

问题现象分析

通过深入分析，我们发现当设置sequential_edit=True时：

1. 当输入数据集大小为1时，能够正确保存LoRA适配器
2. 当输入数据集大小大于1时，系统会保存整个模型而非单独的适配器

进一步调试发现，问题根源在于模型类型的变化：

• 第一次编辑时，模型类型为PeftModelForCausalLM
• 后续编辑时，模型类型变为LlamaForCausalLM

技术原理剖析

LoRA方法通过在预训练模型的权重矩阵上添加低秩分解的适配器来实现高效微调。在EasyEdit的实现中：

1. 首次编辑时会创建新的PEFT配置和适配器模型
2. 后续顺序编辑时直接使用基础模型进行训练
3. 由于模型类型变化，保存机制无法正确识别适配器部分

解决方案

临时解决方案

在编辑完成后，直接将edited_model赋值给self.model，这样可以保持模型类型的正确性。

推荐解决方案

1. 使用PEFT库提供的get_peft_model_state_dict函数提取适配器状态
2. 在每次编辑后执行merge_and_unload操作（可能影响性能）
3. 等待官方更新更健壮的实现

最佳实践建议

对于需要顺序编辑并保存适配器的场景，建议：

1. 先完成所有顺序编辑操作
2. 最后统一保存适配器
3. 使用PEFT库提供的专用函数处理适配器状态

总结

这个问题反映了在复杂模型编辑场景下类型系统的重要性。开发者在实现顺序编辑功能时需要特别注意模型包装层的保持。EasyEdit团队已经意识到这个问题，并承诺将在未来版本中提供更健壮的实现。

对于当前用户，可以采用上述解决方案之一来正确保存LoRA适配器。理解这一问题的本质也有助于开发者更好地利用EasyEdit项目进行大模型编辑研究。