Chinese-LLaMA-Alpaca-2模型精调后文件格式问题解析

在Chinese-LLaMA-Alpaca-2项目中进行指令精调时，许多开发者会遇到一个常见问题：训练完成后生成的适配器文件中只包含adapter_model.safetensors文件，而没有adapter_model.bin文件。这种情况通常会导致后续模型合并步骤出现错误。

问题现象

当使用项目提供的run_clm_sft_with_peft.py脚本对7B模型进行指令精调后，输出目录中会生成一个sft_lora_model文件夹。该文件夹内包含以下文件：

• adapter_model.safetensors
• adapter_config.json
• special_tokens_map.json
• tokenizer_config.json
• tokenizer.model

值得注意的是，这里缺少了传统上常见的adapter_model.bin文件。当开发者尝试使用merge_llama2_with_chinese_lora_low_mem.py脚本进行模型合并时，系统会报错提示找不到adapter_model.bin文件。

根本原因

这一现象源于PEFT库（Parameter-Efficient Fine-Tuning）0.7.1版本后的默认行为变更。新版本的PEFT库为了提高模型安全性，默认采用safetensors格式保存权重文件，而不是传统的.bin格式。safetensors是一种更安全的张量存储格式，具有以下优势：

1. 更快的加载速度
2. 更好的安全性保障
3. 原生支持并行加载

解决方案

针对这一问题，开发者可以采取以下解决方案：

1. 使用项目推荐的依赖版本：确保按照项目requirements.txt文件安装指定版本的PEFT库，这样可以保持与项目其他组件的兼容性。

2. 调整训练脚本参数：在运行run_clm_sft_with_peft.py脚本时，可以显式设置保存格式参数。虽然最新版本默认使用safetensors，但可以通过参数强制指定输出格式。

3. 修改合并脚本：如果确实需要.bin格式文件，可以修改merge_llama2_with_chinese_lora_low_mem.py脚本，使其能够识别和处理.safetensors格式的文件。

最佳实践建议

1. 在进行模型精调前，仔细检查所有依赖库的版本，特别是PEFT库的版本。

2. 了解项目文档中关于文件格式的说明，特别是当项目更新后可能引入的行为变更。

3. 对于生产环境，推荐使用safetensors格式，因为它提供了更好的安全性和性能。

4. 如果遇到格式不匹配问题，可以考虑使用格式转换工具，将safetensors转换为需要的格式。

通过理解这一问题的本质和解决方案，开发者可以更顺利地在Chinese-LLaMA-Alpaca-2项目中进行模型精调和后续处理工作。