ChatGLM-4模型微调后工具调用问题分析与解决方案

问题背景

在使用ChatGLM-4-9B-chat模型进行LoRA微调并合并模型后，研究人员发现工具调用功能出现异常。具体表现为：基础模型和LoRA适配器单独使用时工具调用正常，但合并后的模型在工具调用场景下会报错。

问题分析

经过深入调查，发现问题主要出在模型合并过程中chat_template模板的变化上。原始ChatGLM-4模型的tokenizer_config.json文件中包含专门为工具调用设计的复杂模板结构，但在使用LLaMA-Factory进行模型合并后，该模板被简化为基本对话模板，失去了工具调用的特殊处理逻辑。

解决方案

临时解决方案

对于已经合并的模型，可以手动修改tokenizer_config.json文件，将其中的chat_template替换为原始ChatGLM-4的工具调用模板。具体步骤如下：

1. 定位到合并后模型的tokenizer_config.json文件
2. 找到chat_template字段
3. 替换为原始ChatGLM-4的工具调用模板内容
4. 保存文件并重新加载模型

长期解决方案

LLaMA-Factory项目团队已在代码库中提交修复，确保在合并ChatGLM-4模型时保留原始的工具调用模板。建议用户更新到最新版本的LLaMA-Factory工具。

相关技术要点

1. chat_template的作用：定义了模型如何处理对话历史和工具调用信息的模板结构，直接影响模型的输入格式和输出行为。

2. LoRA微调的影响：虽然LoRA微调主要修改模型的部分参数，但模型合并过程可能会影响非参数配置如tokenizer的设置。

3. 工具调用机制：ChatGLM-4的工具调用功能依赖于特定的输入格式和输出解析，需要完整的模板支持才能正常工作。

最佳实践建议

1. 在进行模型合并前，备份原始模型的配置文件
2. 合并后检查tokenizer_config.json等关键配置文件
3. 对于关键功能如工具调用，建议进行专项测试
4. 保持工具链和依赖库的版本更新

结论

ChatGLM-4模型的工具调用功能依赖于特定的模板配置，在模型微调和合并过程中需要特别注意保留这些配置。通过正确维护chat_template模板，可以确保微调后的模型保持完整的工具调用能力。这一经验也适用于其他具有类似功能的大型语言模型。