ChatGLM3函数调用功能与新版OpenAI API的兼容性问题解析

问题背景

ChatGLM3作为一款优秀的开源对话模型，提供了强大的函数调用能力。然而，随着OpenAI API规范的更新，部分开发者在使用ChatGLM3的函数调用功能时遇到了兼容性问题。本文将深入分析这一问题的根源，并提供切实可行的解决方案。

核心问题分析

OpenAI API在1.12.0版本中对函数调用接口进行了重大调整，主要变化包括：

1. 函数调用数据结构从function_call字段迁移到tool_calls数组
2. 新增了工具调用ID字段
3. 参数传递格式更加规范化

而ChatGLM3原有的函数调用输出格式仍保持旧版风格，导致与新版本API规范不兼容。具体表现为：

• 函数调用信息以特定文本格式返回，而非结构化数据
• 缺少必要的元数据字段（如调用ID）
• 参数传递方式不符合新规范要求

技术解决方案

针对这一兼容性问题，我们可以在API服务层进行适配转换。核心思路是：

1. 保持原有输出不变：不影响已有系统的正常运行
2. 新增格式转换层：在流式输出完成后，解析全文内容
3. 动态生成兼容格式：当检测到函数调用时，按新版规范构造响应

具体实现要点如下：

1. 函数调用检测

通过正则表达式或特定标记识别函数调用：

if "tool_call(" in output and "```" in output and ")" in output:
    # 处理函数调用

2. 参数提取与转换

使用Python的eval安全提取参数，并转换为JSON格式：

function_name, args = output.splitlines()[0].strip(), eval(output.splitlines()[2].strip())
args_json = json.dumps(args, ensure_ascii=False)

3. 新版格式构造

按照OpenAI 1.12.0+规范构造响应：

response = {
    "id": "自动生成的唯一ID",
    "object": "chat.completion.chunk",
    "created": 时间戳,
    "model": "chatglm",
    "choices": [{
        "index": 0,
        "delta": {
            "role": "assistant",
            "tool_calls": [{
                "id": "调用ID",
                "type": "function",
                "function": {
                    "name": function_name,
                    "arguments": args_json
                }
            }]
        },
        "finish_reason": "tool_calls"
    }]
}

4. 流式传输处理

将转换后的响应分三部分传输：

1. 函数声明部分
2. 参数部分（字符级流式传输）
3. 结束标志

实现注意事项

1. 版本兼容性：该方案应同时支持新旧版本API调用
2. 错误处理：对非法函数调用格式要有容错机制
3. 性能考量：额外的解析转换操作不应显著影响响应速度
4. 安全性：参数提取时需防范代码注入风险

实际应用效果

在LobeChat v0.130.0等应用中，该方案能够：

• 正确识别ChatGLM3的函数调用意图
• 转换为新版API规范要求的格式
• 保证函数调用流程的完整执行
• 同时保留原始输出内容

后续演进建议

随着API规范的持续演进，建议：

1. 在模型层面直接支持新版输出格式
2. 提供配置选项切换不同版本的兼容模式
3. 建立完善的版本检测和自动适配机制
4. 增强函数调用的稳定性和准确性

通过这种渐进式的兼容方案，开发者可以在享受ChatGLM3强大功能的同时，无缝对接各类基于新版OpenAI API规范开发的应用系统。