Qwen3模型函数调用中汉字转义问题的分析与解决

问题背景

在使用Qwen3系列大语言模型（特别是Qwen2.5-72B-Instruct版本）进行函数调用时，开发人员发现当模型输出包含中文参数的函数调用时，所有中文字符都会被自动转义为Unicode编码或添加转义字符。这不仅影响了输出的可读性，也可能对后续的函数调用处理造成不便。

问题现象

当用户请求查询"北京今天的天气"时，模型正确识别了需要调用天气查询函数，但在生成的函数参数中，中文字符被转义：

"arguments":"{\"location\": \"\北\京, \中\国\", \"date\": \"2023-04-05\", \"unit\": \"celsius\"}"

理想情况下，参数应该保持原始中文字符：

"arguments":"{\"location\": \"北京, 中国\", \"date\": \"2023-04-05\", \"unit\": \"celsius\"}"

技术分析

1. 问题根源

经过分析，这个问题并非来自Qwen3模型本身，而是出现在vLLM推理服务的参数解析环节。具体来说：

• vLLM在解析函数调用参数时，默认使用了JSON序列化的ensure_ascii=True选项
• 这个选项会导致所有非ASCII字符（包括中文）被转义为Unicode编码或添加转义字符
• 模型本身生成的原始输出实际上是正确的中文字符

2. 影响范围

这个问题主要影响以下场景：

• 使用vLLM部署Qwen3模型的服务
• 涉及中文参数的函数调用
• 使用Hermes工具模板的对话场景

解决方案

1. 修改vLLM源码

最根本的解决方案是修改vLLM的hermes_tool_parser.py文件中的extract_tool_calls函数，在JSON序列化时添加ensure_ascii=False参数：

def extract_tool_calls(...):
    # 修改前
    arguments = json.dumps(function_args)
    
    # 修改后
    arguments = json.dumps(function_args, ensure_ascii=False)

这个修改可以确保中文字符保持原样输出，不会被转义。

2. 临时解决方案

如果无法修改vLLM源码，可以考虑以下临时方案：

1. 在后处理环节对返回结果进行二次处理，将转义的中文字符还原
2. 在函数定义中使用英文参数名和英文地点名称（如"Beijing"而非"北京"）

最佳实践建议

1. 环境配置：确保使用较新版本的vLLM（0.6.3或更高）
2. 模板选择：根据实际需求选择合适的对话模板
3. 参数设计：对于可能包含中文的场景，提前考虑字符编码问题
4. 测试验证：在部署前充分测试函数调用的各种边界情况

总结

Qwen3模型在函数调用场景下的中文转义问题，本质上是推理服务框架的默认行为与中文场景需求不匹配导致的。通过修改vLLM的JSON序列化参数或采用适当的后处理方案，可以很好地解决这个问题。这也提醒我们在部署中文大模型时，需要特别关注字符编码相关的配置和处理。