InternLM/InternLM项目中多工具选择的Chat Template编写指南

在构建基于InternLM/InternLM项目的人工智能助手时，开发者经常需要处理多工具选择的情况。本文将深入探讨如何正确编写支持多工具选择的Chat Template，帮助开发者更好地实现复杂功能调用。

多工具场景下的Chat Template结构

当AI助手需要支持多个功能工具时，关键在于如何正确组织system prompt中的工具列表。与单工具场景不同，多工具配置需要在JSON数组中列出所有可用工具的定义。

一个典型的多工具Chat Template结构如下：

<|im_start|>system
你是书生浦语2，一个无害的人工智能助手<|im_end|>
<|im_start|>system name=<|plugin|>
[
    {
        "name": "get_current_weather",
        "description": "获取指定位置的当前天气",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {
                    "type": "string",
                    "description": "城市和州，例如：上海市",
                },
                "unit": {"type": "string"},
            },
            "required": ["location"],
        },
    },
    {
        "name": "get_current_location",
        "description": "获取用户当前位置",
        "parameters": {
            "type": "object",
            "properties": {
                "precision": {
                    "type": "string",
                    "description": "定位精度",
                }
            },
            "required": [],
        },
    }
]
<|im_end|>

关键实现要点

1. 工具定义标准化：每个工具必须包含name、description和parameters三个关键字段，其中parameters需要遵循JSON Schema规范。

2. 多工具并列：在system prompt的plugin部分，使用JSON数组格式并列多个工具定义，每个工具作为数组中的一个独立对象。

3. 参数设计原则：

   • 明确每个参数的type类型
   • 提供清晰的description描述
   • 使用required字段标记必填参数

4. 交互流程一致性：无论使用哪个工具，后续的action调用和环境响应格式保持一致：

   <|im_start|>assistant
   好的，我将为你查询上海的天气。<|action_start|><|plugin|>
   {"name": "get_current_weather", "parameters": {"location": "Shanghai"}}<|action_end|><|im_end|>
   <|im_start|>environment name=<|plugin|>
   {"temperature": 22}<|im_end|>
   

最佳实践建议

1. 工具分类管理：当工具数量较多时，建议按功能领域分组管理，提高可维护性。

2. 描述清晰化：工具和参数的description字段要尽可能详细，这有助于模型正确理解和使用工具。

3. 版本控制：当工具接口变更时，建议在name中加入版本号，如"get_weather_v2"。

4. 错误处理：在environment响应中考虑包含错误码和错误信息字段，便于调试。

通过以上方法，开发者可以在InternLM/InternLM项目中构建出功能丰富、交互流畅的多工具AI助手。这种结构不仅支持当前需求，也为未来功能扩展提供了良好的基础架构。