Ollama项目中如何通过API向AI返回函数执行结果

在Ollama项目中，当AI通过工具调用(Tool Calls)请求外部函数执行后，开发者需要将函数执行结果正确返回给AI模型，以便AI能够基于这些结果生成最终响应。本文将详细介绍这一交互过程的实现方法和技术细节。

工具调用交互流程

Ollama的AI模型支持通过工具调用机制与外部函数进行交互。完整的交互流程包含以下几个关键步骤：

1. 用户发起请求：用户向AI发送包含工具调用需求的请求
2. AI生成工具调用：AI分析请求后，生成一个或多个工具调用请求
3. 执行外部函数：开发者执行AI请求的外部函数
4. 返回执行结果：将函数执行结果格式化后返回给AI
5. AI生成最终响应：AI基于返回的结果生成最终回答

工具调用请求格式

当AI决定调用外部工具时，会返回一个包含工具调用信息的JSON结构。以查询天气为例，AI可能返回如下格式的请求：

{
  "role": "assistant",
  "content": "",
  "tool_calls": [
    {
      "function": {
        "name": "getWeather",
        "arguments": {
          "city": "Suzhou"
        }
      }
    }
  ]
}

其中关键字段包括：

• role：固定为"assistant"
• content：初始为空字符串
• tool_calls：包含一个或多个工具调用请求的数组
• function：具体函数调用信息，包括函数名和参数

函数执行结果返回格式

开发者执行完外部函数后，需要将结果以特定格式返回给AI。正确的返回格式如下：

{
  "role": "tool",
  "content": "{\"city\":\"Suzhou\",\"temperature\":20}",
  "name": "getWeather"
}

关键字段说明：

• role：必须设置为"tool"
• content：包含函数执行结果的JSON字符串
• name：与工具调用请求中对应的函数名

多工具调用处理

当AI同时请求多个工具调用时，开发者需要为每个工具调用分别返回结果。例如同时查询苏州和北京天气的场景：

[
  {
    "role": "tool",
    "content": "{\"city\":\"Suzhou\",\"temperature\":20}",
    "name": "getWeather"
  },
  {
    "role": "tool",
    "content": "{\"city\":\"Beijing\",\"temperature\":15}",
    "name": "getWeather"
  }
]

工具定义最佳实践

为确保AI正确理解和使用工具，定义工具时应遵循以下规范：

1. 提供清晰准确的函数描述
2. 明确定义参数类型和约束条件
3. 为每个参数提供详细说明
4. 标记必填参数

示例工具定义：

{
  "type": "function",
  "function": {
    "name": "getWeather",
    "description": "获取指定城市的天气信息",
    "parameters": {
      "type": "object",
      "required": ["city"],
      "properties": {
        "city": {
          "type": "string",
          "description": "要查询天气的城市名称(每次只能查询一个城市)"
        }
      }
    }
  }
}

实现注意事项

1. 结果格式化：确保返回的结果是有效的JSON字符串
2. 错误处理：如果函数执行失败，也应返回错误信息而非忽略
3. 性能考虑：对于多个工具调用，可考虑并行执行以提高响应速度
4. 安全性：验证AI请求的参数，防止注入攻击

通过遵循上述规范和流程，开发者可以有效地实现Ollama项目中AI与外部函数的交互，构建更加强大和实用的AI应用。