Open WebUI 中 AWS Bedrock Claude 3.7 工具调用异常问题分析

在 Open WebUI 项目中，当用户通过 LiteLLM 集成 AWS Bedrock 的 Anthropic Claude 3.7 模型时，发现了一个与工具服务器(Tool Servers)交互相关的异常问题。这个问题特别体现在使用微软的 playwright-mcp 服务器进行网页导航操作时。

问题现象

用户在使用 Claude 3.7 模型执行"打开 www.google.com"指令时，观察到工具操作被重复执行了两次。第一次操作失败，而第二次操作则持续运行不终止。相比之下，使用 GPT-4o 模型执行相同操作时则表现正常。

根本原因分析

通过深入代码调试，发现问题根源在于不同模型返回的 tool_calls 数据结构存在差异：

1. GPT-4o 返回的 tool_calls 索引从 0 开始：

"tool_calls": [
    {
        "index": 0
    }
]

2. Claude 3.7 返回的 tool_calls 索引从 1 开始：

"tool_calls": [
    {
        "index": 1
    }
]

在 Open WebUI 的中间件处理逻辑中，当前实现是基于索引位置直接进行数组操作。当索引从 1 开始时，会导致以下问题：

1. 首次处理时，由于数组长度(0)小于索引值(1)，会直接将工具调用添加到数组
2. 后续处理时，又会在索引位置进行内容追加
3. 最终导致同一个工具调用被处理两次

解决方案

经过验证，一个有效的修复方案是修改中间件处理逻辑，改为基于索引值进行匹配查找，而不是直接使用索引作为数组位置。具体实现要点包括：

1. 遍历现有工具调用数组，查找匹配索引的项
2. 如果没有找到匹配项，则添加新项
3. 如果找到匹配项，则更新其内容

这种方案能够正确处理不同模型的索引起始值，无论是从 0 还是从 1 开始。

技术启示

这个问题揭示了在构建通用 AI 应用接口时需要考虑的几个重要方面：

1. 不同模型提供商可能对相同功能有不同的实现细节
2. 索引起始值的差异是常见的兼容性问题
3. 中间件设计应该更加健壮，能够适应不同的输入格式
4. 工具调用这类高级功能需要更严格的兼容性测试

对于开发者而言，在集成多个 AI 模型时，应当特别注意这些潜在的实现差异，并设计更具适应性的处理逻辑。同时，这也体现了开源社区协作的价值，通过用户反馈和代码贡献，共同完善项目的兼容性和稳定性。