Vercel AI 工具调用中如何传递自定义请求体参数

在开发基于 Vercel AI 的聊天应用时，我们经常会遇到需要根据用户选择的不同语言模型(LLM)来动态调整后端处理逻辑的场景。本文将深入探讨如何在工具调用过程中传递自定义请求体参数，特别是 selectedLLM 这一关键配置项。

问题背景

Vercel AI 提供的 addToolResult 方法默认类型定义较为简单，仅支持传递 toolCallId 和 result 两个参数。但在实际业务场景中，后端 API 往往需要更多的上下文信息才能正确处理请求。例如，当应用支持多种语言模型切换时，后端需要知道当前请求应该使用哪个模型提供商。

核心挑战

在标准的工具调用流程中，开发者会遇到以下限制：

1. addToolResult 方法的类型定义限制了额外参数的传递
2. 后端 API 无法获取到前端选择的语言模型信息
3. 工具调用请求与初始聊天请求的上下文信息可能丢失

解决方案

经过实践验证，最可靠的解决方案是在初始化 useChat hook 时就将 selectedLLM 作为初始请求体的一部分传递。这种方法确保了：

1. 所有后续请求（包括工具调用）都能继承初始配置
2. 后端可以始终访问到一致的上下文信息
3. 不需要修改 addToolResult 的类型定义

实现示例

const { messages, append, input, handleInputChange, handleSubmit } = useChat({
  api: '/api/chat',
  body: {
    selectedLLM: 'claude-3-opus' // 在这里设置默认或用户选择的模型
  }
});

在后端处理时，这个参数会随着每个请求（包括工具调用）一起发送，确保后端始终能获取到正确的模型配置。

最佳实践

1. 统一配置管理：将所有运行时需要的配置项放在 useChat 的初始 body 中
2. 状态一致性：确保前端选择的配置能够贯穿整个会话生命周期
3. 类型安全：为请求体和响应体定义清晰的 TypeScript 类型
4. 错误处理：考虑配置项缺失时的降级处理方案

总结

在 Vercel AI 生态中处理工具调用时，理解请求生命周期和上下文传递机制至关重要。通过在 useChat 初始化阶段预先配置所有必要的参数，我们可以构建更加健壮和灵活的聊天应用架构，满足不同业务场景下的多样化需求。