Microsoft.Extensions.AI 中工具调用与聊天历史管理的深度解析

在基于大语言模型(LLM)的应用开发中，正确处理工具调用(tool call)与聊天历史的关系是构建智能对话系统的关键。Microsoft.Extensions.AI 作为.NET生态中AI应用开发的重要组件，其设计哲学体现了对这一问题的深刻思考。

工具调用与历史记录的交互机制

现代对话系统的一个核心特性是能够执行工具调用（如函数调用），并将这些交互恰当地纳入对话上下文中。Microsoft.Extensions.AI 通过 FunctionInvokingChatClient 实现了这一机制，其设计遵循以下原则：

1. 双向记录原则：每次工具调用必须同时记录请求和响应，且这两个记录必须相邻存在。这种设计确保了模型能够正确理解工具调用的上下文。

2. 历史完整性：即使后续有其他对话内容，保留完整的工具调用历史有助于模型避免重复调用，并基于已有信息做出更合理的响应。

实现模式演进

早期的实现采用"直接修改"模式，FunctionInvokingChatClient 会直接修改传入的消息列表，自动添加工具调用相关内容。这种方式虽然方便，但违反了不可变原则，可能带来意料之外的副作用。

新版本采用了更优雅的"响应流包含"模式：

• 保持输入消息列表的不可变性
• 通过 GetStreamingResponseAsync 返回完整的交互序列
• 开发者自行决定如何将这些内容整合到历史记录中

最佳实践建议

1. 历史记录构建：建议将以下内容纳入聊天历史：

   • 助手发出的工具调用请求（作为助手消息）
   • 工具执行结果（作为用户消息）
   • 最终生成的响应内容

2. 调试技巧：可以通过以下方式监控交互细节：

   • 使用 LoggingChatClient 记录消息流
   • 在HttpClient层面启用详细日志
   • 对于OpenAI实现，可检查请求/响应的原始JSON

3. 内容格式化：工具调用结果的用户消息建议采用结构化格式，例如：

   函数名
   - 调用ID: xxxxxxxx
   - 参数: {json}
   - 结果: "返回值"
   

架构思考

这种设计体现了现代AI应用架构的几个重要理念：

• 显式优于隐式：明确要求开发者处理工具调用内容，而非隐藏实现细节
• 可观测性：提供多种方式来观察系统内部状态
• 灵活性：允许开发者根据具体场景定制历史记录策略

理解这些设计原则和实现细节，将帮助开发者构建更健壮、更智能的对话应用系统。