.NET Extensions 中 AI 函数调用错误处理逻辑的演进与优化

在构建基于 AI 的对话系统时，函数调用（Function Calling）是一个关键功能，它允许语言模型与外部工具或服务进行交互。然而，当函数调用过程中发生错误时，如何优雅地处理这些错误并确保系统的健壮性，是一个需要仔细设计的问题。本文将深入探讨 .NET Extensions 项目中 AI 函数调用错误处理逻辑的演进历程和最新优化方向。

原有错误处理机制分析

在早期的实现中，.NET Extensions 提供了两种基本的错误处理模式：

1. RetryOnError=false
   当函数调用抛出异常时，系统会进行最后一次尝试来获取响应，但在此过程中不再提供任何工具调用能力。这种模式的目的是在开发者没有显式捕获 AI 函数错误的情况下，仍然能够生成一个"抱歉，操作失败"的响应。

2. RetryOnError=true
   当启用此模式时，系统会在发生错误后继续循环尝试，直到达到 MaximumIterationsPerRequest 限制（默认情况下没有限制）。

这种设计虽然简单，但在实际应用中暴露出几个问题：

• 缺乏对无限循环的有效防护
• 错误处理策略不够灵活
• 资源浪费风险较高

新设计方案的演进

经过深入思考和实践验证，开发团队提出了更完善的解决方案：

1. 循环终止机制的强化

新方案引入了更严格的循环控制参数：

• 默认限制迭代次数：将 MaximumIterationsPerRequest 默认值设为 10（具体数值待定）
• 新增连续错误限制：引入 MaximumConsecutiveErrorsPerRequest 参数，默认值为 3

这些改变有效防止了以下情况：

• 语言模型持续调用问题函数导致的无限循环
• 提示注入攻击诱使模型不断调用成功函数

2. 错误处理模式的重新设计

原先的布尔型 RetryOnError 参数被更精细化的控制机制取代：

• Throw 模式：直接重新抛出异常，适合非聊天循环场景
• Retry 模式：相当于原来的 RetryOnError=true

值得注意的是，设计团队移除了"最后一次无工具尝试"的内置支持，因为：

• 这种行为不够直观
• 在结构化输出场景中缺乏意义
• 可以通过自定义中间件实现类似功能

3. 配置灵活性的提升

新设计将错误处理模式的配置从 FunctionCallingChatClient 移到了 ChatOptions 中：

• 支持基于每次调用的独立配置
• 采用类层次结构设计，与 ChatToolMode 保持一致性
• 为自定义实现提供了扩展点

简化后的最终方案

经过进一步实践验证，设计团队最终采用了更简洁的实现：

1. 循环控制参数：

   • MaximumIterationsPerRequest 默认值设为 10
   • 新增 MaximumConsecutiveErrorsPerRequest 参数，默认值为 3

2. 移除 RetryOnError 参数：

   • 通过设置 MaximumConsecutiveErrorsPerRequest <=1 来达到类似效果
   • "最后一次无工具尝试"功能通过自定义中间件实现

3. 错误处理流程：

   • 默认情况下，系统会给语言模型最多 2 次额外尝试机会
   • 开发者可以通过中间件实现更复杂的错误恢复策略

技术实现建议

对于需要在错误后"最后一次无工具尝试"的场景，开发者可以：

1. 添加自定义中间件
2. 检查历史记录是否以失败的工具调用结束
3. 在当前调用中将 ToolMode 设置为 None

这种设计既保持了核心功能的简洁性，又通过良好的扩展性支持了各种特殊场景的需求。

总结

.NET Extensions 中 AI 函数调用错误处理的演进体现了几个重要的设计原则：

• 默认安全性：通过合理的默认限制防止资源滥用
• 关注点分离：将错误处理策略与核心逻辑解耦
• 扩展优先：通过中间件机制而非硬编码支持特殊场景
• 渐进式复杂：从简单用例出发，逐步支持更复杂需求

这种设计思路不仅解决了当前的问题，也为未来可能的扩展需求奠定了良好的基础。