Microsoft.Extensions.AI 中函数调用与取消令牌的深度解析

在最新发布的 Microsoft.Extensions.AI 9.1.0-preview.1.25064.3 版本中，开发团队对AI功能调用时的取消令牌处理机制进行了重要优化。这项改进主要针对开发者在使用AIFunctionFactory创建功能时，取消令牌参数的传递行为。

核心问题背景

当开发者使用AIFunctionFactory.Create方法封装异步函数时，如果目标函数包含CancellationToken参数，系统会面临两个关键问题：

1. 该取消令牌是否应该作为函数签名的一部分暴露给AI服务
2. 如何确保外部传入的取消令牌能正确传递到目标函数

在早期版本中，系统会将CancellationToken参数一并包含在生成的函数schema中，这显然不符合大多数开发场景的预期。

技术实现细节

最新版本通过以下机制实现了更合理的行为：

1. Schema生成优化：系统现在会自动识别并排除CancellationToken参数，不会将其包含在生成的函数schema中
2. 令牌传递机制：当通过IChatClient.CompleteStreamingAsync等方法调用时，传入的取消令牌会正确流向目标函数

实际应用场景

假设我们有一个获取商品信息的函数：

[Description("根据名称获取商品信息")]
private async Task<string?> 获取商品信息Async(
    [Description("商品名称")] 
    string 名称,
    CancellationToken 取消令牌)
{
    // 实现逻辑...
}

在优化后的版本中：

• AI服务看到的函数签名只包含"名称"参数
• 调用时传入的取消令牌会正常传递到函数内部
• 开发者无需担心取消令牌会意外暴露给AI服务

版本兼容性说明

这项优化从9.1.0-preview.1.25064.3版本开始提供，使用早期版本的开发者需要注意：

1. 旧版本会将CancellationToken暴露给AI服务
2. 升级后需要验证现有功能是否依赖了这一行为

最佳实践建议

1. 对于需要取消功能的AI函数，始终包含CancellationToken参数
2. 在函数内部合理处理取消请求
3. 避免在函数参数中使用与CancellationToken类似的特殊类型，除非确定需要它们出现在schema中

这项改进使得Microsoft.Extensions.AI在异步函数调用方面更加符合开发者的直觉预期，同时也保持了框架的灵活性和健壮性。