Microsoft.Extensions.AI 中如何为AI调用添加用户标识追踪

在开发基于生成式AI的应用程序时，开发者经常需要追踪特定用户的使用情况。Microsoft.Extensions.AI库提供了强大的AI功能集成，但如何将用户标识与AI调用产生的遥测数据关联起来呢？本文将深入探讨这个问题的解决方案。

用户标识追踪的重要性

在AI应用场景中，用户标识追踪对于以下方面至关重要：

• 按用户统计token消耗量
• 实现基于用户的速率限制
• 分析不同用户的使用模式
• 故障排查时关联特定用户的操作

当前解决方案的局限性

虽然可以通过自定义ChatClient实现为活动(Activity)添加用户标识标签，但这种方法存在明显不足：

1. 无法自动应用于指标数据(如token消耗和操作时长)
2. 需要开发者手动实现委托模式
3. 缺乏标准化处理方式

改进方案探讨

理想的解决方案应该具备以下特性：

1. 自动将ChatOptions.AdditionalProperties中的属性(如EndUserId)添加到追踪和指标中
2. 提供明确的配置选项控制是否包含额外属性
3. 保持与OpenTelemetry语义约定的一致性

临时解决方案实现

目前开发者可以采用以下临时方案添加用户标识到追踪中：

class UserIdChatClient : DelegatingChatClient
{
    public UserIdChatClient(IChatClient client) : base(client) { }
    
    public override Task<ChatCompletion> CompleteAsync(IList<ChatMessage> messages, ChatOptions options, CancellationToken cancellationToken)
    {
        if (Activity.Current is { } activity && 
            options?.AdditionalProperties?.TryGetValue("EndUserId", out var endUserId) == true)
        {
            activity.SetTag("user.id", endUserId);
        }
        return base.CompleteAsync(messages, options, cancellationToken);
    }
    
    // 同样实现流式处理方法
}

使用时需要确保该客户端在管道中的正确位置：

services.AddChatClient(builder => builder
    .UseOpenTelemetry()
    .Use(client => new UserIdChatClient(client))
    .Use(new OpenAIClient(...));

未来改进方向

Microsoft.Extensions.AI库未来可能会提供更原生的支持方式，例如：

1. 自动将AdditionalProperties中的值作为标签添加
2. 提供专门的EndUserId配置属性
3. 增加配置开关控制是否包含这些额外信息

最佳实践建议

在当前阶段，建议开发者：

1. 统一使用特定的属性名(如"EndUserId")存储用户标识
2. 封装可重用的客户端装饰器
3. 密切关注库的更新以获取原生支持

通过以上方法，开发者可以在现有技术条件下实现用户标识与AI调用数据的关联，为应用提供更精细的监控和分析能力。