Microsoft.Extensions.AI 中为追踪和度量添加终端用户标识的最佳实践

在现代人工智能应用开发中，跟踪生成式AI服务的调用情况对于系统监控和运营分析至关重要。Microsoft.Extensions.AI库作为.NET生态中集成AI服务的重要组件，其提供的遥测功能可以帮助开发者深入了解AI服务的使用情况。

用户标识追踪的重要性

在实际生产环境中，我们经常需要将AI服务的调用与特定终端用户关联起来。这种关联能够带来多重价值：

1. 使用量分析：精确计算每个用户消耗的token数量
2. 配额管理：基于用户实施细粒度的速率限制
3. 异常检测：识别特定用户的异常使用模式
4. 成本分摊：准确计算AI服务使用成本并分摊到具体用户

当前实现方案分析

Microsoft.Extensions.AI库通过OpenTelemetryChatClient提供了基本的遥测功能，但默认情况下并未将ChatOptions中的AdditionalProperties自动转换为追踪标签或度量维度。这导致开发者需要自行实现用户标识的注入逻辑。

推荐的解决方案实现

目前最实用的解决方案是创建一个装饰器模式的ChatClient实现，在调用前后注入用户标识信息。以下是一个典型实现示例：

class UserIdChatClient : DelegatingChatClient
{
    public UserIdChatClient(IChatClient client) : base(client) { }

    public override Task<ChatCompletion> CompleteAsync(
        IList<ChatMessage> chatMessages, 
        ChatOptions? options = null, 
        CancellationToken cancellationToken = default)
    {
        if (Activity.Current is { } activity && 
            options?.AdditionalProperties?.TryGetValue("EndUserId", out var endUserId) == true)
        {
            activity.SetTag("user.id", endUserId);
        }

        return base.CompleteAsync(chatMessages, options, cancellationToken);
    }

    // 同样实现流式调用的方法
}

使用时需要确保该装饰器在管道中的正确位置：

services.AddChatClient(builder => builder
    .UseOpenTelemetry()
    .Use(client => new UserIdChatClient(client))
    .Use(new OpenAIClient(...));

技术实现要点

1. 装饰器模式：通过继承DelegatingChatClient保持原有功能不变
2. Activity.Current访问：利用.NET的Activity机制获取当前追踪上下文
3. 线程安全考虑：确保在多线程环境下正确访问Activity.Current
4. 性能影响：额外的方法调用和条件判断对性能影响极小

未来改进方向

虽然当前解决方案可行，但从长远来看，Microsoft.Extensions.AI库可以考虑以下增强：

1. 自动标签转换：将ChatOptions.AdditionalProperties中的值自动转为追踪标签
2. 度量维度支持：将用户标识同时添加到度量数据中
3. 配置开关：提供类似EnableSensitiveData的配置选项控制此行为
4. 标准化字段：为常用的用户标识字段提供标准化的处理方式

总结

通过自定义ChatClient装饰器实现用户标识注入是目前最可靠的解决方案。这种模式不仅解决了当前需求，也为未来可能的库功能增强提供了平滑过渡的路径。开发者可以根据实际需求扩展此模式，添加更多业务相关的遥测维度。