OpenAI Agents Python库流式模式下usage统计异常问题解析

在OpenAI Agents Python库的使用过程中，开发者发现了一个关于token统计功能的重要问题：当使用流式处理模式(Runner.run_streamed)时，上下文中的usage统计信息会全部显示为0，而同样的代码在非流式模式(Runner.run)下却能正常统计token用量。

问题本质

该问题涉及SDK的核心功能实现差异。在流式处理模式下，系统未能正确捕获和传递API返回的用量统计信息，导致所有相关指标(input_tokens/output_tokens/total_tokens/requests)都显示为0值。这种差异会对需要精确监控API使用情况的开发者造成困扰。

技术背景

OpenAI的API设计存在一个关键特性：在流式响应中，用量统计信息只会出现在最后一个数据块中。这与非流式响应不同，后者可以立即获得完整的统计信息。这种设计差异导致了SDK在处理两种模式时需要采用不同的实现策略。

解决方案

项目维护团队已经通过PR #595修复了这个问题。修复后的版本(v0.0.14)将确保：

1. 流式模式下能够正确捕获最后一个数据块中的用量信息
2. 这些统计信息会在on_agent_end钩子中可用
3. 保持了与非流式模式一致的统计准确性

最佳实践建议

对于需要用量统计的开发者，建议：

1. 如果必须使用流式模式，请确保升级到v0.0.14或更高版本
2. 用量统计信息主要在on_agent_end钩子中获取
3. 对于实时监控需求，可以考虑自行实现中间统计逻辑
4. 注意不同模型可能有不同的用量计算方式

总结

这个问题展示了流式API处理中的典型挑战。通过这次修复，OpenAI Agents Python库为开发者提供了更一致的用量统计体验，无论采用哪种运行模式。这也提醒我们在使用流式API时需要特别注意其响应数据的特殊分布特性。