MetaGPT中处理OpenAI API返回的CompletionUsage为None的问题

在使用MetaGPT项目与OpenAI API交互时，开发者可能会遇到一个常见的错误：TypeError: openai.types.completion_usage.CompletionUsage() argument after ** must be a mapping, not NoneType。这个问题通常出现在处理API流式响应时，当尝试解析使用情况统计信息(usage)时发生。

问题背景

MetaGPT是一个基于大型语言模型的开源项目，它需要与各种AI服务提供商的API进行交互。在处理OpenAI API的流式响应时，项目会收集每个数据块(chunk)中的消息内容和使用情况统计。使用情况统计(usage)通常包含以下信息：

• prompt_tokens: 提示词消耗的token数量
• completion_tokens: 生成的响应消耗的token数量
• total_tokens: 总token数量

问题分析

当代码尝试将API返回的usage数据转换为CompletionUsage对象时，如果usage为None，就会抛出上述类型错误。这种情况可能由以下原因导致：

1. 某些AI服务提供商在流式响应中不实时返回usage信息
2. 某些特定情况下API可能确实没有返回usage数据
3. 不同服务提供商返回usage数据的位置可能不同(可能在chunk对象中，也可能在choices数组中)

解决方案

正确的处理方式是在尝试转换usage数据前，先检查数据是否存在且不为None。以下是改进后的代码逻辑：

if finish_reason:
    # 检查chunk对象中是否有usage属性且不为None
    if hasattr(chunk, "usage") and chunk.usage:
        usage = CompletionUsage(**chunk.usage)
    # 检查choices数组中是否有usage属性且不为None
    elif hasattr(chunk.choices[0], "usage") and chunk.choices[0].usage:
        usage = CompletionUsage(**chunk.choices[0].usage)

这种防御性编程方式确保了：

1. 只有当usage数据确实存在时才会尝试转换
2. 兼容不同服务提供商返回usage数据的不同位置
3. 避免了None值导致的类型错误

最佳实践建议

在处理API响应时，特别是与多个服务提供商交互时，建议：

1. 总是对API返回的数据进行存在性检查
2. 考虑不同服务提供商可能的数据结构差异
3. 记录或监控缺失usage数据的情况，以便了解服务行为
4. 为缺失usage数据的情况提供合理的默认值或处理逻辑

通过这种方式，可以构建更健壮、更兼容不同AI服务的应用程序，提升用户体验和系统稳定性。