Vercel AI SDK 中 OpenAI 使用量统计异常问题解析

问题背景

在使用 Vercel AI SDK 进行 OpenAI 模型调用时，开发者可能会遇到一个关于使用量统计的异常现象。当通过 createOpenAI 方法创建客户端实例并传递给 streamText 方法时，返回结果中的使用量字段（包括 promptTokens、completionTokens 和 totalTokens）会出现 NaN 值，而直接使用 openai 实例则能正常返回正确的令牌数量。

问题表现

具体表现为两种使用方式的差异：

1. 直接使用 openai 实例：能够正确返回使用量数据，如 { promptTokens: 57, completionTokens: 30, totalTokens: 87 }
2. 使用 createOpenAI 创建实例：返回的使用量数据为 { promptTokens: NaN, completionTokens: NaN, totalTokens: NaN }

技术分析

这个问题实际上与 Vercel AI SDK 中 OpenAI 客户端的兼容性模式设置有关。在最新版本的 SDK 中，createOpenAI 方法默认可能不会启用严格的兼容性模式，这会导致使用量统计功能失效。

解决方案

通过在创建 OpenAI 客户端时显式设置兼容性模式为 "strict"，可以解决这个问题：

const openai = createOpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  compatibility: "strict",
});

深入理解

兼容性模式的作用

"strict" 兼容性模式确保了客户端与 OpenAI API 的完全兼容，包括响应格式和使用量统计等功能。当不启用此模式时，某些高级功能（如使用量统计）可能会因为响应格式的差异而无法正常工作。

使用量统计的重要性

在 AI 应用开发中，准确统计令牌使用量对于以下方面至关重要：

• 成本控制：OpenAI 的计费基于令牌使用量
• 性能监控：了解每次调用的资源消耗
• 配额管理：避免超出 API 调用限制

最佳实践建议

1. 始终启用严格兼容模式：除非有特殊需求，否则建议在创建 OpenAI 客户端时都设置 compatibility: "strict"

2. 版本管理：确保使用的 SDK 版本是最新的，如示例中的 @ai-sdk/openai@1.3.20 和 ai@4.3.10

3. 错误处理：如示例代码所示，实现完善的错误处理机制，特别是在生产环境中

4. 监控使用量：即使解决了统计问题，也建议实现额外的使用量监控机制，如日志记录或数据库存储

总结

Vercel AI SDK 提供了强大的 OpenAI 集成能力，但在使用时需要注意兼容性设置以确保所有功能正常工作。通过理解底层机制和遵循最佳实践，开发者可以充分利用 SDK 的功能，同时确保应用稳定性和可观测性。