Vercel AI SDK 中 OpenAI 使用量统计问题的分析与解决

在开发基于 Vercel AI SDK 的应用时，开发者可能会遇到一个关于 OpenAI 使用量统计的常见问题：当使用 createOpenAI 方法创建客户端并通过 streamText 调用模型时，返回的 usage 字段（包括 promptTokens、completionTokens 和 totalTokens）会出现 NaN 值。本文将深入分析这一问题的成因，并提供有效的解决方案。

问题现象

开发者在使用 Vercel AI SDK 时发现两种不同的使用方式会导致不同的使用量统计结果：

1. 直接使用 openai 实例：使用量统计正常工作，返回正确的 token 数量
2. 使用 createOpenAI 创建客户端：使用量统计失效，所有 token 计数显示为 NaN

问题根源

经过分析，这一问题主要与 OpenAI API 的兼容性模式有关。createOpenAI 方法默认可能使用了较新的 API 版本或配置，而某些使用量统计功能需要特定的兼容性设置才能正常工作。

解决方案

方法一：启用严格兼容模式

在创建 OpenAI 客户端时，添加 compatibility: "strict" 参数可以解决这一问题：

const openai = createOpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  compatibility: "strict",
});

这种配置强制客户端使用与 OpenAI API 完全兼容的模式，确保使用量统计功能能够正常工作。

方法二：使用 responses() 方法

另一种解决方案是使用 openai.responses() 方法，这种方法在不设置严格兼容模式的情况下也能正确返回完整的使用量统计信息。

最佳实践建议

1. 版本兼容性检查：确保使用的 @ai-sdk/openai 和 ai 包版本是最新的或相互兼容的
2. 环境变量验证：确认 OPENAI_API_KEY 环境变量已正确设置
3. 错误处理完善：如示例代码所示，实现完善的错误处理机制有助于快速定位问题
4. 监控与日志：在关键位置添加日志输出，如请求参数和响应数据，便于调试

总结

Vercel AI SDK 提供了灵活的方式来集成 OpenAI 服务，但在使用过程中可能会遇到一些兼容性问题。通过理解不同创建客户端方式的差异，并合理配置兼容性参数，开发者可以确保使用量统计等功能的正常工作。对于需要精确监控 API 使用情况的场景，建议采用上述解决方案之一，并结合完善的监控机制来保证应用的稳定运行。

记住，技术问题的解决往往需要结合具体的使用场景和版本环境，当遇到类似问题时，除了参考社区解决方案外，仔细阅读官方文档和更新日志也是非常重要的。