Kong AI Proxy插件处理OpenAI ChatCompletion Base64图像输入的问题解析

问题背景

在使用Kong网关的AI Proxy插件时，开发人员发现当通过OpenAI ChatCompletion API发送Base64编码的图像数据时，会遇到"content-type header does not match request body, or bad JSON formatting"的错误。而直接调用OpenAI API时，同样的Base64图像数据却能正常工作。

技术分析

这个问题源于Kong网关对请求体大小的默认限制。Base64编码的图像数据通常会显著增加请求体的大小，当请求体超过Kong的默认限制时，会导致请求被截断或处理异常，从而产生上述错误。

解决方案

通过调整Kong AI Proxy插件的config.max_request_body_size参数可以解决这个问题。这个参数控制着插件允许的最大请求体大小，需要设置为大于包含Base64图像数据的实际请求体大小。

实施建议

1. 首先评估你的应用场景中Base64图像数据的典型大小
2. 在Kong配置中适当增加max_request_body_size的值
3. 考虑设置一个合理的上限，既满足业务需求又避免潜在的安全风险

最佳实践

对于频繁处理大尺寸图像的应用，建议：

• 优先考虑使用图像URL而非Base64编码
• 如果必须使用Base64编码，考虑在客户端进行压缩
• 监控请求体大小分布，合理设置网关参数
• 在测试阶段充分验证各种尺寸的图像处理能力

总结

Kong网关作为API网关，默认配置可能不适合直接处理包含大尺寸Base64图像数据的AI请求。通过合理配置max_request_body_size参数，可以确保AI Proxy插件正确处理这类请求，同时保持系统的稳定性和安全性。