Portkey-AI网关项目中Azure OpenAI配置详解

在Portkey-AI网关项目中，配置Azure OpenAI服务是一个常见需求，但很多开发者可能会遇到配置参数不明确的问题。本文将详细介绍如何在Portkey-AI网关中正确配置Azure OpenAI服务。

配置结构解析

Portkey-AI网关的配置文件采用JSON格式，主要包含两个部分：策略配置(strategy)和目标服务配置(targets)。对于Azure OpenAI服务的配置，需要特别注意参数命名规范。

基础配置示例

{
  "strategy": {
    "mode": "loadbalance"
  },
  "targets": [
    {
      "provider": "azure-openai",
      "api_key": "your-azure-api-key",
      "resource_name": "AZURE_RESOURCE_NAME",
      "deployment_id": "AZURE_DEPLOYMENT_NAME",
      "api_version": "AZURE_API_VERSION",
      "weight": 1
    }
  ]
}

关键参数说明

1. provider：必须设置为"azure-openai"，这是标识Azure OpenAI服务的固定值

2. api_key：Azure OpenAI服务的API密钥，通常以"sk-"开头

3. resource_name：Azure门户中创建的认知服务资源名称

4. deployment_id：在Azure OpenAI Studio中部署模型时指定的部署名称

5. api_version：使用的API版本号，如"2023-05-15"

6. weight：负载均衡权重，用于多目标配置时分配请求比例

常见配置误区

开发者容易在参数命名上犯错，以下是需要注意的几点：

• 使用"resource_name"而非"azureResourceName"
• 使用"deployment_id"而非"azureDeploymendId"
• 使用"api_version"而非"azureApiVersion"

混合配置建议

在实际应用中，可以同时配置多个AI服务提供商，Portkey-AI网关支持灵活的负载均衡策略。例如可以同时配置OpenAI官方服务和Azure OpenAI服务：

{
  "strategy": {
    "mode": "loadbalance"
  },
  "targets": [
    {
      "provider": "openai",
      "api_key": "sk-proj-",
      "weight": 1
    },
    {
      "provider": "azure-openai",
      "api_key": "sk-proj-",
      "resource_name": "AZURE_RESOURCE_NAME",
      "deployment_id": "AZURE_DEPLOYMENT_NAME",
      "api_version": "AZURE_API_VERSION",
      "weight": 1
    }
  ]
}

这种配置方式可以实现请求在多个服务提供商之间的自动分配，提高系统的可用性和容错能力。

最佳实践

1. 始终验证API版本号是否与Azure门户中显示的版本一致
2. 部署ID应精确匹配Azure OpenAI Studio中的部署名称
3. 在多目标配置时，合理设置weight参数以实现期望的流量分配比例
4. 敏感信息如api_key建议通过环境变量注入而非硬编码

通过以上配置指南，开发者可以轻松地在Portkey-AI网关项目中集成Azure OpenAI服务，实现高效稳定的AI能力调用。