解决TaskWeaver连接Azure OpenAI服务失败问题

在使用微软开源项目TaskWeaver时，部分开发者反馈在配置Azure OpenAI服务时遇到了连接失败的问题。本文将深入分析问题原因并提供完整的解决方案。

问题现象分析

当开发者尝试通过TaskWeaver CLI工具连接Azure OpenAI服务时，系统返回"OpenAI API request failed to connect"错误。这种情况通常发生在使用Azure托管的OpenAI服务时，特别是当配置文件中的参数设置存在细微问题时。

关键配置参数解析

TaskWeaver通过config.json文件配置LLM连接参数，其中与Azure OpenAI相关的重要参数包括：

1. api_base：Azure OpenAI服务的终结点URL
2. api_key：用于身份验证的API密钥
3. api_type：必须设置为"azure"
4. model：指定使用的模型名称（如gpt-4-32k）
5. api_version：API版本号
6. response_format：响应格式控制参数

典型配置误区

从问题描述中可以看出，开发者容易在response_format参数的格式上犯错。正确的写法应该是：

"llm.response_format": null

而不是：

"llm.response_format": "null"

完整解决方案

1. 确保config.json文件格式正确，特别注意：

   • 所有字符串值都需要用双引号包裹
   • 但null值不应加引号
   • 确保JSON格式有效（无多余逗号等）

2. 推荐的标准Azure OpenAI配置示例：

{
  "llm.api_base": "https://your-resource-name.openai.azure.com",
  "llm.api_key": "your-api-key",
  "llm.api_type": "azure",
  "llm.auth_mode": "api-key",
  "llm.model": "gpt-4-32k",
  "llm.api_version": "2023-03-15-preview",
  "llm.response_format": null
}

3. 验证步骤：
   • 使用JSON验证工具检查配置文件
   • 确认API终结点可访问
   • 检查API密钥是否有效且未过期

深入理解技术背景

TaskWeaver在设计上支持多种LLM服务提供商，包括OpenAI官方服务和Azure托管的OpenAI服务。当api_type设置为"azure"时，系统会采用特定的认证流程和API调用方式。response_format参数控制着API返回数据的结构化程度，设置为null表示使用默认格式。

对于Azure OpenAI服务，还需要特别注意：

• api_base应该包含完整的终结点URL
• api_version需要与Azure门户中显示的版本一致
• 模型名称必须与Azure OpenAI部署中使用的名称完全匹配

通过正确理解这些技术细节，开发者可以更顺利地集成TaskWeaver与Azure OpenAI服务。