在crewAI项目中正确配置AzureChatOpenAI的LLM实例
crewAI是一个强大的多代理框架,但在使用AzureChatOpenAI作为语言模型时,开发者可能会遇到一些配置上的挑战。本文将详细介绍如何正确设置AzureChatOpenAI实例并与crewAI框架集成。
问题背景
当尝试在crewAI中使用AzureChatOpenAI时,开发者可能会遇到认证错误,提示API密钥未正确设置。这是因为crewAI的LLM配置方式与直接使用AzureChatOpenAI有所不同。
正确配置方法
1. 创建LLM实例
在crewAI中,应使用LLM类来创建AzureChatOpenAI实例。以下是正确的配置方式:
from crewai import LLM
llm_crewai = LLM(
api_key='你的Azure API密钥',
api_base='你的Azure API基础URL',
model='azure/gpt-4o-mini-2024-07-18', # 注意前缀azure/
api_version="你的API版本"
)
关键点在于模型名称前必须加上azure/前缀,这告诉crewAI使用的是Azure服务而非直接调用OpenAI。
2. 将LLM实例分配给Agent
创建LLM实例后,有两种方式将其分配给Agent:
方式一:在Agent创建时指定
researcher = Agent(
role='研究员',
goal='查找并总结最新的人工智能新闻',
backstory='一位对人工智能领域有深入了解的研究员',
llm=llm_crewai, # 直接指定LLM
verbose=True
)
方式二:创建后动态分配
researcher = Agent(
role='研究员',
goal='查找并总结最新的人工智能新闻',
backstory='一位对人工智能领域有深入了解的研究员',
verbose=True
)
# 创建后分配LLM
researcher.llm = llm_crewai
3. 为Crew指定管理LLM
如果需要为整个Crew指定管理LLM,可以在Crew初始化时设置:
crew = Crew(
agents=[researcher, writer],
tasks=[research_task, write_task],
process='sequential',
manager_llm=llm_crewai # 为Crew指定管理LLM
)
常见问题解决
-
认证错误:确保api_key、api_base和api_version都正确无误。Azure的API密钥与OpenAI的不同,必须使用Azure门户中获取的密钥。
-
模型前缀问题:模型名称前必须加上
azure/前缀,否则crewAI会尝试使用标准的OpenAI端点。 -
版本兼容性:确认使用的crewAI版本支持AzureChatOpenAI集成。较新版本通常有更好的兼容性。
最佳实践
-
将敏感信息如API密钥存储在环境变量中,而非硬编码在脚本里。
-
为不同的环境(开发、测试、生产)创建不同的Azure资源,并使用相应的配置。
-
在复杂项目中,考虑创建LLM工厂函数来集中管理不同Agent的LLM配置。
通过以上配置,开发者可以顺利地在crewAI框架中使用AzureChatOpenAI服务,充分发挥Azure云服务的优势与crewAI多代理系统的强大功能。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0207
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0133
MinerUA high-quality tool for convert PDF to Markdown and JSON.一站式开源高质量数据提取工具,将PDF转换成Markdown和JSON格式。Python08
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
wgai开箱即用的JAVAAI在线训练识别平台&OCR平台AI合集包含旦不仅限于(车牌识别、安全帽识别、抽烟识别、常用类物识别等) 图片和视频识别,可自主训练任意场景融合了AI图像识别opencv、yolo、ocr、esayAI内核识别;AI智能客服、AI语言模型、 无任何第三方API接口可定制化自主离线化部署并自主化行业化使用避免占用内存、GPU消耗训练与识别分开使用;Java05
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03