crewAI项目中TaskEvaluator与Gemini模型兼容性问题解析

在crewAI项目开发过程中，我们发现当使用Gemini系列模型作为Agent的LLM并启用长期记忆功能时，TaskEvaluator模块会出现一些兼容性问题。本文将深入分析这些问题及其解决方案。

核心问题分析

TaskEvaluator模块依赖Instructor库进行数据处理，但在使用Gemini模型时会出现以下技术问题：

1. 依赖缺失：系统缺少google-generativeai库，导致在Instructor处理Gemini模型的响应时抛出模块未找到错误
2. 指令格式问题：task_evaluator.py中的评估提示缺少换行符，影响模型对多条件评估的理解
3. JSON输出规范：当前指令对小型LLM的格式约束不足，可能导致输出包含不必要的代码块标记
4. 模型选择机制：当前函数调用检测仅验证JSON输出能力，无法智能选择更适合评估任务的大型LLM

技术细节深入

当配置为：

• Agent使用"gemini/gemini-2.0-flash-001"模型
• Crew启用memory=True时

系统会在Internal_instructor.py中尝试将响应映射为Pydantic模型，此时会触发google.generativeai模块缺失异常。这是因为Instructor库内部尝试调用gemini_schema转换时，依赖了未安装的google-generativeai包。

解决方案建议

1. 依赖管理：

   • 在项目依赖中明确添加google-generativeai包
   • 建议在Instructor库中也包含此依赖

2. 代码优化：

   # 修改前的指令
   instructions = "Convert all responses into valid JSON output."
   
   # 建议修改为
   instructions = """Convert all responses into valid JSON output.
   Ensure the final output does not include any code block markers like json or python"""
   

3. 评估提示改进：

   • 在评分标准后添加明确的换行符
   • 考虑增加多轮评估机制，提高小型LLM的输出稳定性

4. 模型选择增强：

   • 扩展函数调用检测逻辑，不仅验证JSON能力，还应考虑：
     • 模型规模
     • 特定任务表现
     • 评估质量历史记录

实施建议

对于使用Gemini模型的开发者，建议采取以下临时解决方案：

1. 手动安装缺失依赖：

   pip install google-generativeai
   

2. 对于评估质量要求高的场景，可以：

   • 为TaskEvaluator配置专用的大型LLM
   • 实现评估结果的后处理校验
   • 增加评估重试机制

总结

crewAI项目中TaskEvaluator与Gemini模型的兼容性问题反映了AI开发中常见的跨模型适配挑战。通过完善依赖管理、优化提示工程和增强模型选择逻辑，可以显著提升系统的稳定性和评估质量。这些改进不仅适用于Gemini模型，也为项目未来的多模型支持奠定了更好的基础。