ADK-Python项目中使用Ollama模型调用工具函数的问题解析

概述

在使用ADK-Python项目构建基于LLM的智能体时，开发人员可能会遇到模型无法正确调用工具函数的问题。本文将深入分析这一问题的根源，并提供完整的解决方案。

问题现象

当尝试使用Ollama提供的模型(如deepseek-r1:7b、gemma3等)构建智能体时，会出现两种典型错误：

1. "Function weather_time_agent is not found in the tools_dict"错误提示
2. 模型陷入无限循环调用工具函数的异常行为

根本原因分析

经过技术团队深入调查，发现这些问题主要由以下因素导致：

1. 模型功能支持不足：部分Ollama模型(如deepseek-r1:7b)原生不支持函数调用功能，导致无法识别工具函数。

2. 提示词格式冲突：当使用ollama作为provider时，LiteLLM库会自动在系统指令和函数描述之间插入一段特殊格式的JSON输出要求，这段提示会导致模型行为异常。

3. 消息格式不兼容：某些模型版本对输入消息格式有严格要求，不兼容的消息结构会引发解析错误。

解决方案

1. 选择支持函数调用的模型

确保使用支持函数调用的模型版本，如gemma3或llama3系列模型。对于不支持的模型，系统会明确提示功能限制。

2. 使用正确的provider前缀

将模型调用方式从：

LiteLlm(model="ollama/<MODEL_NAME>")

修改为：

LiteLlm(model="ollama_chat/<MODEL_NAME>")

这一修改可以避免LiteLLM自动插入导致问题的特殊提示词格式。

3. 升级到最新版本

ADK-Python项目的0.2版本及后续版本已经修复了相关兼容性问题。建议开发者：

1. 从项目主分支构建最新版本
2. 或等待PyPI官方发布更新

4. 验证环境配置

确保开发环境满足以下条件：

• Python 3.8+
• 最新版ADK-Python库
• 正确配置的Ollama服务
• 模型已正确下载并加载

最佳实践建议

1. 模型选择：优先使用经过验证支持函数调用的模型，如gemma3或llama3系列。

2. 版本控制：定期更新ADK-Python库以获取最新修复和改进。

3. 错误处理：在代码中添加适当的错误处理逻辑，捕获并处理模型不支持功能的情况。

4. 测试验证：实现自动化测试用例，验证工具函数调用的正确性。

总结

ADK-Python项目与Ollama模型集成时出现的工具函数调用问题，主要源于模型功能支持和提示词格式兼容性。通过选择合适模型、使用正确provider前缀和保持版本更新，开发者可以构建稳定可靠的智能体应用。随着项目的持续发展，这些集成问题将得到进一步改善。