解决ADK-Python项目中Ollama模型多轮对话失效问题

在使用ADK-Python框架开发智能代理时，开发者可能会遇到一个典型问题：当使用Ollama模型作为后端时，系统只能正确处理第一轮对话请求，后续请求会出现异常响应。本文将从技术原理和解决方案两个维度深入分析这个问题。

问题现象分析

在ADK-Python框架中，开发者通过LiteLlm模块集成Ollama模型时，典型的初始化代码如下：

from google.adk.agents import LlmAgent
from google.adk.models.lite_llm import LiteLlm

agent = LlmAgent(
    model=LiteLlm(model="ollama/gemma3"),
    # 其他参数...
)

实际运行时会观察到：系统能正确响应第一个用户问题（如"18加5等于多少"），但对后续问题（如"20加10等于多少"）则返回通用响应而非具体答案。通过日志分析可见，虽然完整的对话历史被正确传递给了模型，但模型并未按预期处理多轮对话上下文。

技术原理探究

这个问题根源在于Ollama的API接口实现机制。Ollama实际上提供了两种不同的接口模式：

1. 基础模式（ollama/前缀）：采用类似单次请求-响应的交互方式，不完全兼容标准API的对话历史处理机制
2. 聊天模式（ollama_chat/前缀）：专门优化过多轮对话场景，能正确处理对话上下文

在底层实现上，LiteLlm模块通过litellm库与各种模型API交互。检查litellm的源代码可以发现，ollama_chat模式会采用特定的消息格式化逻辑，确保对话历史被正确处理。

解决方案实践

标准解决方案

最直接的解决方法是改用ollama_chat模式：

agent = LlmAgent(
    model=LiteLlm(model="ollama_chat/gemma3"),
    # 其他参数...
)

这种方法能确保对话历史被正确处理，适用于大多数场景。

替代方案

对于需要更精细控制的情况，可以采用标准API兼容模式：

import os
os.environ["API_KEY"] = "dummy"  # 需要设置虚拟API密钥

agent = LlmAgent(
    model=LiteLlm("api/qwen2.5:32b", base_url="http://localhost:11434/v1"),
    # 其他参数...
)

这种方法通过标准API兼容接口访问Ollama服务，同样可以解决多轮对话问题，但需要额外配置。

最佳实践建议

1. 模型选择：优先使用ollama_chat前缀的模型版本
2. 版本指定：明确指定模型版本号（如gemma3:1b）以确保一致性
3. 环境隔离：建议在虚拟环境中测试不同配置
4. 日志监控：定期检查对话日志，确认上下文处理正常

通过理解这些底层机制，开发者可以更有效地在ADK-Python框架中集成Ollama模型，构建稳定的多轮对话应用。对于更复杂的场景，建议深入研究litellm库的源代码，了解不同模型提供商的具体实现差异。