LlamaIndex中Agent工作流在Ollama上的函数调用问题解析

在LlamaIndex项目的最新版本中，开发者发现了一个关于Agent工作流在Ollama模型上运行的有趣现象。当使用DefaultAgent作为根节点并尝试将任务传递给JokeAgent时，系统无法正确调用tell_joke工具函数，而直接使用JokeAgent作为根节点时却能正常工作。

这个问题的核心在于不同模型对函数调用的处理机制存在差异。Ollama模型与OpenAI模型相比，在工具调用方面采用了不同的实现方式。具体表现为Ollama会以更少的片段流式传输工具调用，这可能导致在日志中无法清晰看到工具调用的完整过程。

深入分析日志可以发现，当DefaultAgent作为根节点时，传递给JokeAgent的提示信息中缺少了tell_joke工具的定义。而在直接使用JokeAgent时，系统提示中明确包含了该工具的函数签名和描述。这种差异导致了后续行为的不同。

项目维护者指出，这主要是由于开源模型如llama3.2在作为Agent运行时表现不够理想所致。开源模型通常需要更多的提示工程来确保其行为符合预期。最新版本的LlamaIndex已经提供了修改handoff工具输出的功能，开发者可以通过调整相关提示来改善这一问题。

从技术实现角度看，这个问题揭示了工作流设计中上下文传递的重要性。Agent之间的交接不仅仅是简单的任务转移，还需要确保后续Agent能够获得完整的工具定义和上下文信息。对于使用开源模型的开发者来说，需要特别注意模型在复杂工作流中的行为一致性。

这个问题也提醒我们，在选择模型架构时需要权衡性能和功能完整性。虽然开源模型提供了更多灵活性，但在复杂场景下可能需要额外的调优工作。随着LlamaIndex项目的持续更新，相信这类问题会得到更好的解决。