在Llama Index项目中实现AgentWorkflow与SQLTableRetrieverQueryEngine的LLM模型共享

在Llama Index项目中构建复杂的AI工作流时，经常需要将大型语言模型(LLM)实例共享给多个组件使用。本文将详细介绍如何在AgentWorkflow和SQLTableRetrieverQueryEngine之间实现LLM模型的共享配置。

核心问题背景

当开发者使用Llama Index构建包含多个组件的AI系统时，特别是将AgentWorkflow与SQLTableRetrieverQueryEngine结合使用时，确保所有组件使用相同的LLM实例非常重要。这不仅能保持模型行为的一致性，还能优化资源利用。

解决方案实现

1. 统一LLM实例初始化

首先需要在项目中创建一个统一的LLM实例。对于OpenAI模型，可以这样初始化：

from llama_index.llms.openai import OpenAI

# 创建全局LLM实例
llm = OpenAI(model="gpt-4o", api_key="your-api-key")

2. 配置SQLTableRetrieverQueryEngine

在配置SQL查询引擎时，将LLM实例作为参数传入：

from llama_index.core.indices.struct_store.sql_query import SQLTableRetrieverQueryEngine

query_engine = SQLTableRetrieverQueryEngine(
    sql_database,
    obj_index.as_retriever(similarity_top_k=1),
    llm=llm  # 传入共享的LLM实例
)

3. 配置FunctionAgent

同样地，在创建FunctionAgent时也使用相同的LLM实例：

from llama_index.core.agent.workflow import FunctionAgent

research_agent = FunctionAgent(
    name="ResearchAgent",
    description="用于搜索网络信息并记录笔记",
    system_prompt="...",
    llm=llm,  # 使用相同的LLM实例
    tools=[search_web, record_notes],
    can_handoff_to=["WriteAgent"]
)

跨文件共享的最佳实践

当项目结构较复杂，组件分布在多个文件中时，推荐采用以下模式：

1. 创建专门的配置文件(如config.py)存放LLM实例
2. 在各组件文件中导入该共享实例

示例配置文件：

# config.py
from llama_index.llms.openai import OpenAI

llm = OpenAI(model="gpt-4o", api_key="your-api-key")

然后在其他文件中引用：

# function_agent.py
from config import llm

# 使用llm实例创建agent...

# tools.py
from config import llm

# 使用llm实例创建工具...

技术优势

这种共享配置方式具有以下优点：

1. 一致性：确保所有组件使用相同的模型版本和配置
2. 可维护性：只需在一个地方修改模型参数
3. 资源优化：避免重复创建模型实例
4. 调试便利：更容易追踪模型行为

扩展应用

这种模式不仅适用于AgentWorkflow和SQL查询引擎，还可以推广到：

1. 多个Agent之间的模型共享
2. 不同检索器之间的配置统一
3. 评估组件与生产组件的模型一致性

总结

在Llama Index项目中，通过集中管理LLM实例并在各组件间共享，可以构建更加一致和高效的AI系统。这种模式特别适合复杂工作流场景，是构建生产级AI应用的重要实践。