LLM Agents 101：用「模型 + Harness」构建可行动智能体的实战指南（awesome-generative-ai-guide）

本文围绕本仓库核心指南《LLM Agents 101》展开，系统讲解 LLM Agent 的本质——模型（model）加工具链（harness），拆解 harness 的四个组成部分（Agent 核心、记忆、工具、规划），并覆盖多智能体系统、真实世界落地形态、评估方法与构建路径。读完本文，你将理解 Agent 内部的工作循环与设计取舍，并能在 awesome-generative-ai-guide 仓库内找到从入门、动手到评估、安全加固的完整学习与实战资源。

---

一、什么是 LLM Agent：一个模型，加上让它行动的 Harness

一个 LLM Agent 的本质，是"大语言模型被赋予行动能力，而不只是回答问题"。最清晰的理解方式是：Agent = 模型 + Harness（工具链）。模型是推理核心，harness 则是你在模型外围构建的一切——工具、记忆，以及一个让 Agent 可以"尝试 → 观察结果 → 再尝试"直到任务完成的循环。

用一个规划假期的助手来体会两者的差异：它可以单次调用回答"巴黎下周天气如何"这类简单问题；但真正的用户请求往往是"帮我规划明年夏天 10 天欧洲行程，包含历史地标、当地美食，预算 3000 美元"。后者需要规划、预算控制、跨多个数据源查询信息，并在多步之间持续跟踪预算与偏好。Agent 正是通过模型完成推理与规划、调用工具搜索航班/酒店/景点、借助记忆在多步间保留状态来完成这类任务——模型是大脑，harness 是让它真正把事情做完的载体。

仓库内的 Agentic AI Crash Course 第 1 部分 从另一个角度印证了这一框架：

• 技术视角：Agent = LLM + 工具 + 规划 + 记忆；
• 业务视角：Agent = 端到端完成任务、真正"做事情"的系统；
• 关键提醒：当今的 Agent 更多是围绕 AI 模型的工程封装（engineering wrapper），底层智能仍来自模型本身，Agent 的作用是让智能得以落地执行。这也是"LLM 是大脑、工具是双手"这一类比的由来——没有工具，Agent 只会说话；有了工具，Agent 才能行动。

二、Agent 内部结构：Harness 的四个组成部分

一个被广泛采用的方式是把 harness 拆解为四个部分，本指南的架构图（源自 Nvidia 官方博客《Introduction to LLM Agents》）直观展示了这种结构：

1. Agent 核心（大脑）：中央决策循环。它持有 Agent 的目标，决定何时调用哪个工具、拉取相关记忆，通常还承载一个角色设定或一组运行规则。随着推理模型（o 系列、DeepSeek-R1 及其后继者）的普及，过去需要手工搭建的大量规划工作已转移到模型自身的思维链（chain of thought）中完成。

2. 记忆（Memory）：Agent 保存状态的地方。短期记忆保存当前任务的工作上下文；长期记忆跨会话保存事实与历史，通常通过语义相似度并结合时效性（recency）、重要性（importance）等信号检索。管理"什么进入上下文窗口、什么留在窗外"正成为一门核心技能，即所谓的 context engineering（上下文工程）。

3. 工具（Tools）：Agent 可以执行的动作。从网络搜索、代码执行，到检索（RAG）与任意 API 都属于工具范畴。**模型上下文协议（MCP）**已成为把 Agent 连接到工具与数据源的通用标准——能力只需接入一次，即可跨多个 Agent 复用。

4. 规划（Planning）：Agent 如何把困难任务拆解为步骤、自我批判并决定下一步做什么。任务分解（task decomposition）与反思（reflection）是基础手段，推理模型让这一能力显著增强。

值得注意的是，更早期的综述文献用"大脑、感知、行动（brain, perception, and action）"来概括同一结构——这是理解 Agent 架构的另一个有用视角：感知对应输入处理与检索，大脑对应推理决策，行动对应工具调用与执行。

三、从生成到执行：Agent 的工具调用循环

工具是"让模型变成 Agent"的关键机制。LLM 本身无状态、无法访问实时系统、不能采取行动；一旦接上工具，它就能获取内部系统数据、触发事件（发邮件、建工单）、访问日历/仪表盘/CRM 等结构化数据，并执行基于业务规则预写的逻辑——这就是"从生成到执行（generation turns into execution）"。

仓库中 Agentic AI Crash Course 第 3 部分 给出了工具价值的具体论证：

• 解锁执行：没有工具，Agent 只是提建议的助手；有了工具，它能端到端完成工作流；
• 提升精度：模型不再靠幻觉编造答案，而是直接查询真实系统（问"实际订单状态"而非编一个延误理由）；
• 控制风险：你定义暴露哪些能力，模型无法做注册工具之外的事；
• 支持组合：把 CRM、日历、邮件各自暴露为工具，由 LLM 统一编排。

5 日 AI Agents 路线图 用一个简洁循环概括了所有 Agent 的运行机制：

The loop every agent runs:

   PLAN  -->  ACT (call a tool)  -->  OBSERVE (read the result)
     ^                                         |
     |_________________ until done ____________|

An agent = a model + this loop + tools + memory + gates (the harness).

一个典型的端到端流程（来自第 3 部分的"订单延误通知"示例）是这样的：用户输入任务 → LLM 规划步骤（查订单状态 → 查可配送时段 → 起草邮件 → 发送 → 记录日志）→ 解析器把模型意图转成结构化调用（如 get_order_status(order_id=12345)、send_email(to=[e-mail], content=...)）→ 调用真实工具 → 工具返回结果（observation）→ 模型依据结果决定下一步 → 循环直到任务完成。要注册一个可供 LLM 使用的工具，通常需要定义四类元数据：

• 名称（如 create_meeting）；
• 描述（让模型知道何时使用）；
• 输入参数（及类型）；
• 输出结构（让模型能消费结果）。

现代大模型大多能直接产出 JSON 或函数调用这类结构化输出，配合同样结构化的工具返回值，agent 循环才能做到健壮、可追踪、可上生产。

四、记忆系统：短期记忆与长期记忆

模型天生没有记忆、本质无状态，除非你在系统中架构出记忆。仓库的 Agentic AI Crash Course 第 7 部分 与 101 指南一致，把记忆分为两类：

• 短期记忆：作用域限定在单个会话或任务内，包含当前对话、已用工具、已生成回复、已检索文档等，相当于用户与 Agent 对话的原始日志。它增长很快，被无关历史淹没时多数 Agent 表现会变差，因此需要裁剪过期消息、把过去总结为要点、按相关性过滤——本质是在"上下文长度、清晰度、成本"之间做平衡。
• 长期记忆：跨会话、跨天甚至长期存在，帮助 Agent 记住用户是谁、偏好怎样的交互方式、已完成过什么。例如"用户偏好中性语气""用户名是 X、住在城市 Y""发票 #123 已升级处理"。

借用认知科学，长期记忆又可细分为三类，每类对应不同的工程目标：

记忆类型	含义	示例
语义记忆（Semantic）	客观事实与信息	"用户说英语，偏好 Excel 文件"
情景记忆（Episodic）	过去发生过的行为	"Agent 昨天已生成过摘要"
程序性记忆（Procedural）	主观偏好与做事方式	"避免被动语态，优先给出行动项"

按用例对应：面向用户的聊天机器人依赖语义记忆做个性化；流程自动化 Agent 依赖情景记忆避免重复尝试或死循环；自适应助手依赖程序性记忆根据反馈调整提示词。管理记忆往往很像做 Agentic RAG——关键在于决定存什么、何时检索什么、如何保鲜，而不是一味往上下文里塞文本（多数情况下堆更多文本反而损害性能）。仓库示例包括：客服 Agent（情景 + 语义记忆）、销售 Copilot（语义 + 程序性记忆）、合规审计 Agent（情景记忆）。

五、多智能体系统：分工协作与协调代价

单个 Agent 是孤立工作的。多智能体系统把问题拆分给多个各司其职的专门 Agent 协作完成，遵循分工原则（division of labor）：给每个 Agent 一个聚焦的角色并让它们协调，在复杂任务上可同时提升效率与质量——这也是许多生产系统处理"单个上下文窗口装不下"任务的方式。

交互通常分为两类：

• 协作式（cooperative）：Agent 之间共享信息、在彼此成果上继续构建，可自由进行也可按既定顺序进行；
• 对抗式（adversarial）：Agent 互相辩论或批判，以打磨出更严谨的答案。

Agentic AI Crash Course 第 8 部分 进一步区分了两种协调拓扑：层级式（hierarchical）——由编排者（orchestrator）向各子 Agent 委派子任务、掌控全局流程，适合可清晰分解、需要强控制、角色明确的场景（企业工作流、工具套件、并行流水线）；扁平式（flat）——Agent 作为对等节点直接对话、没有"老板"，适合需要创造性辩论、相互评估或没有唯一正确答案的场景（头脑风暴、方案排序、多视角推理）。

但多智能体也带来真实的成本与协调开销：更多非确定性、更复杂的记忆与状态管理（谁在何时知道什么）、更高的延迟与成本、更多协调 bug 与故障点，以及可能出现的"不应达成一致却互相附和"的共谋问题。作者基于工程经验给出的明确建议是：在企业场景不要默认从多智能体起步，先从单个 Agent 开始，让它在评估指标或运营层面真正失败后，再考虑扩展；同时强调"先有真正的问题，再谈多智能体架构"——这一点与整个课程"问题优先（problem-first）"的核心思想一致。

六、真实世界中的 Agent

2023 年 BabyAGI 等任务循环 Demo 浪潮证明了这一想法的可行性；而 2025、2026 年真正落地到生产的产品形态已经不同——它们建立在成熟稳健的 Agent harness 之上：

• 编码 Agent：Claude Code、Codex、Cursor 等 harness 会规划、编辑文件、运行代码并验证，驱动真实的软件开发工作；
• 电脑使用与浏览器 Agent：操作屏幕或浏览器以跨应用完成任务；
• 深度研究 Agent：规划研究问题、跨网络搜索与阅读、综合生成带引用的报告；
• 企业工作流 Agent：客户支持、运营与分析类 Agent 在真实生产环境中运行，并由可观测性与评估体系持续监控。

所有这些形态背后的模式相同：一个能力强的模型 + 一个设计良好的 harness + 一个能支撑长时自主任务的循环。

七、评估 Agent：评估整个系统，而非只评估模型

Agent 的失败方式是单元测试无法预测的，因此评估是独立的专业领域。核心原则：评估整个系统，而不仅是模型——一个更好的基础模型无法修复坏掉的 harness、缺失的工具或 Agent 从未见到的上下文。

现代 Agent 评估通常由三部分组合：

1. 任务基准（task benchmarks）：如 tau-bench 及类似的多轮、工具调用套件；
2. 自建评估（custom evals）：围绕你自己的系统容易出问题的地方构建的评估；
3. 生产可观测性（production observability）：在线上实时捕获失败。

值得打分的维度包括：

• 效用（Utility）：是否完成任务、效率如何（成功率、成本、步数）；
• 可靠性与鲁棒性（Reliability & Robustness）：面对脏输入与对抗性用例是否稳定；
• 安全与可信（Safety & Trustworthiness）：是否保持在护栏之内、避免有害动作、在真实自主场景中行为可预测。

对评估体系的完整学习，可继续阅读仓库的 AI Evals for Everyone 免费课程；而"Agent 一旦能行动会破坏什么"，则由 Securing Agentic AI Systems 全面覆盖（包括攻击向量、纵深防御架构、护栏/权限/可审计性设计）。

八、构建你自己的 Agent：仓库内的一手资源

理解原理之后，本仓库提供了从概念到动手的完整构建路径：

1. Agentic AI Crash Course：仓库原创的 10 部分速成课程，覆盖 Agent 定义、4 类 Agent 系统、工具、RAG 与 Agentic RAG、MCP、规划与推理模型、记忆、多智能体、真实世界系统与未来展望——是 101 指南的最佳纵深配套；
2. 5 日 AI Agents 路线图：按 Day 1 概念 → Day 2 工具与函数调用 → Day 3 上下文/记忆/规划 → Day 4 MCP 与多智能体 → Day 5 评估与上线的结构化路径，每天约 2～3 小时；
3. Agentic AI 动手 Notebook（LinkedIn Learning 版）：提供行动自主（action autonomy）与规划自主（planning autonomy）两套 notebook 实战；
4. 系统设计案例代码：仓库的面试准备模块中附带了多套可运行的 Agent 参考实现（如 coding-agent、customer-support-agent 等），每个案例均含 llm.py、run.py、requirements.txt 等可运行文件，适合作为把概念落成代码的对照样例；
5. AI Agents 主题索引：聚合了本仓库中与 Agent 相关的全部课程、路线图与扩展资料，按 Build 101/201/301、Use、Understand 分层组织，便于按需深入。

九、参考资料与继续深入的方向

本指南的核心概念源自公开研究资料——Nvidia 官方博客《Introduction to LLM Agents》（harness 四部分架构图出处）与大语言模型 Agent 综述（"大脑-感知-行动"框架与多智能体架构图出处）。在仓库内，你可以沿着以下线索继续深入：

• Agentic Search and Retrieval 研究表：持续更新的 Agentic 搜索与检索研究资料汇总；
• Agentic RAG 101：检索与 Agent 控制结合的专题指南；
• Securing Agentic AI Systems：Agent 可行动之后的安全专题（攻击向量、护栏、权限、审计）；
• AI Evals for Everyone：把评估真正落地为可操作系统的完整课程。

一句话总结这篇指南的核心结论：Agent 不是新的模型，而是一种新的工程形态——一个推理模型、一套精心设计的 harness，加上一个能撑住长时自主任务的循环。理解并打磨好这三者，才是从"会聊天的模型"走向"能干活的产品"的关键。