Lemma审批门机制:为什么AI执行“关键操作”前会暂停等你?完整配置与用法

原创2026-11-09 18:50:522,276 阅读

Lemma审批门机制:为什么AI执行“关键操作”前会暂停等你?完整配置与用法

Lemma 是一款开源的多玩家 AI 协作平台,让你的团队共享 Agents、应用和工作流,并通过 Slack、Telegram、Email 等平台共同使用。它的审批门(approval gate)机制会在 AI 执行删除数据、外发消息等"关键操作"前自动暂停运行,等待人类做出批准或拒绝的决策,真正做到"放手干活、风险可控"。

为什么 AI 需要"暂停"等你?

把真实工作交给 AI Agent 后,最大的担忧是:它会不会误删一张表?会不会把内部消息发出去?

Lemma 的答案是:权限 + 审批门双保险。Agent 只能使用你明确授权的工具与资源(agents-and-conversations.md 中的 PS-AGENT-002 规定"agent 只获得被授予的访问权限"),而一旦发生以下情况,平台会直接暂停这次运行,弹出一张审批卡片等你决策:

触发场景 服务端错误码 含义
破坏性操作(删表、删记录、删文件) DESTRUCTIVE_ACTION_REQUIRES_APPROVAL 必须有人批准才能执行
基于"外部人员"提供的内容采取行动 OUTSIDE_TEXT_REQUIRES_APPROVAL 读到 pod 外部信息后,先询问再行动
完全越权操作 WORKLOAD_NOT_ALLOWED 即使批准也不允许,只能人工操作

这些规则在后端授权层强制执行,源码可见 errors.py,连 CLI 都会告诉你下一步该做什么:"请让用户批准(request_approval)后再重试"。

Lemma审批门机制示意:AI在关键操作前暂停等待人类批准

审批门是如何运作的:从暂停到恢复

整个生命周期由后端状态机驱动:运行中(RUNNING)遇到审批工具 → 进入等待输入(WAITING_FOR_INPUT)→ 人做出决策后恢复运行(见 agent.md 的运行状态图)。

1️⃣ 审批卡片长什么样?

卡片会展示 Agent 想执行的具体动作:工具名、标题、原因和关键参数(比如要删除的文件路径),最多 4 个参数,绝不刷屏。前端渲染逻辑在 approval.ts,例如"Delete muscle-based-robots.md from pod files"这样的标题会直接呈现给你。

2️⃣ 三种决策方式

前端定义了三种决策类型(approval.ts):

  • APPROVE_ONCE — 仅批准这一次
  • APPROVE_FOR_SESSION — 本次会话内同类操作不再询问
  • DENY — 拒绝,运行继续但不执行该动作

⚠️ 注意"会话级批准"的粒度:它授权的是整个权限而非单次调用。例如批准删除某条记录并选择"本次会话内有效",等于允许 Agent 在本会话中删除任意表的记录(卡片会明确提示:"Delete records in any table for the rest of this conversation")。

3️⃣ 不处理会怎样?

审批卡不会自动通过:若 7 天内无人决策(Agent 主动提问则是 72 小时),系统自动按"拒绝"处理,恢复运行并告知 Agent 无人应答(agents-and-conversations.md 的 PS-AGENT-020)。

4️⃣ 每个动作都有据可查

所有批准与拒绝都作为持久记录保存,且明确记录"哪个 Agent、以谁的名义"执行——AI 的操作永远不会伪装成人的操作(PS-AGENT-022)。

Lemma 工作区界面:审批卡片与运行历史清晰可见

审批通知出现在哪里:网页、Slack 甚至你的电脑

审批门不只存在于 Web 工作区,它跟随对话所在的平台:

  • 💬 聊天平台:Slack、Teams、Telegram、WhatsApp、Email 上,审批以原生按钮或可读文本呈现,点按钮或直接打字回复都能完成决策,平台不支持按钮时也绝不会丢弃审批(PS-SURF-021,见 surfaces-and-notifications.md)。
  • 📧 Email:审批写在回复正文里,你回信即可批准或拒绝。
  • 💻 本地电脑(Agent Host):当编码 Agent 在你的 Mac 上申请执行命令时,桌面端弹出权限请求卡片,支持"允许一次 / 始终允许 ls"等选项;这类请求有时效窗口,超时会过期作废(agent-host.md 的 parked window 机制)。
  • 🔄 工作流:等待人工决策的工作流步骤,也会把人已经在使用的那个聊天频道里发起审批。

Lemma 工作流运行界面:等待人工审批的决策步骤可视化

完整配置与用法

① 给 Agent 配置权限

创建 Agent 时勾选它可用的工具集合与资源(表、文件、函数、工作流、连接器),变更在下一次运行生效,不影响正在进行的运行。注意两点特殊规则:

  • 批准 Agent 使用某个连接器(如 Gmail)后,授权是长期有效的,卡片会明确提示:"Approving gives this agent the gmail connector from now on, in every conversation, until someone removes it"——这是唯一不能选"仅本次会话"的场景。
  • 每个 Agent 天生拥有"向人提问"和"请求审批"的能力,无需额外授权。

② 查看与处理审批(API)

操作 接口
列出某对话的待决审批 GET /pods/{pod_id}/conversations/{conversation_id}/approvals
做出决策 POST /pods/{pod_id}/conversations/{conversation_id}/approvals/{approval_id}/decision

接口契约见 agent.md。

③ 用 CLI 查看审批

在终端中可用 lemma conversations approvals 查看会话的审批列表(默认会话由 LEMMA_CONVERSATION_ID 指定),用法说明见 SETUP.md。

④ 在外部对话中直接决策

在 Slack 等平台的对话线程里,直接点审批按钮或回复文字即可,决策会同步回工作区并恢复被暂停的运行。

最佳实践:3 个使用原则

  1. 默认选"仅批准一次":除非你确认该权限在整段会话中都安全,否则不要使用"本次会话内有效"。
  2. 授权连接器要三思:连接器的批准是永久性的,之后随时可撤销,但批准前请确认该 Agent 真的需要。
  3. 保持决策及时:审批有 7 天有效期,超时自动按拒绝处理——被暂停的工作流不会自己跑完,及时响应才能不阻塞团队。

小结:Lemma 的审批门机制让"控制而不必时刻盯着"成为现实——日常操作顺畅放行,关键操作必经人工,且每一步都可追溯。结合最小授权 + 审批门 + 全链路审计,你可以放心地把真实工作交给团队共享的 AI Agent。🚀

登录后查看全文
lemma-platform