Rerun 人机协作(HITL)机制详解:为什么 AI 同事在发信、付款、删除前都会停下来问你
Rerun 人机协作(HITL)机制详解:为什么 AI 同事在发信、付款、删除前都会停下来问你
Rerun 是一款可自托管的 AI 同事(AI Coworkers)平台,它的人机协作(Human-in-the-Loop,HITL)机制让每个 AI 同事在执行敏感操作前先停下来向你发起询问、审批或凭证请求——这正是"发信、付款、删除前先问你"的安全核心。
为什么"从不请示的 AI"是隐患?
想象一个能自动处理邮件、账单和社媒的 AI 同事。如果它从不做确认就发信、付款、删除,那它就是一份"责任"而不是"资产"。Rerun 官方文档 human-in-the-loop.mdx 开篇就说得很直白:一个从不与你确认的同事是负债。
因此 Rerun 给每个 AI 同事配备了多种"暂停"手段:当它需要你的决定时,就停下当前回合,在输入框上方弹出一张卡片,你回答后,运行才从你的回复继续。
上图正是 HITL 的审批场景:AI 同事想为 Figma 年度续费 144 美元,它没有直接执行,而是弹出 "Approval required" 卡片,等你点 Approved 或 Not now。
六种"停下来"的工具:Rerun 的 HITL 工具箱
在引擎源码 hitl.ts 中,HITL 工具被集中定义为一个集合:
HITL_TOOL_NAMES = ['ask_user', 'request_approval', 'suggest_service',
'request_secret', 'request_mcp_sign_in', 'request_takeover']
每种工具对应一类"需要你"的时刻:
| 工具 | 触发场景 | 卡片形态 |
|---|---|---|
ask_user |
缺少信息、需要你在几个选项中做选择 | 问题卡片,选项渲染为按钮,可多选、可自由输入 |
request_approval |
要执行有后果或不可逆的操作(发信、付款、删除) | 审批卡片,逐项列出动作与细节(命令、目标、diff),逐项批准或拒绝 |
suggest_service |
任务需要某个应用的凭证或登录 | 集成设置卡片,你填 Key 或走 OAuth |
request_secret |
需要一个 API Key 等凭证,且没有现成应用覆盖 | 掩码表单,值直接写入本机变量,绝不进聊天 |
request_mcp_sign_in |
你注册的 MCP 服务器需要登录 | 带 Connect 按钮的 OAuth 弹窗卡片 |
request_takeover |
浏览器里遇到验证码、登录墙等只有人才能过的坎 | 把浏览器窗口交给你操作,完成后交还 |
其中 request_approval 是标题中"停下来问你"的主角。它的描述(hitl.ts)要求非常严格:
- 执行任何有后果/不可逆动作之前必须先调用它并结束回合;
- 所有当前真正需要的审批要合并成一批(
approvals数组,最多 20 项),而不是挤牙膏式逐条问; - 你已给过"长期授权"(比如"都发吧,不用问")的动作不用再问;
- 被你拒绝的动作,它既不能执行,也不能绕道达成同样结果——这一条写进了系统提示词 systemPrompt.ts。
暂停-等待-恢复:HITL 的完整流转
Rerun 的 HITL 流转可以概括为四步,这也是它和普通聊天机器人"反问"的本质区别——运行真的被挂起了:
- 调用并停表:模型调用任一 HITL 工具,引擎不会让回合继续,工具直接返回一个"已送达"确认(见 hitl.ts 的
HITL_ACK),模型被指示"立即结束回合,等用户在聊天中回复"。 - 卡片渲染:Web 端与 iOS 端共享同一套解析协议 chat-hitl.ts,把原始工具输入还原成结构化表单——问题列表、审批项、凭证字段等(
pendingQuestions、pendingApprovals、pendingSecrets等函数)。 - 用户作答:你的回答被序列化成一句专门写给 AI 读的话回注会话。比如审批结果的固定格式是
Here are my approval decisions:+ 逐条APPROVED/DECLINED(chat-hitl.ts),并附带一句硬约束:"只执行已批准的动作,不要执行任何被拒动作,也不要用任何变通方式达成同样结果。" - 从答案处续跑:运行带着这句回复恢复,AI 从你的决定继续,而不是重新来过。
前端里,审批卡片由 ActionApprovalBlock.tsx 渲染;如果你关闭卡片而不回答,引擎会收到一条明确的取消协议文本(如 <a href="https://link.gitcode.com/i/5d31c40cd87e981115f5d9296f256c27" target="_blank">User declined to provide the credentials],定义于 [chat-hitl.ts),AI 能区分"你拒绝了"和"你没回答"。
密钥安全:永远不要在聊天里粘贴机密
Rerun 对凭证的处理有一条"秘密保证":
- AI 从不在聊天里要 API Key——它会打开一个掩码表单(
request_secret),你输入的值直接写入该同事本机的 variables,模型只能看到"哪个变量名被填了",永远看不到值本身; - 之后它用
${VARIABLE_NAME}占位符在配置或命令中引用,值在运行时才在你的机器上被解析; - 官方文档特别警告:绝不要把机密粘贴进聊天——对话会被存储并发送给模型。"向你索要粘贴密钥的同事是在做错事"。
这套设计意味着即使聊天记录泄露,你的密钥也不会出现在其中。
不在场时,审批也不会被跳过
HITL 最容易被质疑的一点是:凌晨 3 点的定时任务谁来批准?Rerun 的答案是——谁也不用跳过它:
- 由定时任务或 webhook 发起的运行与聊天运行一样:调用
request_approval时运行暂停、通知发出、你何时作答它何时从答案处恢复,"不会因为没人盯着就跳过"; - 系统提示词里专门有一段 unattendedRunNote,明确告诉 AI:"不要因为运行是自动发起的、此刻没人在线,就跳过审批或绕过提问";
- 通知支持应用内 + 邮件双通道,可按类型、按"你亲自发起 / 自动触发"分别配置。官方建议:自动运行的审批设成邮件、你的日常对话留在应用内,"这样凌晨 3 点的审批才能真正找到你";
- 邮件还有防轰炸护栏:故障类通知 15 分钟内每来源最多 3 封,之后折叠为每小时一封摘要。
所有等待你处理的事项会集中到该同事的 To handle 标签页和工作区通知面板(WorkspaceInbox.tsx),一目了然。
小结:HITL 是 Rerun 的信任基石
| 维度 | Rerun 的做法 |
|---|---|
| 何时停 | 有后果/不可逆动作前必须停(发信、付款、删除、大数据量付费调用) |
| 怎么问 | 卡片一次问全(批量化),选项是按钮,永远可以改为自由输入 |
| 怎么答 | 逐条批准/拒绝,拒绝项被硬性禁止执行或变通 |
| 密钥 | 掩码表单直写本机变量,模型只见变量名不见值 |
| 人不在时 | 运行挂起等待,通知走邮件,绝不因无人在线而绕过审批 |
正是这套机制,让 Rerun 的 AI 同事既能大胆干活,又始终把你握有最终决定权——这大概也是"AI 同事"区别于"AI 脚本"的关键所在。
延伸阅读
- 官方 HITL 文档:apps/docs/agents/human-in-the-loop.mdx
- HITL 工具实现:apps/engine/src/tools/builtin/hitl.ts
- HITL 前后端共享协议:packages/contracts/src/chat-hitl.ts
- 系统提示词中的审批纪律:apps/engine/src/agents/systemPrompt.ts

