Rerun 人机协作(HITL)机制详解:为什么 AI 同事在发信、付款、删除前都会停下来问你

原创2026-11-07 18:40:421,688 阅读

Rerun 人机协作(HITL)机制详解:为什么 AI 同事在发信、付款、删除前都会停下来问你

Rerun 是一款可自托管的 AI 同事(AI Coworkers)平台,它的人机协作(Human-in-the-Loop,HITL)机制让每个 AI 同事在执行敏感操作前先停下来向你发起询问、审批或凭证请求——这正是"发信、付款、删除前先问你"的安全核心。

为什么"从不请示的 AI"是隐患?

想象一个能自动处理邮件、账单和社媒的 AI 同事。如果它从不做确认就发信、付款、删除,那它就是一份"责任"而不是"资产"。Rerun 官方文档 human-in-the-loop.mdx 开篇就说得很直白:一个从不与你确认的同事是负债。

因此 Rerun 给每个 AI 同事配备了多种"暂停"手段:当它需要你的决定时,就停下当前回合,在输入框上方弹出一张卡片,你回答后,运行才从你的回复继续。

Rerun AI 同事在执行付款前弹出审批卡片,等待用户点击 Approved

上图正是 HITL 的审批场景:AI 同事想为 Figma 年度续费 144 美元,它没有直接执行,而是弹出 "Approval required" 卡片,等你点 Approved 或 Not now。

六种"停下来"的工具:Rerun 的 HITL 工具箱

在引擎源码 hitl.ts 中,HITL 工具被集中定义为一个集合:

HITL_TOOL_NAMES = ['ask_user', 'request_approval', 'suggest_service',
 'request_secret', 'request_mcp_sign_in', 'request_takeover']

每种工具对应一类"需要你"的时刻:

工具 触发场景 卡片形态
ask_user 缺少信息、需要你在几个选项中做选择 问题卡片,选项渲染为按钮,可多选、可自由输入
request_approval 要执行有后果或不可逆的操作(发信、付款、删除) 审批卡片,逐项列出动作与细节(命令、目标、diff),逐项批准或拒绝
suggest_service 任务需要某个应用的凭证或登录 集成设置卡片,你填 Key 或走 OAuth
request_secret 需要一个 API Key 等凭证,且没有现成应用覆盖 掩码表单,值直接写入本机变量,绝不进聊天
request_mcp_sign_in 你注册的 MCP 服务器需要登录 带 Connect 按钮的 OAuth 弹窗卡片
request_takeover 浏览器里遇到验证码、登录墙等只有人才能过的坎 把浏览器窗口交给你操作,完成后交还

其中 request_approval 是标题中"停下来问你"的主角。它的描述(hitl.ts)要求非常严格:

  • 执行任何有后果/不可逆动作之前必须先调用它并结束回合;
  • 所有当前真正需要的审批要合并成一批(approvals 数组,最多 20 项),而不是挤牙膏式逐条问;
  • 你已给过"长期授权"(比如"都发吧,不用问")的动作不用再问;
  • 被你拒绝的动作,它既不能执行,也不能绕道达成同样结果——这一条写进了系统提示词 systemPrompt.ts。

暂停-等待-恢复:HITL 的完整流转

Rerun 的 HITL 流转可以概括为四步,这也是它和普通聊天机器人"反问"的本质区别——运行真的被挂起了:

  1. 调用并停表:模型调用任一 HITL 工具,引擎不会让回合继续,工具直接返回一个"已送达"确认(见 hitl.ts 的 HITL_ACK),模型被指示"立即结束回合,等用户在聊天中回复"。
  2. 卡片渲染:Web 端与 iOS 端共享同一套解析协议 chat-hitl.ts,把原始工具输入还原成结构化表单——问题列表、审批项、凭证字段等(pendingQuestions、pendingApprovals、pendingSecrets 等函数)。
  3. 用户作答:你的回答被序列化成一句专门写给 AI 读的话回注会话。比如审批结果的固定格式是 Here are my approval decisions: + 逐条 APPROVED/DECLINED(chat-hitl.ts),并附带一句硬约束:"只执行已批准的动作,不要执行任何被拒动作,也不要用任何变通方式达成同样结果。"
  4. 从答案处续跑:运行带着这句回复恢复,AI 从你的决定继续,而不是重新来过。

前端里,审批卡片由 ActionApprovalBlock.tsx 渲染;如果你关闭卡片而不回答,引擎会收到一条明确的取消协议文本(如 <a href="https://link.gitcode.com/i/5d31c40cd87e981115f5d9296f256c27" target="_blank">User declined to provide the credentials],定义于 [chat-hitl.ts),AI 能区分"你拒绝了"和"你没回答"。

密钥安全:永远不要在聊天里粘贴机密

Rerun 对凭证的处理有一条"秘密保证":

  • AI 从不在聊天里要 API Key——它会打开一个掩码表单(request_secret),你输入的值直接写入该同事本机的 variables,模型只能看到"哪个变量名被填了",永远看不到值本身;
  • 之后它用 ${VARIABLE_NAME} 占位符在配置或命令中引用,值在运行时才在你的机器上被解析;
  • 官方文档特别警告:绝不要把机密粘贴进聊天——对话会被存储并发送给模型。"向你索要粘贴密钥的同事是在做错事"。

这套设计意味着即使聊天记录泄露,你的密钥也不会出现在其中。

不在场时,审批也不会被跳过

HITL 最容易被质疑的一点是:凌晨 3 点的定时任务谁来批准?Rerun 的答案是——谁也不用跳过它:

  • 由定时任务或 webhook 发起的运行与聊天运行一样:调用 request_approval 时运行暂停、通知发出、你何时作答它何时从答案处恢复,"不会因为没人盯着就跳过";
  • 系统提示词里专门有一段 unattendedRunNote,明确告诉 AI:"不要因为运行是自动发起的、此刻没人在线,就跳过审批或绕过提问";
  • 通知支持应用内 + 邮件双通道,可按类型、按"你亲自发起 / 自动触发"分别配置。官方建议:自动运行的审批设成邮件、你的日常对话留在应用内,"这样凌晨 3 点的审批才能真正找到你";
  • 邮件还有防轰炸护栏:故障类通知 15 分钟内每来源最多 3 封,之后折叠为每小时一封摘要。

所有等待你处理的事项会集中到该同事的 To handle 标签页和工作区通知面板(WorkspaceInbox.tsx),一目了然。

Rerun 夜间自动运行的 AI 同事在起草晨报,审批等待可跨时间投递

小结:HITL 是 Rerun 的信任基石

维度 Rerun 的做法
何时停 有后果/不可逆动作前必须停(发信、付款、删除、大数据量付费调用)
怎么问 卡片一次问全(批量化),选项是按钮,永远可以改为自由输入
怎么答 逐条批准/拒绝,拒绝项被硬性禁止执行或变通
密钥 掩码表单直写本机变量,模型只见变量名不见值
人不在时 运行挂起等待,通知走邮件,绝不因无人在线而绕过审批

正是这套机制,让 Rerun 的 AI 同事既能大胆干活,又始终把你握有最终决定权——这大概也是"AI 同事"区别于"AI 脚本"的关键所在。

延伸阅读

登录后查看全文
rerun