AI也能自我修改!Quoroom自我修改机制:技能编辑、审计追踪与一键回滚
AI也能自我修改!Quoroom自我修改机制:技能编辑、审计追踪与一键回滚
Quoroom 是一款开源的 AI 蜂群智能引擎(swarm intelligence engine),其中最让人惊喜的设计是它的自我修改机制(self-modification):AI 不仅能执行任务,还能在安全边界内编辑自己的技能,每次修改都会留下审计追踪记录,并且支持一键回滚到修改前的状态。本文将带你完整看懂这套"AI 自我进化"的机制是如何实现的。
Quoroom 是什么:一群能自我进化的 AI
在单 Agent 时代,AI 只会"照章办事";而 Quoroom 探索的是自治 AI 集体(self-governing AI collectives):
- 👑 Queen(女王)——战略大脑,负责任务规划与调度
- 🐝 Workers(工人)——专职执行 Agent,各自继承或独立配置模型
- 🗳️ Quorum(法定人数)——集体讨论并投票决策
- 🧑 Keeper(守护者)——即人类,负责设定目标和资源
整个系统通过 MCP(Model Context Protocol) 运行在你自己的电脑上,兼容 Claude Code、Codex 或按量计费的 API。
而"自我修改"正是这套集体智能的进化引擎——AI 会在学习中新建技能、优化技能,让整个蜂群越用越强。
自我修改是如何运作的:技能编辑与安全闸门
Quoroom 通过 MCP 工具 quoroom_self_mod_edit 让 AI 发起自我修改。它的工作流程可以概括为三步:
请求修改 → 安全审查 → 落盘审计
当某个 Worker 需要编辑一个技能(Skill)时,系统会先做两道"安全闸门"检查,任何一道不过关,修改都会被直接拒绝:
第一道闸门:修改速率限制
每个 Worker 发起自我修改之间必须间隔 60 秒。这就像给 AI 装了个"冷静期",防止某个失控的 Agent 以极快的速度反复改写自己的行为,把系统搞乱。
第二道闸门:禁改路径黑名单
系统内置了一组"绝对不可触碰"的路径模式,AI 的修改请求一旦命中以下关键词就会被拦截:
| 禁改模式 | 保护目标 |
|---|---|
private key |
钱包私钥 |
wallet ... encrypted |
加密钱包文件 |
credential value |
凭据值 |
.env |
环境变量配置 |
self-mod.ts |
自我修改机制自身的源码 |
最后一项尤其巧妙:AI 连"管住自己"的那套代码都改不了。这从源头上避免了自我修改机制被 AI 绕过或"越狱"。
安全检查通过后,如果是技能内容编辑,系统会:
- 计算修改前后的内容哈希(oldHash / newHash)
- 把旧内容完整存入快照(self_mod_snapshots 表)
- 更新技能内容并自动递增版本号
- 写入一条审计记录,并向房间广播
self_mod:edited事件
核心逻辑就在 self-mod.ts 的 canModify 与 performModification 两个函数中,MCP 工具入口在 self-mod.ts。
审计追踪:AI 的每一步修改都"有案可查"
"可回滚"的前提是"有记录"。Quoroom 用两张数据库表构建了完整的审计链(表结构定义见 schema.ts):
📋 self_mod_audit —— 修改审计表
记录每一次自我修改的关键信息:
- 谁改的(worker_id)
- 改了什么(file_path、old_hash → new_hash)
- 为什么改(reason,AI 必须给出修改理由)
- 是否可回滚(reversible)、是否已回滚(reverted)
📸 self_mod_snapshots —— 内容快照表
保存修改前后的完整内容(old_content / new_content),这是"真回滚"而非仅"标记回滚"的关键。
你可以通过三种方式查看这份审计历史:
- MCP 工具:
quoroom_self_mod_history,直接让 AI 汇报"我改过什么" - HTTP API:
GET /api/self-mod/audit?roomId=...,实现位于 routes/self-mod.ts - Web 控制台:实时事件流中会出现 "Skill rewritten"(技能被改写)和 "Mod reverted"(修改已回滚)这样的动态,由 useSwarmEvents.ts 捕获并在 Swarm 面板中高亮展示
一键回滚:改坏了?恢复原样只需一步
如果某次"自我优化"效果不佳,Quoroom 提供了真正的一键回滚能力:
- MCP 工具:调用
quoroom_self_mod_revert并传入审计记录 ID - HTTP API:
POST /api/self-mod/audit/:id/revert - 前端客户端:client.ts 中的
selfMod.revert(id)方法
回滚逻辑在 self-mod.ts 的 revertModification 函数中。它在一个数据库事务内完成:
- 校验该审计记录存在、可回滚且未被回滚过
- 若修改对象是技能,从快照中取出
oldContent完整还原技能内容,并再次递增版本号 - 将审计记录标记为
reverted = 1,同时广播self_mod:reverted事件
换句话说:AI 改技能 → 版本 v1 变 v2 → 回滚 → 内容恢复 v1 且版本号变 v3。整个历史链清晰可追溯,永远不会丢失任何一版内容。
质量保障:测试覆盖每一道防线
这套机制的安全性不是"说说而已",项目内置了完整的测试套件 self-mod.test.ts,覆盖了所有关键场景:
| 测试场景 | 验证目标 |
|---|---|
| 拦截私钥/钱包/.env/self-mod.ts 路径 | 禁改黑名单生效 |
| 60 秒内连续修改被拒绝 | 速率限制生效 |
| 审计条目正确创建 | 每次修改留痕 |
| 修改同步写入房间活动日志 | 全房间可见 |
| 快照内容还原技能旧版本 | 真回滚生效 |
| 历史查询返回完整记录 | 审计链完整 |
源码速查:想深入阅读从哪里开始?
如果你想在源码层面理解整套机制,建议按以下路径阅读:
- 核心安全与回滚逻辑:src/shared/self-mod.ts
- 技能创建与版本管理:src/shared/skills.ts
- MCP 工具定义(AI 直接调用层):src/mcp/tools/self-mod.ts
- 技能编辑工具:src/mcp/tools/skills.ts
- HTTP 审计与回滚路由:src/server/routes/self-mod.ts
- 数据表结构:src/shared/schema.ts
- 数据库读写层:src/shared/db-queries.ts
- 前端实时事件:src/ui/lib/room-events.ts
总结
Quoroom 的自我修改机制回答了自治 AI 时代的一个关键问题:如何让 AI 安全地改变自己的行为?
答案可以用三个关键词概括:
- 技能编辑——AI 通过 MCP 工具创建和优化自己的技能,带版本号管理
- 审计追踪——每次修改都记录"谁、什么、为什么",并保留完整内容快照
- 一键回滚——基于快照的真回滚,配合速率限制与禁改黑名单,把风险牢牢锁在边界内
"会进化,但进化的每一步都在人类可审查的轨道上"——这正是 Quoroom 作为开源蜂群智能引擎,在设计自治 AI 时给出的平衡之道。


