AI Agent 治理实战:基于 Agent Governance Toolkit 的原生策略、信任与多 Agent 安全

原创2026-09-18 15:40:401,747 阅读
文章标签:人工智能AI 安全治理可信 AI策略引擎认证鉴权身份认证Agent 沙箱零信任可观测性安全治理

AI Agent 治理实战:基于 Agent Governance Toolkit 的原生策略、信任与多 Agent 安全

导读

本文基于 Agent Governance Toolkit 仓库中的 docs/workshop/slides.md 幻灯片,系统讲解 AI Agent 治理的核心四要素——原生策略(Native ACS Policy)、宿主控制(Host Controls)、身份与信任(Identity & Trust)、审计与可靠性,并配合仓库内两个可动手运行的实验(Lab 1 原生策略评估、Lab 2 多 Agent 信任)给出完整实操路径。读完本文,你将掌握:如何用 ACS Manifest + Rego 声明式定义干预点策略、如何在工具调用发生副作用之前完成策略评估、如何用 AgentMesh 建立跨 Agent 的信任握手与吊销机制,以及一套可直接落地的生产清单。


为什么需要治理:三个前提

幻灯片开篇先回答了"为什么治理"这一根本问题,仓库给出了三条关键论断:

  1. Agent 的动作会产生外部副作用。一次 delete_file、一次数据库写入,影响的都不只是 Agent 自身,而是真实系统。
  2. 提示词指令不是授权边界。模型输出中的指令可以被注入、被操纵,把安全寄托在提示词上等同于没有安全。
  3. 策略、身份、隔离、审计、可靠性解决的是不同问题。它们各自独立,不能互相替代——这正是后文把"原生策略"和"宿主控制/AgentMesh"分开讲解的原因。

这三条论断对应仓库中多个模块的分工:策略由 ACS(Agent Control Specification)原生层负责,身份信任由 AgentMesh 负责,沙箱隔离与生命周期则由 Agent OS 等宿主层负责。治理的正确姿势是"各司其职"而非"一个模块包打天下"。


原生 ACS 策略:一个 Manifest 声明一切

幻灯片强调,ACS Manifest 是整个策略体系的声明式入口。一份 Manifest 需要声明:

  • 策略引擎与策略包(policy engines and bundles):指定使用哪种引擎(如 Rego)以及加载哪个 bundle;
  • 干预点绑定(intervention-point bindings):声明在 Agent 生命周期的哪个环节做拦截(输入、工具调用、输出等);
  • 工具目录(tool catalogs):声明 Agent 可用的工具清单;
  • 变换与证据(transforms and evidence):声明对输入的变换处理与留痕;
  • 审批(approval):声明哪些高风险动作需要人工审批;
  • 限制(limits):声明令牌预算、频率等资源上限。

仓库中的 Lab 1 清单 给出了一个最小可运行的示例:

agent_control_specification_version: 0.4.0-alpha.1
metadata:
  name: workshop-lab1
  version: "1.0"
extends: []
policies:
  workshop:
    type: rego
    bundle: .
    query: data.agt.workshop.lab1.result
intervention_points:
  input:
    policy_target: $.input.body
    policy:
      id: workshop

要点解读:

  • policies.workshop.type: rego 声明使用 Rego 引擎,bundle: . 表示从当前目录加载策略包,query: data.agt.workshop.lab1.result 指定查询入口(对应 Rego 中的 package agt.workshop.lab1 与 result 规则);
  • intervention_points.input 把 input 干预点 绑定到 $.input.body 这个 JSON 路径,并将该干预点关联到 workshop 策略;
  • 清单拥有策略绑定关系——这是幻灯片强调的架构原则:策略与干预点的绑定属于声明层,而不是散落在代码里。

完整的 ACS 规范可进一步阅读 Agent Control Specification 教程。

配套的 Rego 策略

与 Manifest 配套的 lab1-policy.rego 实现了三条 deny 条件,展示了典型的"白名单式"拒绝逻辑:

package agt.workshop.lab1

import rego.v1

result := {
    "decision": "deny",
    "reason": "code_execution_blocked",
} if {
    input.policy_target.value.tool_name == "execute_code"
} else := {
    "decision": "deny",
    "reason": "write_operation_blocked",
} if {
    startswith(input.policy_target.value.tool_name, "write_")
} else := {
    "decision": "deny",
    "reason": "token_budget_exceeded",
} if {
    input.policy_target.value.token_count > 2000
} else := {
    "decision": "allow",
    "reason": "safe",
}

三条拒绝规则分别是:禁止代码执行(execute_code)、禁止写类操作(任何以 write_ 开头的工具)、超出令牌预算(token_count > 2000)。注意 Rego 的 if/else 链式结构是确定性求值的——这与仓库 ADR(如 0004-keep-policy-evaluation-deterministic.md)中"策略求值必须确定性"的原则一致。


运行时模型:从 Manifest 到 HostSession

幻灯片给出了核心的运行时初始化代码:

from agent_control_specification import AgentControl, HostSession

runtime = AgentControl.from_path("policies/manifest.yaml")
session = HostSession(
    runtime,
    agent_id="agent-1",
    session_id="session-1",
)

在仓库的 Lab 1 脚本 中可以看到它的真实用法:AgentControl.from_path() 负责解析 Manifest 并构建运行时,HostSession 以 (runtime, agent_id, session_id) 三元组创建会话。会话(HostSession)持有计数器等会话级状态——例如令牌预算的累计消耗,这正是 Lab Guide 讨论题"为什么 HostSession 拥有计数器"的答案:策略是无状态的规则集,而计数是会话内跨多次调用的有状态量,必须由会话对象承载。

Lab 1 脚本随后向会话喂入一组"工具形状的输入":

SCENARIOS = (
    ("read_customer_data", 100),
    ("execute_code", 50),
    ("write_database", 200),
    ("read_reports", 3000),
    ("read_inventory", 150),
)

for tool_name, token_count in SCENARIOS:
    evaluation = session.input(
        body={"tool_name": tool_name, "token_count": token_count}
    )
    print(f"{evaluation.verdict:5} {tool_name:20} tokens={token_count:<4} {evaluation.verdict.reason}")

预期结果:execute_code(代码执行被拒)、write_database(写操作被拒)、read_reports(3000 令牌超预算被拒)均返回 deny,其余返回 allow。这里的关键点是工具调用被表示为干预点的输入,而不是内联的规则对象——幻灯片与 Facilitator Notes 都特意强调了这个设计意图,它让策略求值路径与 Agent 实际执行路径完全解耦。


工具调解(Tool Mediation):副作用发生之前先求值

幻灯片给出了工具调解的核心调用:

evaluation = session.pre_tool_call(
    tool_name="delete_file",
    args={"path": "report.txt"},
)

关键原则:在任何副作用发生之前,必须先完成预干预求值(pre-intervention evaluation)。 也就是说,delete_file 这样的破坏性工具只有在策略返回 allow 之后才能被真正执行;若返回 deny,则调用被阻断,文件系统不会产生任何变更。这是"提示词不是授权边界"论断的直接落地——即便模型"决定"要删除文件,宿主层的策略拦截仍会把关。

这种"先求值、后执行"的模式与仓库中 Claude Code / OpenCode 等适配器的 hook 机制同源:例如 agent-governance-claude-code/hooks/pre-tool-use.mjs 就是在工具使用前的 hook 点执行策略检查,实现思路一脉相承。


结果契约(Result Contract):PolicyEvaluation 携带什么

每一次求值返回的 PolicyEvaluation 对象是一份结构化的"决策账单",幻灯片明确列出了它携带的内容:

  • verdict 与 reason code:裁决结果(allow/deny)与机器可读的原因码;
  • transform 与 evidence:经过变换后的输入与证据留痕;
  • input 与 enforced identities:原始输入与生效的身份信息;
  • approval metadata:审批元数据(该决策是否需要/已经过人工审批);
  • restricted audit payload:受限的审计负载——注意是"受限"的,意味着审计数据默认不向外部暴露全部细节。

这份契约与仓库中"可重构决策 BOM"(见 ADR-0018)的理念一致:每次决策都应携带足够的可审计信息,以便事后重建"为什么放行/为什么拒绝"的完整链路。


Lab 1 实操:跑通你的第一个原生策略

根据 Lab Guide,Lab 1 的目标是"运行原生 Manifest,观察工具形状输入上的 allow/deny 裁决"。操作步骤:

  1. 阅读 Manifest:在 lab1-manifest.yaml 中找到 input 干预点的绑定关系;

  2. 阅读 Rego 策略:在 lab1-policy.rego 中识别三条 deny 条件;

  3. 运行脚本:

    python docs/workshop/labs/lab1_first_policy.py
    
  4. 确认结果:execute_code、write_database 和超预算的 read_reports 均被拒绝;

  5. 动手扩展:向 lab1-policy.rego 添加一条新的 deny 条件,重新运行脚本,并向他人解释策略读取的是输入中的哪个字段(例如可以尝试新增 token_count < 50 的"过小请求"拒绝规则,或对 read_ 前缀工具施加权限限制)。

讨论题(来自 Lab Guide):

  • 为什么策略绑定关系由 Manifest 拥有,而不是写在代码里?——因为声明式配置让策略变更不需要改动运行时代码,且便于审计和重放;
  • 为什么 HostSession 拥有计数器?——计数器是有状态的会话数据,不属于无状态的规则集;
  • 如果策略分发器或 OPA 进程失败会发生什么?——这正是下一节"Fail Closed"要回答的问题。

运行环境准备

根据 prerequisites.md,实验环境需要 Python 3.10+,并安装依赖:

python -m venv agt-workshop
source agt-workshop/bin/activate          # macOS / Linux
# agt-workshop\Scripts\activate           # Windows PowerShell
pip install agent-governance-toolkit[full]

安装后可用以下命令自检三个核心依赖是否可用:

python -c "from agent_control_specification import validate_manifest; print('native policy API OK')"
python -c "from agentmesh import AgentIdentity; print('agentmesh-platform OK')"
python -c "import agent_governance; print('agent-governance-toolkit OK')"

Facilitator Notes 还提示了 Lab 1 常见的三个坑:OPA 不在 PATH 上、原生 ACS 包未安装、修改了 Manifest 的 bundle 路径却没有同步移动 Rego 文件。


宿主控制(Host Controls):策略评估不能替代的东西

幻灯片明确提醒:策略评估不替代以下宿主层控制:

  • 沙箱资源与网络控制(sandbox resource and network controls):策略管"能不能做",沙箱管"在什么资源边界内做";
  • 框架生命周期排序(framework lifecycle ordering):Agent 启动、运行、关闭的顺序约束;
  • 熔断器与 SLO(circuit breakers and SLOs):防止级联故障的服务可靠性机制;
  • 身份与信任(identity and trust):确认"对方是谁"的机制。

这一分工在 Lab Guide 的 Wrap-up 表格 中被总结为一张"控制面归属"表:

控制项 归属方
策略定义与干预点 原生 ACS Manifest
会话计数器 HostSession
Agent 身份与信任 AgentMesh
框架生命周期排序 Agent OS 适配器
资源与网络隔离 SandboxConfig

理解这张表是理解整个治理架构的关键:策略(ACS)决定"当前这个动作是否被允许",信任(AgentMesh)决定"对方是谁、我们是什么关系",沙箱(SandboxConfig)决定"它在什么环境里运行",三者互相独立、又互相补充。


AgentMesh:身份、信任与跨 Agent 传输

幻灯片指出 AgentMesh 负责四个领域:

  • 密码学身份(cryptographic identity):每个 Agent 拥有基于 DID(Decentralized Identifier)的身份;
  • 信任与声誉(trust and reputation):通过行为事件累积信任评分;
  • 能力授权(capability grants):声明 Agent 拥有哪些能力(capability);
  • 跨 Agent 传输(cross-agent transport):Agent 之间的安全通信通道。

在仓库中,AgentMesh 有 Python、Rust、TypeScript 等多语言实现(如 agent-governance-python/agent-mesh、agent-governance-rust),并通过 Trust Handshake 协议 等 ADR 持续演进。


Lab 2 实操:多 Agent 信任的完整生命周期

Lab 2 的目标是:创建两个 AgentMesh 身份 → 尝试信任握手(预期失败)→ 通过正向行为累积信任 → 吊销凭据并验证拒绝。Lab 2 脚本 以 TODO 填空的形式提供了完整骨架,核心 API 如下:

from agentmesh import AgentIdentity, RiskScorer
from agentmesh.trust import TrustHandshake

四个步骤对应脚本中的四个函数:

  1. create_agents():创建 orchestrator(能力 ["orchestrate:agents", "read:data"],sponsor 为 alice)与 worker(能力 ["read:data", "write:reports"],sponsor 为 bob)两个 AgentIdentity;
  2. attempt_handshake(initiator, responder, min_trust_score):用 TrustHandshake(initiator=..., responder_did=..., required_capabilities=["read:data"], min_trust_score=...) 执行握手。第一次握手应失败——初始信任评分(500)低于 700 的阈值;
  3. build_trust(agent, num_events=10):用 RiskScorer.record_event() 记录 10 次 policy_compliant_action 正向事件,然后 get_score() 读取更新后的评分。之后以阈值 540 重试握手应当成功;
  4. revoke_and_verify():吊销发起方凭据后再次握手,确认失败且 reason 为凭据已吊销。

运行方式:

python docs/workshop/labs/lab2_multi_agent_trust.py

Facilitator Notes 强调的核心概念:AgentMesh 信任不是策略评估。信任回答"对方是谁、我们之间是什么关系",ACS 回答"当前动作在绑定策略下是否被允许"。两者必须保持分离——这是 Lab Guide 讨论题"为什么策略评估与身份验证必须分离"的答案。常见坑有三个:忘记记录声誉事件、信任阈值仍高于更新后的评分、成功握手后没有测试吊销。


Fail Closed:一切不确定都默认拒绝

幻灯片用四条规则定义了失败关闭(Fail Closed)语义:

  • 未知工具可以被 Manifest 契约拒绝:不在工具目录内的工具按拒绝处理;
  • 运行时错误与审批错误拒绝:策略引擎或 OPA 进程失败、审批流程异常时,默认 deny 而不是放行;
  • 动作-身份不匹配拒绝:发起动作的身份与绑定策略中的预期身份不一致时拒绝;
  • 公开错误信息保持脱敏:返回给调用方的错误是清洗过的,不泄露内部细节。

这与仓库 ADR 0013-fail-closed-on-policy-evaluation-errors.md 的原则完全一致:策略求值出错时宁可拒绝,绝不静默放行。回看 Lab 1 的讨论题"如果 OPA 进程失败会发生什么",答案就是:按 Fail Closed 语义,所有调用被拒绝,而非降级为放行。


生产检查清单:从实验到上线

幻灯片在结尾给出了从实验走向生产环境的检查清单:

  • Lint 并重放 Manifest(Lint and replay manifests):对 Manifest 做静态检查,并重放历史决策验证策略变更影响;
  • 测试每一条被调解的框架路径:所有接入治理的框架集成路径都要有测试覆盖;
  • 测试沙箱隔离:验证资源与网络隔离真实生效;
  • 测试审批与运行时失败:验证 Fail Closed 路径在审批异常、引擎故障时确实拒绝;
  • 限制审计访问:审计日志按最小权限原则管理,即结果契约中"restricted audit payload"的落地;
  • 监控 SLO 与事件信号:对治理自身的性能(如 ADR-0003 要求的 200ms 握手预算)与故障信号进行持续监控。

这些条目与仓库的 TESTING_GUIDE.md、ERROR_HANDLING.md 等工程实践文档相互呼应,构成一套可执行的工程质量标准。


后续学习路径

幻灯片最后指向了四份进阶资料,均已转换为仓库根目录相对路径:

此外,整个工作坊还提供了 Facilitator Notes(分段时间、常见问题与答疑要点)和 Prerequisites(参与者的环境自检清单),Workshop 主页 汇总了 90 分钟议程(20 分钟概念 + 25 分钟 Lab 1 + 15 分钟信任概念 + 25 分钟 Lab 2 + 5 分钟总结)。若你对身份与信任主题更感兴趣,可继续阅读 信任与身份教程 与 审计与合规教程。


总结

回顾整份幻灯片,AI Agent 治理的本质可以浓缩为一句话:把"模型想做什么"从"系统允许做什么"中彻底分离出来,并在两者之间建立不可绕过的强制检查点。原生 ACS 策略用声明式 Manifest 定义干预点与规则集,HostSession 承载有状态的会话计数,pre_tool_call 确保任何副作用发生前先完成求值,PolicyEvaluation 以结构化契约沉淀每次决策的证据;而身份与信任交给 AgentMesh,沙箱与生命周期交给宿主层,所有不确定路径一律 Fail Closed。将本文两份实验与生产检查清单落地,你就拥有了一个可解释、可审计、可扩展的 Agent 治理基线。

登录后查看全文
agent-governance-toolkit