为什么arc_pi_taxonomy要映射OWASP LLM Top 10与MITRE ATLAS?提示注入攻击名称与NIST、garak标准对照全解析

原创2026-10-26 20:43:041,435 阅读

为什么arc_pi_taxonomy要映射OWASP LLM Top 10与MITRE ATLAS?提示注入攻击名称与NIST、garak标准对照全解析

arc_pi_taxonomy(Arcanum Prompt Injection Taxonomy,Arcanum 提示注入分类体系)是一个开源的、可交互的提示注入与 LLM 攻击分类项目,收录了 172 个攻击节点。它的核心亮点之一是:每个攻击条目都带有可引用的编号(如 PIT-I-01),并列出 OWASP LLM Top 10、MITRE ATLAS、NIST、garak 等其他框架对同一攻击的不同命名。本文带你理解这种跨标准映射为什么重要,以及如何用它快速定位攻击。

arc_pi_taxonomy 提示注入分类体系 Banner,展示 AI 红队与渗透测试攻击分类系统

一、arc_pi_taxonomy 是什么?🧩

简单来说,它是一份"提示注入攻击字典",把 AI 安全领域散落在各论文、各厂商报告里的攻击方式,整理成了统一结构。

项目由四大支柱组成,共 172 个节点:

支柱 编号前缀 回答的问题 数量
Intents(意图) PIT-I-NN 攻击者想达成什么? 27
Techniques(技术) PIT-T-NN 用什么手法操纵模型? 70
Evasions(规避) PIT-E-NN 如何绕过过滤? 63
Inputs(输入) PIT-N-NN 攻击载荷从哪进入? 12

每个节点除了编号,还包含 code、title、description、aliases(别名映射)、ideas(攻击思路)和 examples(示例提示词)等字段,全部以纯 JSON 形式存放在 docs/data/taxonomy.json 中,可直接被任何语言或 LLM 消费。

二、为什么要映射 OWASP LLM Top 10?🛡️

OWASP Top 10 for LLM Applications(2025 版)是目前企业 AI 安全审计中最常被引用的风险清单,比如:

  • LLM01 — Prompt Injection(提示注入)
  • LLM02 — Sensitive Information Disclosure(敏感信息泄露)
  • LLM06 — Excessive Agency(过度代理)
  • LLM07 — System Prompt Leakage(系统提示词泄露)
  • LLM10 — Unbounded Consumption(无限制资源消耗)

但 OWASP 给的是"风险类别",粒度很粗。arc_pi_taxonomy 做的事,就是把粗粒度的风险类别,拆成一条条可落地的具体攻击。项目数据中共引用了 20 多条 OWASP 命名,例如:

arc_pi_taxonomy 节点 对应 OWASP 风险项
PIT-I-16 System Prompt Leak LLM07:2025 System Prompt Leakage
PIT-I-13 Get Prompt Secret LLM02:2025 Sensitive Information Disclosure
PIT-I-20 Unauthorized Action Execution LLM06:2025 Excessive Agency
PIT-N-01 API Request LLM01:2025 直接注入面
PIT-T-09 Gradient-Based Attacks LLM01:2025 Adversarial Suffix

价值:写审计报告时,你可以说"发现攻击者利用 PIT-I-16(系统提示词泄露)",同时自动对上 OWASP LLM07,让管理层和合规团队都能看懂风险等级。

三、为什么还要映射 MITRE ATLAS?🎯

MITRE ATLAS 是面向 AI 系统攻防的知识库,采用"战术-技术(TTP)"框架,每个技术有独立编号(如 AML.T0051)。如果说 OWASP 回答"有什么风险",ATLAS 回答的是"攻击者怎么做"。

两者互补,映射关系示例:

攻击场景 arc_pi_taxonomy MITRE ATLAS 编号
直接提示注入 PIT-N-01 AML.T0051.000
间接提示注入 PIT-N-06 AML.T0051.001
提示词提取 PIT-I-16 AML.T0056 Prompt Extraction
LLM 数据泄露 PIT-I-19 AML.T0057 LLM Data Leakage
对抗数据构造 PIT-T-09 AML.T0043 Craft Adversarial Data
模型信息提取 PIT-I-23 AML.T0024(推理 API 外泄)

项目数据中引用了约 24 个 ATLAS 技术编号(AML.T0024 ~ AML.T0084),覆盖信息侦察、数据中毒、推理 API 滥用、代理工具调用等完整攻击链。

四、与 NIST、garak 标准的对照 🔍

除了 OWASP 和 ATLAS,别名列表中还覆盖了 NIST AI 100-2e2025 系列标准和 NVIDIA garak(开源 LLM 漏洞扫描器)的探针命名:

NIST 对照(约 12 条引用),例如:

arc_pi_taxonomy 节点 NIST 对应
PIT-I-13 Get Prompt Secret NISTAML.038 Information/Data Extraction
PIT-I-16 System Prompt Leak NISTAML.035 Prompt Extraction
PIT-E-07 Base64 编码 NIST 注入隐藏(Injection hiding)
PIT-T-09 Gradient-Based Attacks NIST 优化类攻击(Optimization-based)
PIT-I-23 Model & Data Privacy Extraction NISTAML.031-034 模型提取/成员推断

garak 对照(约 21 条引用),garak 是实际跑扫描时用的工具名,例如:

  • PIT-I-14 Jailbreak ↔ garak dan(Do Anything Now 探针)
  • PIT-I-16 System Prompt Leak ↔ garak sysprompt_extraction
  • PIT-N-06 Indirect Input ↔ garak latentinjection
  • PIT-E-07 Base64 ↔ garak encoding 探针
  • PIT-I-21 Generate Malicious Artifacts ↔ garak malwaregen

一句话总结三者的分工:OWASP 管"风险定级"、ATLAS 管"攻击链建模"、NIST 管"合规标准"、garak 管"实际扫描工具"。arc_pi_taxonomy 用一个 aliases 字段把它们全部串了起来。

五、实战价值:跨框架检索是怎么运作的 💡

以 PIT-I-23(Model & Data Privacy Extraction)为例,一个节点同时挂上了 4 个框架的命名:

{
  "code": "PIT-I-23",
  "title": "Model & Data Privacy Extraction",
  "aliases": [
    "Sensitive Info Disclosure: training-data branch (OWASP LLM02:2025)",
    "Unbounded Consumption / Model Theft (OWASP LLM10:2025)",
    "Exfiltration via AI Inference API (MITRE ATLAS AML.T0024)",
    "Model Extraction / Membership Inference (NIST NISTAML.031-034, .038)",
    "divergence + leakreplay (garak)"
  ]
}

这意味着:

  1. 反向检索——你在报告中看到 "AML.T0024" 或 "NISTAML.038",可以直接在分类体系中搜到对应节点,获得攻击思路(ideas)和可复现的示例提示词;
  2. 统一引用——红队报告用 PIT-I-23 这样的稳定编号,评审方自动能映射到各自熟悉的框架;
  3. 覆盖度检查——对照 OWASP Top 10 逐项核查,能快速发现测试中遗漏的风险面。

所有映射数据都可从 docs/data/taxonomy.json 程序化读取(aliases 字段),Web 应用端由 docs/data/taxonomy.js 加载,前端搜索逻辑见 docs/app.js 与 docs/index.html。

六、如何上手使用 📦

  1. 直接浏览:clone 仓库后用浏览器打开 docs/index.html,即可使用完整的可交互分类站点(搜索、四支柱过滤、direct/indirect 投递标签、LOCAL 白盒标记);
  2. 程序化使用:解析 docs/data/taxonomy.json,按 code / aliases 建索引,即可嵌入自己的审计工具或 LLM 工作流;
  3. 了解演进:v1.6 版本从 107 个节点扩展到 171 个,并正式引入"别名映射"功能,详见 CHANGELOG.md;项目背景与贡献方式见 README.md。

📌 小结:arc_pi_taxonomy 的价值不在于又造了一套新标准,而在于做了一件事——把 OWASP LLM Top 10、MITRE ATLAS、NIST、garak 这些各说各话的框架,翻译成了同一套 172 个可检索、可引用的攻击节点。对新手来说,它是从"听说过这些名词"到"能动手做 AI 红队测试"的最短路径。

登录后查看全文
arc_pi_taxonomy