为什么arc_pi_taxonomy要映射OWASP LLM Top 10与MITRE ATLAS?提示注入攻击名称与NIST、garak标准对照全解析
为什么arc_pi_taxonomy要映射OWASP LLM Top 10与MITRE ATLAS?提示注入攻击名称与NIST、garak标准对照全解析
arc_pi_taxonomy(Arcanum Prompt Injection Taxonomy,Arcanum 提示注入分类体系)是一个开源的、可交互的提示注入与 LLM 攻击分类项目,收录了 172 个攻击节点。它的核心亮点之一是:每个攻击条目都带有可引用的编号(如 PIT-I-01),并列出 OWASP LLM Top 10、MITRE ATLAS、NIST、garak 等其他框架对同一攻击的不同命名。本文带你理解这种跨标准映射为什么重要,以及如何用它快速定位攻击。
一、arc_pi_taxonomy 是什么?🧩
简单来说,它是一份"提示注入攻击字典",把 AI 安全领域散落在各论文、各厂商报告里的攻击方式,整理成了统一结构。
项目由四大支柱组成,共 172 个节点:
| 支柱 | 编号前缀 | 回答的问题 | 数量 |
|---|---|---|---|
| Intents(意图) | PIT-I-NN |
攻击者想达成什么? | 27 |
| Techniques(技术) | PIT-T-NN |
用什么手法操纵模型? | 70 |
| Evasions(规避) | PIT-E-NN |
如何绕过过滤? | 63 |
| Inputs(输入) | PIT-N-NN |
攻击载荷从哪进入? | 12 |
每个节点除了编号,还包含 code、title、description、aliases(别名映射)、ideas(攻击思路)和 examples(示例提示词)等字段,全部以纯 JSON 形式存放在 docs/data/taxonomy.json 中,可直接被任何语言或 LLM 消费。
二、为什么要映射 OWASP LLM Top 10?🛡️
OWASP Top 10 for LLM Applications(2025 版)是目前企业 AI 安全审计中最常被引用的风险清单,比如:
- LLM01 — Prompt Injection(提示注入)
- LLM02 — Sensitive Information Disclosure(敏感信息泄露)
- LLM06 — Excessive Agency(过度代理)
- LLM07 — System Prompt Leakage(系统提示词泄露)
- LLM10 — Unbounded Consumption(无限制资源消耗)
但 OWASP 给的是"风险类别",粒度很粗。arc_pi_taxonomy 做的事,就是把粗粒度的风险类别,拆成一条条可落地的具体攻击。项目数据中共引用了 20 多条 OWASP 命名,例如:
| arc_pi_taxonomy 节点 | 对应 OWASP 风险项 |
|---|---|
PIT-I-16 System Prompt Leak |
LLM07:2025 System Prompt Leakage |
PIT-I-13 Get Prompt Secret |
LLM02:2025 Sensitive Information Disclosure |
PIT-I-20 Unauthorized Action Execution |
LLM06:2025 Excessive Agency |
PIT-N-01 API Request |
LLM01:2025 直接注入面 |
PIT-T-09 Gradient-Based Attacks |
LLM01:2025 Adversarial Suffix |
价值:写审计报告时,你可以说"发现攻击者利用 PIT-I-16(系统提示词泄露)",同时自动对上 OWASP LLM07,让管理层和合规团队都能看懂风险等级。
三、为什么还要映射 MITRE ATLAS?🎯
MITRE ATLAS 是面向 AI 系统攻防的知识库,采用"战术-技术(TTP)"框架,每个技术有独立编号(如 AML.T0051)。如果说 OWASP 回答"有什么风险",ATLAS 回答的是"攻击者怎么做"。
两者互补,映射关系示例:
| 攻击场景 | arc_pi_taxonomy | MITRE ATLAS 编号 |
|---|---|---|
| 直接提示注入 | PIT-N-01 |
AML.T0051.000 |
| 间接提示注入 | PIT-N-06 |
AML.T0051.001 |
| 提示词提取 | PIT-I-16 |
AML.T0056 Prompt Extraction |
| LLM 数据泄露 | PIT-I-19 |
AML.T0057 LLM Data Leakage |
| 对抗数据构造 | PIT-T-09 |
AML.T0043 Craft Adversarial Data |
| 模型信息提取 | PIT-I-23 |
AML.T0024(推理 API 外泄) |
项目数据中引用了约 24 个 ATLAS 技术编号(AML.T0024 ~ AML.T0084),覆盖信息侦察、数据中毒、推理 API 滥用、代理工具调用等完整攻击链。
四、与 NIST、garak 标准的对照 🔍
除了 OWASP 和 ATLAS,别名列表中还覆盖了 NIST AI 100-2e2025 系列标准和 NVIDIA garak(开源 LLM 漏洞扫描器)的探针命名:
NIST 对照(约 12 条引用),例如:
| arc_pi_taxonomy 节点 | NIST 对应 |
|---|---|
PIT-I-13 Get Prompt Secret |
NISTAML.038 Information/Data Extraction |
PIT-I-16 System Prompt Leak |
NISTAML.035 Prompt Extraction |
PIT-E-07 Base64 编码 |
NIST 注入隐藏(Injection hiding) |
PIT-T-09 Gradient-Based Attacks |
NIST 优化类攻击(Optimization-based) |
PIT-I-23 Model & Data Privacy Extraction |
NISTAML.031-034 模型提取/成员推断 |
garak 对照(约 21 条引用),garak 是实际跑扫描时用的工具名,例如:
PIT-I-14Jailbreak ↔ garakdan(Do Anything Now 探针)PIT-I-16System Prompt Leak ↔ garaksysprompt_extractionPIT-N-06Indirect Input ↔ garaklatentinjectionPIT-E-07Base64 ↔ garakencoding探针PIT-I-21Generate Malicious Artifacts ↔ garakmalwaregen
一句话总结三者的分工:OWASP 管"风险定级"、ATLAS 管"攻击链建模"、NIST 管"合规标准"、garak 管"实际扫描工具"。arc_pi_taxonomy 用一个 aliases 字段把它们全部串了起来。
五、实战价值:跨框架检索是怎么运作的 💡
以 PIT-I-23(Model & Data Privacy Extraction)为例,一个节点同时挂上了 4 个框架的命名:
{
"code": "PIT-I-23",
"title": "Model & Data Privacy Extraction",
"aliases": [
"Sensitive Info Disclosure: training-data branch (OWASP LLM02:2025)",
"Unbounded Consumption / Model Theft (OWASP LLM10:2025)",
"Exfiltration via AI Inference API (MITRE ATLAS AML.T0024)",
"Model Extraction / Membership Inference (NIST NISTAML.031-034, .038)",
"divergence + leakreplay (garak)"
]
}
这意味着:
- 反向检索——你在报告中看到 "AML.T0024" 或 "NISTAML.038",可以直接在分类体系中搜到对应节点,获得攻击思路(ideas)和可复现的示例提示词;
- 统一引用——红队报告用
PIT-I-23这样的稳定编号,评审方自动能映射到各自熟悉的框架; - 覆盖度检查——对照 OWASP Top 10 逐项核查,能快速发现测试中遗漏的风险面。
所有映射数据都可从 docs/data/taxonomy.json 程序化读取(aliases 字段),Web 应用端由 docs/data/taxonomy.js 加载,前端搜索逻辑见 docs/app.js 与 docs/index.html。
六、如何上手使用 📦
- 直接浏览:clone 仓库后用浏览器打开
docs/index.html,即可使用完整的可交互分类站点(搜索、四支柱过滤、direct/indirect 投递标签、LOCAL 白盒标记); - 程序化使用:解析 docs/data/taxonomy.json,按
code/aliases建索引,即可嵌入自己的审计工具或 LLM 工作流; - 了解演进:v1.6 版本从 107 个节点扩展到 171 个,并正式引入"别名映射"功能,详见 CHANGELOG.md;项目背景与贡献方式见 README.md。
📌 小结:arc_pi_taxonomy 的价值不在于又造了一套新标准,而在于做了一件事——把 OWASP LLM Top 10、MITRE ATLAS、NIST、garak 这些各说各话的框架,翻译成了同一套 172 个可检索、可引用的攻击节点。对新手来说,它是从"听说过这些名词"到"能动手做 AI 红队测试"的最短路径。
