PyRIT项目v0.7.0版本发布：多模态攻击与AI安全测试能力全面升级

PyRIT（Python Risk Identification Toolkit）是微软Azure团队开发的一款开源AI安全测试工具包，专注于帮助研究人员和开发者识别生成式AI系统中的潜在风险和安全漏洞。该项目通过提供丰富的攻击模式、目标模型接口和评估工具，使安全测试人员能够系统地评估AI系统的鲁棒性和安全性。

核心功能升级

1. OpenAI兼容性增强与目标模型扩展

最新版本对OpenAIChatTarget进行了重大重构，使其能够更广泛地支持OpenAI兼容模型。这一改进意味着PyRIT现在可以无缝对接更多基于OpenAI API标准的模型服务，包括但不限于Azure OpenAI、Ollama等平台。技术实现上，团队重构了API请求处理逻辑，使api_version参数变为可选，提升了接口的灵活性。

此外，项目还新增了对Google Gemini模型的完整支持，包括环境变量配置示例和集成测试，进一步扩展了PyRIT的测试覆盖范围。

2. 多模态攻击能力强化

v0.7.0版本在多模态攻击领域取得了显著进展：

• 视频攻击模块：新增AddImageVideoConverter转换器，允许攻击者在视频指定位置插入图像，这是PyRIT首个视频处理工具，为多模态攻击开辟了新维度。
• 音频元数据增强：系统现在自动为音频和视频种子提示提取并存储丰富的元数据，包括格式类型、比特率和持续时间等关键信息，为后续分析提供更多维度。
• 路径标准化：解决了多模态种子提示文件路径的兼容性问题，采用统一配置路径替代相对路径，确保在不同环境下都能正确加载资源。

3. 新型攻击编排器

项目引入了多种新型攻击编排策略：

• 多轮对话注入攻击(ManyShotJailbreakOrchestrator)：通过构造虚假的人机对话历史，在单次提示中植入攻击模式，测试模型对上下文注入的抵抗能力。
• 上下文合规攻击(ContextComplianceOrchestrator)：采用"上下文设置+对抗聊天"的两阶段攻击模式，先通过特定指令改变模型上下文认知，再实施具体攻击。
• 角色扮演攻击改进：重构了RolePlayOrchestrator的代码结构，提升了组件复用率，为未来扩展奠定基础。

4. 文本扰动技术

新增InsertPunctuationConverter转换器，专门测试模型对文本扰动的鲁棒性。该工具会在原始提示中智能插入各种标点符号，模拟真实场景中的输入噪声，评估模型在这种干扰下的表现稳定性。

数据集与评估体系增强

1. 新增安全测试数据集

• Aya Red-Teaming数据集：专注于多语言红队测试场景
• Babelscape ALERT数据集：提供丰富的对抗性示例
• Pliny's prompts模板：来自知名安全研究资源库的实用模板

2. 评估方法创新

项目引入了HumanInTheLoopScorerGradio评分器，通过Gradio界面实现人机交互评估。研究人员可以在独立进程中运行评分界面，手动对模型响应进行"安全/不安全"二元评分，结果自动存入数据库，为自动化测试补充了宝贵的人类判断维度。

3. 数据集过滤功能

针对PKU-SafeRLHF和AdvBench数据集，新增了基于危害类别的过滤功能，使研究人员能够更精准地定位特定风险领域的测试案例。

架构优化与开发者体验

1. 内存管理重构

采用atexit和weakref机制替代了原有的显式内存清理方式，实现了更可靠的资源释放。这一变更虽然导致了API的破坏性变化（Orchestrators和目标不再支持上下文管理器协议），但大幅提高了系统的稳定性。

2. 种子提示管理

• 实现了自动去重功能，防止同一数据集中重复上传相同种子提示
• 新增get_values()方法简化了从数据集中提取提示值的操作
• 支持首尾N条记录的快速筛选，提升大数据集处理效率

3. 开发者工具链

• 更新了DuckDB等核心依赖版本
• 完善了pre-commit钩子，自动清理笔记本头信息
• 增强了组件治理和NOTICE文件生成流程

应用价值与展望

PyRIT v0.7.0版本的发布标志着该项目在多模态攻击测试和人机协同评估方面取得了重要进展。通过支持更丰富的模型接口、更复杂的攻击策略以及更完善的评估体系，该项目为AI安全研究提供了强有力的工具支持。

特别值得注意的是，视频处理能力的引入为多模态安全测试开辟了新方向，而人机交互评分器的加入则弥补了纯自动化评估的局限性。这些创新使得PyRIT不仅适用于技术团队进行内部安全审计，也能支持更广泛的AI安全研究社区开展协作研究。

未来，随着项目持续发展，我们可以期待更多针对新兴AI风险模式的测试工具，以及对更复杂多模态场景的深入支持，为构建更安全的AI生态系统贡献力量。