ComplianceAsCode项目测试场景编译中的模板规则豁免问题解析
在ComplianceAsCode项目的自动化测试框架中,当开发者基于模板规则创建测试场景时,可以通过test_config.yaml文件对模板预设的测试场景进行部分覆盖或豁免。然而,项目团队发现当使用编译后的测试场景时(通过build_product --render-test-scenarios生成),这种豁免机制会出现失效的情况。
问题本质
该问题的核心在于测试场景编译脚本build_tests.py的实现逻辑存在局限性。当前脚本仅支持处理deny_templated_scenarios(拒绝模板场景)的情况,而未能完整实现对allow_templated_scenarios(允许模板场景)配置的支持。这导致在编译阶段,即使测试配置文件中明确指定了只允许特定测试场景(如示例中的package_installed.pass.sh),系统仍会错误地包含本应被豁免的测试场景文件(如package-installed-removed.fail.sh等)。
技术背景
ComplianceAsCode的测试框架采用模板化设计,允许规则继承基础模板的测试场景,同时通过test_config.yaml提供灵活的覆盖机制。这种设计本意是:
- 基础模板提供通用测试场景
- 具体规则可以保留需要的场景
- 排除不适用的场景
- 添加规则特有的场景
解决方案方向
项目团队已识别出可行的修复路径——复用现有测试套件中的场景过滤逻辑。具体而言,可以借鉴ssg_test_suite/common.py中成熟的场景过滤实现,该模块已包含完整的allow/deny场景处理逻辑。将这套逻辑移植到build_tests.py中,即可实现编译时与运行时测试场景处理的一致性。
影响范围
该问题主要影响:
- 使用模板规则的测试场景编译
- 依赖allow_templated_scenarios配置的规则
- 需要精确控制测试场景输出的CI/CD流程
最佳实践建议
在问题修复前,开发者可以:
- 手动检查生成的测试场景文件
- 在CI流程中添加验证步骤
- 对于关键规则,考虑完全自定义测试场景而非部分覆盖
该问题的修复将提升测试场景编译的准确性,确保编译结果与配置文件声明完全一致,进一步强化ComplianceAsCode项目测试框架的可靠性。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0214
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0138
uni-appA cross-platform framework using Vue.jsJavaScript08
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03