Cucumber-JVM中Maven重试机制与测试报告生成问题解析

问题背景

在使用Cucumber-JVM进行自动化测试时，开发团队发现当配合Maven Surefire插件的rerunFailingTestsCount参数使用时，测试报告生成出现了异常情况。具体表现为Cucumber生成的JSON报告文件没有被正确覆盖，导致最终测试报告无法完整反映所有测试执行情况。

技术细节分析

预期行为

根据Cucumber-JVM的官方文档描述，当使用Maven Surefire插件的rerunFailingTestsCount参数时，失败的测试场景会被重新执行。理想情况下，每次执行都应该覆盖之前生成的测试报告文件，确保报告始终反映最新的测试结果。

实际观察到的行为

在实际使用中，团队发现了两种不同的异常行为模式：

1. 在JUnit 5.10.2版本下：Cucumber.json文件在测试开始前被创建为空文件，测试结果数据直到所有测试完成后才被写入。重试执行时，文件不再被访问，导致无法获取重试执行的测试结果。

2. 在JUnit 5.11.0-M1版本下：虽然解决了文件覆盖问题，但新问题出现——报告文件只包含重试执行的测试结果，丢失了首次执行成功测试的记录。

根本原因

经过深入分析，这个问题源于JUnit平台和Cucumber-JVM的交互方式：

1. Cucumber本身并不感知测试是否在被重试，它只是按照配置执行测试并生成报告
2. 每次执行（包括重试）都被视为一次独立的测试运行
3. 默认情况下，Cucumber会覆盖之前的报告文件，因为它不知道需要保留历史数据

解决方案探讨

针对这个问题，技术专家提出了几种可能的解决方案：

1. 使用JUnit Platform Launcher API

通过编程方式控制测试执行流程，可以为每次执行（包括重试）配置独立的报告文件输出路径。这种方式需要：

• 自定义测试运行器
• 为每次执行配置不同的报告文件名称
• 手动合并或处理多个报告文件

2. 开发专门的rerun测试引擎

长期来看，更彻底的解决方案是实现一个专门的rerun测试引擎（如issue #2805所讨论的）。这种引擎可以：

• 感知测试重试状态
• 智能管理测试报告生成
• 提供更完整的测试历史记录

最佳实践建议

对于当前面临此问题的团队，建议采取以下临时解决方案：

1. 升级到JUnit 5.11.0-M1或更高版本
2. 修改测试报告处理逻辑，使其能够识别和处理多次执行产生的报告
3. 考虑使用时间戳或其他标识符来区分不同执行批次产生的报告

总结

Cucumber-JVM与Maven Surefire插件在测试重试场景下的交互存在一定的复杂性。理解底层机制对于正确配置和使用这些工具至关重要。虽然目前存在一些限制，但通过合理的技术选型和配置调整，仍然可以实现完整的测试报告功能。未来随着JUnit平台和Cucumber-JVM的持续演进，这个问题有望得到更优雅的解决方案。