AFL++项目中UBSAN模式优化：废弃参数替换与崩溃处理改进

背景介绍

AFL++作为一款先进的模糊测试工具，其UBSAN（Undefined Behavior Sanitizer）模式一直用于检测程序中的未定义行为。近期开发者在研究过程中发现，当前实现中使用了已被废弃的编译器参数，这促使我们对UBSAN模式进行优化改进。

问题发现与分析

在AFL++的UBSAN模式实现中，使用了-fsanitize-undefined-trap-on-error这一已被GCC标记为废弃的参数。该参数的主要作用是在检测到未定义行为时触发SIGILL信号（非法指令），但这种处理方式存在两个主要问题：

1. 该参数已被GCC弃用，建议使用更灵活的-fsanitize-trap=undefined替代
2. 触发SIGILL会导致丢失详细的错误信息，不利于问题定位

技术验证与解决方案

通过实际测试验证，我们发现使用-fno-sanitize-recover=undefined参数组合可以同时实现：

1. 在检测到未定义行为时使程序崩溃（满足模糊测试需求）
2. 保留完整的错误信息输出（便于问题诊断）

测试用例显示，使用新参数组合后：

• 模糊测试仍能正确识别崩溃
• 程序运行时能输出详细的错误位置和类型信息
• 无需依赖SIGILL信号即可实现崩溃行为

实现改进

基于以上发现，我们建议从AFL++代码中移除对废弃参数-fsanitize-undefined-trap-on-error的使用，转而依赖-fno-sanitize-recover=undefined这一更现代、更可靠的参数组合。这一改进将带来以下优势：

1. 兼容性：避免使用已被废弃的编译器参数
2. 可维护性：使用官方推荐的参数组合
3. 诊断能力：保留完整的错误信息输出
4. 灵活性：为未来可能的UBSAN错误类型过滤提供扩展空间

技术影响评估

这一改进对现有AFL++用户的影响包括：

1. 正向影响：

   • 获得更详细的未定义行为诊断信息
   • 编译器兼容性更好
   • 崩溃报告更准确

2. 需要注意：

   • 需要重新编译目标程序才能生效
   • 错误输出格式可能发生变化

结论与展望

通过这次对AFL++ UBSAN模式的优化，我们不仅解决了使用废弃参数的问题，还提升了模糊测试过程中对未定义行为的诊断能力。这一改进已被项目维护者接受并合并，将随下一个版本发布。

未来，我们可以进一步探索UBSAN不同检查类型的细粒度控制，以及与其他消毒剂（如ASAN）的更好协同工作方式，持续提升AFL++在程序错误检测方面的能力。