AFL++测试中自定义变异器超时问题分析与解决方案

问题背景

在AFL++项目的测试过程中，特别是在riscv64架构上运行test-custom-mutators.sh测试脚本时，发现了一个由于超时导致测试失败的问题。该问题主要出现在使用外部核心转储工具（如systemd-coredump）的环境中，由于核心转储处理耗时较长，导致测试无法在预设时间内完成。

问题分析

测试脚本默认设置了7秒的超时限制，这在大多数标准环境下是足够的。然而，当系统配置为使用外部核心转储处理器时，会产生额外的处理延迟：

1. 核心转储通知机制会引入显著的延迟
2. 从检测到崩溃到信息通过waitpid() API传递给模糊测试器之间存在较长的间隔
3. 这种延迟可能导致崩溃被错误地解释为超时

在riscv64架构上，这一问题尤为明显，因为该架构的处理速度可能相对较慢，加上外部核心转储处理的额外开销，使得7秒的时间限制显得不足。

解决方案

经过测试验证，将超时时间从7秒延长至20秒可以有效解决这一问题。这一调整已经合并到AFL++的dev分支中。

对于系统管理员或开发者，更根本的解决方案是运行afl-system-config工具，该工具可以确保崩溃处理器不指向外部程序。具体操作包括：

1. 修改/proc/sys/kernel/core_pattern文件
2. 将其内容设置为简单的"core"而非指向外部程序
3. 这样可以避免核心转储处理的额外延迟

技术建议

对于在不同架构或特殊环境下使用AFL++的用户，建议：

1. 在性能较低的架构（如riscv64）上适当增加测试超时时间
2. 在测试环境中临时禁用外部核心转储处理
3. 对于持续集成环境，考虑架构特性调整测试参数
4. 监控测试执行时间，根据实际情况优化超时设置

这一问题的解决不仅确保了AFL++在riscv64架构上的测试通过性，也为在其他非x86架构上的使用提供了参考。理解系统配置对模糊测试工具性能的影响，对于有效使用AFL++等工具具有重要意义。