Fuzzilli项目中核心转储机制的优化与改进

在Fuzzilli项目中，原本存在一个关于Linux系统核心转储(core dump)处理机制的设计问题。该项目是一个用于JavaScript引擎的模糊测试框架，在之前的实现中，它要求目标系统的/proc/sys/kernel/core_pattern配置必须以|/bin/false开头，这种设计在实际使用中带来了诸多不便。

原有设计的问题分析

原实现强制修改系统级核心转储配置的做法存在几个明显缺陷：

1. 系统范围影响：修改core_pattern会影响整个主机系统及其所有容器，不仅限于Fuzzilli的运行环境
2. 权限要求高：在容器化环境中需要特权容器才能进行此类系统级配置修改
3. 破坏性修改：会覆盖主机原有的核心转储处理机制，干扰如Ubuntu等发行版中Apport等崩溃报告工具的正常工作

技术改进方案

项目维护者经过讨论后，决定采用更优雅的解决方案——使用setrlimit系统调用来限制核心转储大小。具体实现是通过设置RLIMIT_CORE资源限制为0，这一方案具有以下优势：

1. 进程级控制：仅影响Fuzzilli及其子进程，不会干扰系统其他部分
2. 继承性：子进程会自动继承父进程的资源限制设置
3. 可验证性：可通过prlimit()查询子进程的RLIMIT_CORE值，确保核心转储确实被禁用
4. 兼容性：无需修改JavaScript引擎的补丁代码

实现细节

在Linux系统中，RLIMIT_CORE参数控制着进程生成核心转储文件的行为：

• 当设置为0时，进程不会产生任何核心转储文件
• 当设置为非零值时，将限制核心转储文件的最大大小

通过这种方式，Fuzzilli能够在保持原有功能的前提下，避免了对系统全局配置的破坏性修改，提高了框架的可用性和部署灵活性。

技术意义

这一改进体现了软件设计中"最小权限原则"和"最小影响原则"的重要性。通过从系统级配置转向进程级控制，Fuzzilli现在能够：

• 更安全地在各种环境中运行
• 更容易地集成到持续集成/持续部署(CI/CD)流程中
• 更友好地与主机系统和其他容器共存

这种改进对于模糊测试框架这类需要频繁导致目标程序崩溃的工具尤为重要，既保证了测试的有效性，又避免了对运行环境的负面影响。