Mold链接器导致XWayland崩溃问题分析

问题现象

近期在Mold链接器的最新版本中出现了一个严重问题：当使用Mold作为系统链接器时，XWayland图形服务器会在启动过程中发生段错误(Segmentation Fault)。这一问题首先在Gentoo系统上被发现，随后在Archlinux系统上也得到了复现。

问题复现

要复现这个问题，可以按照以下步骤操作：

1. 安装标准版本的XWayland
2. 使用Mold重新编译XWayland
3. 启动XWayland时会出现崩溃

崩溃时的错误信息显示，问题发生在libxkbfile库的XkbWriteXKBKeymapForNames函数中，具体是在处理键盘映射时出现了非法内存访问。

根本原因

通过git bisect工具定位到，这个问题是由Mold链接器的最新提交dfa26d0引入的。该提交改变了动态库(.so)和静态库(.a)之间的符号解析优先级规则：

• 原规则：.so和.a具有相同的优先级，符号解析取决于它们在命令行中的出现顺序
• 新规则：.so中的符号优先级高于.a中的符号

这一变更原本是为了解决KiCad项目中因链接顺序导致的未定义符号问题，但却意外影响了XWayland的正常运行。

技术细节分析

在XWayland的启动过程中，需要加载键盘映射配置。这一过程涉及以下关键步骤：

1. 调用XkbDDXLoadKeymapByNames函数加载键盘映射
2. 通过XkbWriteXKBKeymapForNames函数写入键盘映射配置
3. 在此过程中，某些关键数据结构未能正确初始化

当使用Mold新版本链接时，符号解析顺序的改变导致某些关键函数指针或数据结构被错误地解析或初始化，最终引发了段错误。

解决方案

Mold项目维护者已经确认这是一个问题，并决定回退这个变更。对于用户来说，可以采取以下临时解决方案：

1. 暂时回退到Mold 2.30.0版本
2. 等待Mold发布包含修复的新版本
3. 在编译XWayland时暂时不使用Mold链接器

经验教训

这个案例展示了链接器行为变化可能带来的深远影响。即使是看似合理的优化，也可能在某些特定场景下导致严重问题。对于系统关键组件如XWayland，其复杂的依赖关系和初始化流程对链接器的行为非常敏感。

总结

Mold作为新一代高性能链接器，在追求性能优化的同时，也需要保持与现有软件的兼容性。这次事件提醒我们，在修改链接器核心行为时需要更加谨慎，并进行充分的兼容性测试。对于用户来说，在升级系统关键组件时，保持对这类问题的警惕性也十分重要。