Gamescope项目中的AMD显卡直接扫描输出问题深度分析

问题背景

在Valve的Gamescope项目中，近期发现了一个与AMD显卡直接扫描输出(direct scan-out)相关的显示异常问题。该问题主要影响使用AMD显卡的设备，包括Steam Deck OLED/LCD、ROG Ally等，在使用较新内核版本(6.5.0及以上)时会出现不同程度的显示异常。

问题现象

用户在使用Gamescope时遇到两种主要问题：

1. MangoHud性能覆盖层切换时的短暂显示异常：当用户在游戏或界面中切换MangoHud性能覆盖层时，屏幕会出现短暂的显示异常或伪影。

2. 直接扫描输出模式下的严重显示异常：当Gamescope决定不进行主动合成(即使用直接扫描输出模式)时，某些游戏(特别是D3D12游戏)会出现严重的显示异常，表现为屏幕上的随机伪影或图像撕裂。

技术分析

直接扫描输出与合成模式

Gamescope会根据显示模式决定是否使用直接扫描输出或合成模式：

• 直接扫描输出：GPU直接将帧缓冲区内容输出到显示器，绕过合成器，可降低延迟和功耗
• 合成模式：通过合成器处理所有显示内容，增加一定开销但更稳定

问题根源

通过深入分析内核DRM调试日志，发现问题主要与以下因素相关：

1. 管道分割(Pipeline Split)：在较新内核(6.5.0及以上)中，当启用/禁用MangoHud覆盖层时，AMD显示控制器会执行管道分割操作，这会导致显示状态短暂不稳定。

2. 显式同步(Explicit Sync)：内核6.8.0引入的显式同步机制与Gamescope的DRM后端存在兼容性问题，导致严重的显示异常。

3. 显示模式设置：某些特定的显示模式(如3440x1440@60Hz)会触发Gamescope错误地决定使用直接扫描输出模式。

解决方案

临时解决方案

1. 强制合成模式：在Steam开发者设置中启用"force composite"选项，强制Gamescope始终使用合成模式。

2. 内核参数调整：对于管道分割问题，可添加amdgpu.dcdebugmask=0x1内核参数禁用管道分割。

3. 避免问题模式：使用不会触发问题的显示模式(如3440x1440@175Hz)。

长期修复

Valve开发团队已提交相关修复：

• 对于显式同步问题，通过提交修复了Gamescope的DRM后端实现
• AMD团队正在处理管道分割相关的显示控制器问题

影响范围

该问题主要影响：

• 使用AMD显卡的设备(特别是RDNA2/RDNA3架构)
• 运行Linux内核6.5.0及以上的系统
• 使用Gamescope合成器的场景(如SteamOS游戏模式)

技术建议

对于开发者：

• 在实现覆盖层时，应考虑其对显示管道的影响
• 测试不同显示模式下的合成器行为
• 关注DRM子系统的显式同步实现进展

对于用户：

• 更新到包含修复的最新系统版本
• 如遇显示问题，可尝试启用强制合成模式
• 避免频繁切换性能覆盖层

结论

Gamescope项目中的AMD显卡显示问题揭示了现代显示合成技术的复杂性，特别是在混合使用直接扫描输出和合成模式时。随着Linux显示堆栈的持续演进，此类问题将逐渐得到解决，为用户提供更稳定、高效的显示体验。