RenderDoc中Vulkan图像屏障导致的图像内容损坏问题分析

问题现象

在使用RenderDoc调试Vulkan应用程序时，发现某些图像资源在执行图像布局转换后内容被破坏，即使这些转换并未涉及LAYOUT_UNDEFINED布局。具体表现为：

1. 深度缓冲图像(gDepth)在执行HZB构建通道前被正确保留，但在通道开始后显示为"UNDEFINED"内容
2. 虚拟阴影贴图(VSM)物理页图像在GENERAL到GENERAL布局转换后同样出现内容损坏

技术背景

Vulkan中的图像屏障(VkImageMemoryBarrier)用于同步图像资源的访问和布局转换。当图像布局改变时，开发者需要明确指定新旧布局：

• 如果转换到LAYOUT_UNDEFINED，图像内容会被视为无效
• 相同布局间的转换理论上应保留图像内容

问题根源

经过分析，这个问题实际上是AMD显卡驱动的一个已知缺陷，特别是在使用VK_KHR_synchronization2扩展时：

1. 当使用vkCmdPipelineBarrier2进行相同布局间的转换时(如READ_ONLY_OPTIMAL到READ_ONLY_OPTIMAL)
2. 驱动错误地处理了这种"无操作"布局转换
3. 导致图像内容被部分或完全破坏，而非保留

解决方案

目前可行的临时解决方案是：

1. 避免直接使用相同布局的转换
2. 将单一屏障拆分为两个步骤：
   • 首先转换到另一个有效布局(如A→B)
   • 然后立即转换回原布局(B→A)
3. 或者对于相同布局的情况，改用VkMemoryBarrier替代VkImageMemoryBarrier

影响范围

该问题主要影响：

• 使用AMD显卡(特别是RDNA2架构如7900XTX)
• 使用VK_KHR_synchronization2扩展
• 进行相同图像布局间转换的情况

开发者建议

对于Vulkan开发者：

1. 在AMD平台上应特别注意相同布局转换的情况
2. 考虑在抽象层中自动处理这种情况
3. 持续关注AMD驱动更新，等待官方修复

对于工具开发者：

1. 目前RenderDoc无法在应用层面解决此问题
2. 需要驱动厂商修复底层实现

这个问题再次提醒我们，即使遵循Vulkan规范，不同硬件厂商的实现仍可能存在差异，跨平台开发时需要特别注意这类边界情况。