RenderDoc中D3D11 Tiled Resources支持问题分析

概述

在图形编程领域，RenderDoc作为一款流行的图形调试工具，为开发者提供了强大的调试能力。然而，近期发现RenderDoc在D3D11层面对Tiled Resources（平铺资源）的支持存在一些问题，特别是GetResourceTiling()等API在Hook模式下无法返回正确值。

Tiled Resources技术背景

Tiled Resources是Direct3D 11.2引入的一项重要特性，它允许开发者更高效地管理大型纹理资源。这项技术通过将资源划分为多个"瓦片"(tile)，实现了更精细的内存管理和更高效的资源使用。主要优势包括：

1. 减少内存占用
2. 提高内存访问效率
3. 支持部分资源加载和更新

问题现象

当通过RenderDoc Hook D3D11程序时，GetResourceTiling()函数的所有返回参数都变为0。而在程序正常启动时，该函数能够返回正确的值。这个问题在多个RenderDoc版本(1.30、1.15及1.x分支)中都存在。

问题根源分析

经过深入分析，发现问题出在RenderDoc的Wrapper实现上。具体表现为：

1. GetResourceTiling()函数直接将WrappedID3D11Texture2D1对象传递给真实的D3D11设备，而没有进行解包(unwrap)操作
2. 类似的问题也存在于其他Tiled Resources相关API中，包括：
   • UpdateTileMappings()
   • CopyTileMappings()
   • CopyTiles()
   • UpdateTiles()

解决方案

对于GetResourceTiling()函数，正确的实现应该先解包资源对象，然后再调用真实设备的对应方法。修正后的代码示例如下：

void WrappedID3D11Device::GetResourceTiling(
    ID3D11Resource *pTiledResource, UINT *pNumTilesForEntireResource,
    D3D11_PACKED_MIP_DESC *pPackedMipDesc, D3D11_TILE_SHAPE *pStandardTileShapeForNonPackedMips,
    UINT *pNumSubresourceTilings, UINT FirstSubresourceTilingToGet,
    D3D11_SUBRESOURCE_TILING *pSubresourceTilingsForNonPackedMips)
{
  if(m_pDevice2 == NULL)
    return;

  WrappedID3D11Texture2D1* wrapped = static_cast<WrappedID3D11Texture2D1*>(pTiledResource);
  m_pDevice2->GetResourceTiling(wrapped->GetReal(), pNumTilesForEntireResource, pPackedMipDesc,
                                pStandardTileShapeForNonPackedMips, pNumSubresourceTilings,
                                FirstSubresourceTilingToGet, pSubresourceTilingsForNonPackedMips);
}

当前支持情况

值得注意的是，RenderDoc官方确认D3D11层面对Tiled Resources相关API的支持有限。相比之下，RenderDoc在D3D12层面对等效的Tiled Resources API提供了更好的支持。

开发者建议

对于需要使用Tiled Resources特性的开发者，建议：

1. 如果必须使用D3D11，可以考虑暂时不使用RenderDoc进行调试
2. 或者考虑迁移到D3D12，以获得更好的工具支持
3. 对于必须使用D3D11的情况，可以自行修改RenderDoc源码添加支持

总结

RenderDoc作为一款强大的图形调试工具，在大多数情况下表现优异。然而，在特定功能如D3D11 Tiled Resources支持上仍存在不足。理解这些限制有助于开发者在实际工作中做出更合理的技术选型和调试策略。