MoltenVK项目中的纹理创建崩溃问题分析与修复

问题背景

在MoltenVK项目中，近期出现了一个与纹理创建相关的严重问题。该问题在Apple M1系统上尤为明显，特别是在使用ANGLE的Vulkan后端结合MoltenVK进行渲染时。当应用程序尝试创建带有mipmap的纹理时，系统会抛出断言错误并导致崩溃。

问题表现

开发者在使用最新版本的MoltenVK时遇到了纹理创建失败的情况。具体错误信息显示：

_mtlValidateStrideTextureParameters:1864: failed assertion `Texture Descriptor Validation
Linear texture: cannot be mipmapped, mipmapLevelCount (6) disallowed

当在Xcode中启用Metal API验证时，错误信息略有不同：

-[MTLDebugBuffer newTextureWithDescriptor:offset:bytesPerRow:]:283: failed assertion `New Texture With Descriptor Validation
linear texture mipmapLevelCount(6) must be 1

问题根源

经过分析，这个问题源于MoltenVK中关于原子操作的实现变更。具体来说：

1. 当创建格式为R32_UINT或R32_SINT且设置了VK_IMAGE_USAGE_STORAGE标志的图像时，MoltenVK会尝试将其创建为线性纹理
2. 这是为了支持在macOS 14之前的版本中实现图像原子操作的临时解决方案
3. 然而，这个逻辑错误地应用到了不应该使用线性纹理的情况，特别是对于具有多个mip级别的纹理

技术细节

在Metal中，线性纹理有严格的限制条件：

1. 不能有mipmap（mipmapLevelCount必须为1）
2. 不支持深度/模板像素格式
3. 某些格式（如R8Unorm）不支持纹理原子操作

问题代码中，一个布尔标志_isLinearForAtomics没有被正确初始化，导致即使在不应该使用线性纹理的情况下，系统也错误地尝试创建线性纹理。

解决方案

修复方案主要包括：

1. 确保_isLinearForAtomics标志被正确初始化
2. 严格限制线性纹理的创建条件，仅适用于：
   • 单mip级别
   • 单数组层
   • 支持原子操作的特定格式
   • macOS 14之前的系统版本

影响范围

该问题主要影响：

1. 使用特定图像格式（R32_UINT/R32_SINT）并设置存储用途的应用程序
2. 尝试创建带有mipmap的纹理的情况
3. 在macOS系统上使用MoltenVK的项目

开发者建议

对于遇到类似问题的开发者，建议：

1. 检查应用程序中使用的纹理格式和创建参数
2. 确保纹理使用标志与预期一致
3. 更新到包含修复的MoltenVK版本
4. 对于深度/模板格式，避免使用存储用途标志

总结

这个案例展示了底层图形API实现中的复杂性，特别是在跨平台抽象层中。MoltenVK团队通过快速响应和修复，解决了这个影响纹理创建的关键问题，为开发者提供了更稳定的开发体验。这也提醒我们在处理平台特定功能时需要格外注意边界条件和初始化状态。