PyTorch3D渲染SMPL模型时纹理尺寸不匹配问题解析

在使用PyTorch3D渲染带有纹理的SMPL人体模型时，开发者可能会遇到一个常见的纹理尺寸不匹配问题。本文将深入分析这个问题的成因及解决方案。

问题现象

当尝试使用PyTorch3D渲染带有UV纹理的SMPL模型时，系统会抛出RuntimeError错误，提示张量尺寸不匹配。具体错误信息显示："The size of tensor a (3) must match the size of tensor b (4096) at non-singleton dimension 4"，其中4096是纹理图像的宽度和高度。

问题根源

这个问题主要源于两个关键因素：

1. 纹理图像通道顺序错误：PyTorch3D的TexturesUV期望输入纹理图像的形状为[B,H,W,C]（批次、高度、宽度、通道），而torchvision.io.read_image读取的图像默认形状为[C,H,W]（通道、高度、宽度）。

2. 维度不匹配：当纹理图像以错误的维度顺序传入时，渲染器在着色阶段无法正确对齐纹理坐标和像素值，导致尺寸不匹配错误。

解决方案

要解决这个问题，需要对纹理图像进行正确的维度转换：

# 读取纹理图像并归一化
texture_image = read_image("texture.png").to(device=device) / 255.0

# 调整维度顺序：从[C,H,W]变为[H,W,C]
texture_image = texture_image.permute(1, 2, 0)

# 添加批次维度：[H,W,C]变为[1,H,W,C]
texture_image = texture_image.unsqueeze(0)

完整示例代码

以下是使用PyTorch3D正确渲染SMPL模型的完整代码示例：

import torch
from torchvision.io import read_image
from pytorch3d.io import load_obj
from pytorch3d.structures import Meshes
from pytorch3d.renderer import (
    look_at_view_transform,
    TexturesUV,
    FoVPerspectiveCameras,
    MeshRenderer,
    MeshRasterizer,
    SoftPhongShader,
    RasterizationSettings,
    PointLights,
)

# 设置设备
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")

# 加载并预处理纹理
texture_image = read_image("m_01_alb.002.png").to(device=device) / 255.0
texture_image = texture_image.permute(1, 2, 0).unsqueeze(0)  # [C,H,W] -> [1,H,W,C]

# 加载SMPL模型
verts, faces, aux = load_obj("smpl_uv.obj", device=device)

# 创建纹理
tex = TexturesUV(texture_image, faces.verts_idx[None], aux.verts_uvs[None])

# 创建网格
meshes = Meshes(verts=[verts], faces=[faces.verts_idx], textures=tex)

# 设置相机
R, T = look_at_view_transform(2.7, 0, 180, device=device)
camera = FoVPerspectiveCameras(device=device, R=R, T=T)

# 配置渲染器
raster_settings = RasterizationSettings(image_size=512)
lights = PointLights(location=[[0, 0, -3.0]], device=device)

renderer = MeshRenderer(
    rasterizer=MeshRasterizer(cameras=camera, raster_settings=raster_settings),
    shader=SoftPhongShader(device=device, cameras=camera, lights=lights),
)

# 渲染图像
images = renderer(meshes)

注意事项

1. 纹理分辨率：SMPL模型的UV贴图通常具有特定的分辨率要求，确保使用的纹理图像与模型的UV映射兼容。

2. UV坐标范围：检查加载的UV坐标是否在[0,1]范围内，超出范围的坐标可能导致渲染异常。

3. 光照设置：适当的光照设置对渲染效果至关重要，可以调整光源位置和强度以获得更好的视觉效果。

4. 性能考虑：高分辨率纹理会显著增加内存使用和渲染时间，在实时应用中需要权衡质量和性能。

通过正确处理纹理图像的维度顺序，开发者可以成功地在PyTorch3D中渲染带有自定义纹理的SMPL模型，为人体姿态估计、动画制作等应用提供高质量的视觉效果。