VOODOO 3D 安装与使用指南

项目概述

VOODOO 3D 是一个高保真度的一次性头部重演技术，其主要功能是将驱动者的表情转移到源图像上，并产生适用于全息显示的视图一致渲染结果。该技术基于论文“VOODOO 3D: Volumetric Portrait Disentanglement for One-Shot 3D Head Reenactment”，并提供了官方实现。

1. 目录结构及介绍

以下是VOODOO3D-official项目的基本目录结构和每个部分的简介：

VOODOO3D-official/
├── additional_modules      # 可能包含额外的模块或工具
├── configs                 # 配置文件夹，存储模型运行所需的配置参数
│   └── voodoo3d.yml       # VOODOO 3D 的配置文件
│   └── lp3d.yml           # 用于Lp3D模型的配置文件
├── data_preprocessing     # 数据预处理相关代码或说明
├── dnnlib                 # 深度学习网络相关的库
├── models                  # 网络模型定义
├── pretrained_models       # 预训练模型存放位置
│   └── voodoo3d.pth       # 主模型的预训练权重
├── rendering               # 渲染相关代码
├── resources               # 资源文件，包括测试用的图片等
│   ├── images              # 示例图片存放
└── ...
├── torch_utils             # PyTorch实用函数
├── utils                   # 其他辅助工具函数
├── LICENSE                 # 许可证文件
├── README.md               # 项目说明文档
├── requirements.txt        # 必需的Python包列表
├── test.sh                 # 可能是测试脚本（未在给定信息中明确）
├── test_lp3d.py            # 用于执行Lp3D的测试脚本
└── test_voodoo3d.py        # 测试VOODOO 3D模型的脚本

2. 项目的启动文件介绍

主要运行脚本：test_voodoo3d.py 和 test_lp3d.py

• test_voodoo3d.py：此脚本用于测试VOODOO 3D模型，它接收源图片和驱动图片的路径，以及配置文件和保存结果的路径，进行一次性的头部重演。
• test_lp3d.py：这个脚本用于评估模型在3D重建上的性能，特别是当使用了VOODOO 3D中的某些组件进行过微调时。

3. 项目的配置文件介绍

• voodoo3d.yml: 此配置文件包含了VOODOO 3D模型运行的具体设置，如模型的架构细节、训练时使用的超参数、输入输出规格等。
• lp3d.yml: 若项目中有使用或调整Lp3D模型，则这个配置文件记录了Lp3D模型的相关参数配置，可能涉及模型的前向传播设定、优化器配置等。

如何配置与使用

1. 安装依赖：首先，通过以下命令克隆项目并创建conda环境安装必要的库。

   git clone https://github.com/mbzuai-metaverse/VOODOO3D-official
   conda create -n voodoo3d python=3.10 pytorch=2.3.0 torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
   pip install -r requirements.txt
   

2. 准备模型权重：下载所需的预训练模型权重放入pretrained_models目录中。

3. 运行测试：

   • 对于VOODOO 3D模型，运行下面的命令：

     python test_voodoo3d.py \
         --source_root 路径/到/源图片 \
         --driver_root 路径/到/驱动图片 \
         --config_path configs/voodoo3d.yml \
         --model_path pretrained_models/voodoo3d.pth \
         --save_root 结果保存路径
     

   • 若要使用Lp3D模型进行3D重建，可使用：

     python test_lp3d.py \
         --source_root 图片源路径 \
         --config_path configs/lp3d.yml \
         --model_path pretrained_models/voodoo3d.pth \
         --save_root 结果保存路径 \
         --cam_batch_size 批大小
     

确保替换上述命令中的占位符（如路径）以符合实际的文件布局。通过以上步骤，你可以开始利用VOODOO 3D项目来执行复杂的头像重演任务。