ZeroRF: 快速 Sparse View 360° 重建的开源项目教程

1. 项目介绍

ZeroRF 是一个开源项目，致力于实现无需预训练的快速 Sparse View 360° 重建。该项目基于 SSDNeRF 代码库，能够处理多种格式的数据集，并通过优化的算法提高重建速度和效果。ZeroRF 适用于三维内容生成，尤其在处理多视角图像重建任务时表现出色。

2. 项目快速启动

以下是快速启动 ZeroRF 的步骤：

首先，确保您的系统满足以下要求：

• 操作系统：Linux（在 Ubuntu 18.04/20.04 LTS 上测试过）
• Python 版本：3.7
• CUDA Toolkit 版本：11
• PyTorch 版本：1.12.1
• MMCV 版本：1.6.0
• MMGeneration 版本：0.7.2
• SpConv 版本：2.3.6

接下来，执行以下命令安装依赖：

# 导出 CUDA Toolkit 的路径
export PATH=/usr/local/cuda-11.5/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.5/lib64:$LD_LIBRARY_PATH

# 创建 conda 环境
conda create -y -n ssdnerf python=3.7
conda activate ssdnerf

# 安装 PyTorch
conda install pytorch==1.12.1 torchvision==0.13.1 torchaudio==0.12.1 cudatoolkit=11.3 -c pytorch

# 安装 MMCV 和 MMGeneration
pip install -U openmim
mim install mmcv-full==1.6
git clone https://github.com/open-mmlab/mmgeneration
cd mmgeneration
git checkout v0.7.2
pip install -v -e .
cd ..

# 安装 SpConv
pip install spconv-cu114

# 克隆此仓库并安装其他依赖
git clone <此仓库地址> && cd <仓库文件夹>
git checkout ssdnerf-sd
pip install -r requirements.txt

之后，运行 zerorf.py 脚本启动项目。

3. 应用案例和最佳实践

以下是两个应用案例：

案例一：Zero123++ 格式图像重建

python zerorf.py --load-image=examples/ice.png

默认设置需要 10GB 的 VRAM。

案例二：NeRF-Synthetic 格式数据集重建

python zerorf.py --rep=tensorf --data-dir=path/to/nerf_synthetic --obj=hotdog --n-views=6 --dataset=nerf_syn

最佳实践

• 根据您的 VRAM 调整 --n-rays-up 参数以适配您的硬件。
• 使用 xFormers 插件来提高注意力机制的计算效率。

4. 典型生态项目

目前，ZeroRF 项目的生态还包括以下项目：

• SSDNeRF：ZeroRF 的基础代码库，用于稀疏视图重建。
• Zero123++：一个格式标准，用于生成适合 ZeroRF 的图像数据。

ZeroRF 项目不断进化，社区也在持续贡献新的工具和插件，为用户提供更丰富的功能和应用场景。