Score-Based Generative Modeling through Stochastic Differential Equations 项目教程

1. 项目介绍

score_sde_pytorch 是一个基于 PyTorch 的开源项目，实现了论文《Score-Based Generative Modeling through Stochastic Differential Equations》中提出的算法。该项目由 Yang Song、Jascha Sohl-Dickstein、Diederik P. Kingma、Abhishek Kumar、Stefano Ermon 和 Ben Poole 共同开发。

该项目的主要目标是提供一个统一的框架，通过随机微分方程（SDE）来推广和改进之前的基于分数的生成模型。具体来说，它可以将数据转换为一个简单的噪声分布，并通过一个连续时间的随机过程来描述这个转换。通过估计每个中间时间步的边际分布的分数，可以逆向生成样本。

项目的主要特点包括：

• 支持多种生成模型，如 NCSN、NCSNv2、DDPM 等。
• 提供训练新模型、评估样本质量和似然性的功能。
• 代码设计模块化，易于扩展新的 SDE、预测器或校正器。

2. 项目快速启动

安装依赖

首先，克隆项目到本地：

git clone https://github.com/yang-song/score_sde_pytorch.git
cd score_sde_pytorch

然后，安装必要的 Python 包：

pip install -r requirements.txt

训练模型

使用以下命令启动训练：

python main.py --config configs/your_config.py --workdir your_workdir --mode train

其中，your_config.py 是配置文件路径，your_workdir 是工作目录路径。

生成样本

训练完成后，可以使用以下命令生成样本：

python main.py --config configs/your_config.py --workdir your_workdir --mode eval --eval_folder eval_samples

3. 应用案例和最佳实践

案例1：CIFAR-10 无条件生成

使用 score_sde_pytorch 在 CIFAR-10 数据集上进行无条件生成，可以获得 FID 为 2.20 和 Inception 分数为 9.89 的高质量样本。

案例2：Celeba-HQ 高分辨率生成

项目还支持生成 1024px 的 Celeba-HQ 图像，展示了其在高分辨率图像生成方面的强大能力。

最佳实践

• 配置文件：使用项目提供的配置文件，可以根据需求调整模型参数和训练设置。
• 模块化设计：项目代码设计模块化，可以根据需要扩展新的 SDE、预测器或校正器。

4. 典型生态项目

🤗 Diffusers 库

项目中的模型已经集成到 🤗 Diffusers 库中，可以通过几行代码轻松测试基于分数 SDE 的模型。安装和使用方法如下：

pip install diffusers torch accelerate

然后，使用以下代码生成图像：

from diffusers import DiffusionPipeline

model_id = "google/ncsnpp-ffhq-1024"
sde_ve = DiffusionPipeline.from_pretrained(model_id)
image = sde_ve().images[0]
image.save("sde_ve_generated_image.png")

JAX 版本

项目还提供了 JAX 实现，支持类条件生成和评估过程的恢复。JAX 版本在某些情况下比 PyTorch 版本更快，但内存消耗更大。

通过以上教程，您可以快速上手 score_sde_pytorch 项目，并利用其强大的生成能力进行各种应用。