LayoutGPT 开源项目教程

1. 项目介绍

LayoutGPT 是一个基于大型语言模型（LLMs）的视觉规划和生成工具。它能够从文本输入生成合理的图像布局和室内场景布局，支持从2D图像到3D室内场景的多领域布局生成。LayoutGPT 通过使用样式表语言的上下文视觉演示来增强LLMs的视觉规划能力，能够将复杂的语言概念（如数值和空间关系）转换为布局安排，从而实现忠实的文本到图像生成。

2. 项目快速启动

2.1 安装依赖

首先，确保你已经安装了 conda。然后，创建一个新的 conda 环境并安装所需的依赖项：

conda create -n layoutgpt python=3.8 -y
pip install -r requirements.txt

2.2 下载预训练模型

为了使用 LayoutGPT 进行图像生成，你需要下载一些预训练模型：

# 下载 GLIGEN 模型
wget https://huggingface.co/gligen/gligen-generation-text-box/resolve/main/diffusion_pytorch_model.bin -O gligen/gligen_checkpoints/checkpoint_generation_text.pth

# 下载 GLIP 模型
cd eval_models/GLIP
python setup.py build develop --user
wget https://github.com/SwinTransformer/storage/releases/download/v1.0.0/swin_large_patch4_window12_384_22k.pth -O MODEL/swin_large_patch4_window12_384_22k.pth
wget https://huggingface.co/GLIPModel/GLIP/resolve/main/glip_large_model.pth -O MODEL/glip_large_model.pth

# 下载 ATISS 模型
cd ATISS
python setup.py build_ext --inplace
pip install -e .

2.3 数据准备

下载并解压 LayoutGPT 所需的 2D 和 3D 数据集：

# 下载 2D 图像布局数据集
wget https://example.com/dataset/NSR-1K.zip -O dataset/NSR-1K.zip
unzip dataset/NSR-1K.zip -d dataset/

# 下载 3D 场景数据集
cd ATISS
wget https://example.com/dataset/3D-FUTURE-model.zip -O 3D-FUTURE-model.zip
wget https://example.com/dataset/data_output.zip -O data_output.zip
unzip 3D-FUTURE-model.zip -d 3D-FUTURE
unzip data_output.zip

2.4 运行 LayoutGPT

生成 2D 图像布局：

python run_layoutgpt_2d.py --icl_type k-similar --K 8 --setting counting --llm_type gpt4 --n_iter 5

生成 3D 室内场景：

python run_layoutgpt_3d.py --dataset_dir /ATISS/data_output --icl_type k-similar --K 8 --room bedroom --llm_type gpt4 --unit px --normalize --regular_floor_plan

3. 应用案例和最佳实践

3.1 2D 图像布局生成

LayoutGPT 可以用于生成各种类型的 2D 图像布局，例如：

• 产品设计：生成产品展示图的布局。
• 网页设计：生成网页的布局结构。
• 广告设计：生成广告图片的布局。

3.2 3D 室内场景生成

LayoutGPT 还可以用于生成 3D 室内场景，例如：

• 家居设计：生成不同风格的家居布局。
• 建筑设计：生成建筑内部的布局设计。
• 游戏场景设计：生成游戏中的室内场景。

4. 典型生态项目

4.1 GLIGEN

GLIGEN 是一个基于文本的图像生成模型，与 LayoutGPT 结合使用可以生成高质量的图像。

4.2 GLIP

GLIP 是一个图像定位模型，用于评估生成的图像布局的准确性。

4.3 ATISS

ATISS 是一个用于生成 3D 室内场景的模型，与 LayoutGPT 结合使用可以生成复杂的 3D 场景。

通过这些生态项目的结合，LayoutGPT 可以在多个领域中发挥重要作用，提供高效、准确的视觉规划和生成解决方案。