Stable Diffusion WebUI TensorRT 扩展安装与使用指南

项目目录结构及介绍

stable-diffusion-webui-tensorrt/
├── README.md
├── requirements.txt
├── scripts/
│   ├── trt_path.py
│   └── ...
├── models/
│   ├── Unet-onnx/
│   └── Unet-trt/
├── extensions/
│   └── TensorRT-8.6.1.6/
└── ...

• README.md: 项目说明文件，包含安装和使用指南。
• requirements.txt: 项目依赖文件，列出了运行项目所需的Python包。
• scripts/: 包含项目运行所需的脚本文件，如trt_path.py。
• models/: 存放模型文件的目录，包括ONNX和TensorRT格式的模型。
• extensions/: 存放TensorRT扩展文件的目录，如TensorRT-8.6.1.6。

项目启动文件介绍

项目的启动文件通常是webui.py，位于项目的根目录下。该文件负责启动WebUI并加载TensorRT扩展。

# webui.py
from scripts import trt_path
from extensions import TensorRT

# 启动WebUI并加载TensorRT扩展
if __name__ == "__main__":
    trt_path.init()
    TensorRT.load()
    # 启动WebUI
    ...

项目配置文件介绍

项目的配置文件通常是config.yaml，位于项目的根目录下。该文件包含了项目的各种配置选项，如模型路径、CUDA版本等。

# config.yaml
model_path: "models/Unet-trt/model.trt"
cuda_version: "11.8"
enable_tensorrt: true

• model_path: 指定TensorRT模型的路径。
• cuda_version: 指定CUDA版本，需与Python的torch库使用的版本一致。
• enable_tensorrt: 是否启用TensorRT扩展。

以上是Stable Diffusion WebUI TensorRT扩展的基本安装与使用指南，希望对您有所帮助。