IndexTTS-vLLM 项目启动与配置教程

1. 项目目录结构及介绍

IndexTTS-vLLM 项目是一个基于 index-tts 的开源项目，通过集成 vllm 库来加速推理过程。以下是项目的目录结构及文件介绍：

index-tts-vllm/
├── indextts/              # 包含 IndexTTS 的核心代码
├── tests/                 # 测试代码目录
├── tools/                 # 工具脚本目录，如模型权重转换脚本
├── .gitignore             # 指定 Git 忽略的文件和目录
├── DISCLAIMER             # 项目免责声明
├── INDEX_MODEL_LICENSE    # 模型使用许可
├── LICENSE                # 项目使用的 Apache-2.0 许可
├── README.md              # 项目说明文件
├── api_server.py          # 使用 fastapi 封装的 API 服务器启动文件
├── convert_hf_format.py   # 将 HuggingFace 格式的模型权重转换为 vllm 格式的 Python 脚本
├── convert_hf_format.sh   # 将 HuggingFace 格式的模型权重转换为 vllm 格式的 Shell 脚本
├── requirements.txt       # 项目依赖的 Python 包列表
├── simple_test.py         # 简单的并发测试脚本
└── webui.py               # 项目 Web 界面启动文件

2. 项目的启动文件介绍

项目的启动文件主要包括 api_server.py 和 webui.py。

• api_server.py：此文件用于启动一个基于 fastapi 的 API 服务器，允许用户通过 HTTP 请求访问 TTS 服务。启动时，可以通过 --model_dir 参数指定模型权重的路径，以及通过 --host 和 --port 参数配置服务器的 IP 地址和端口。

• webui.py：此文件用于启动一个 Web 界面，通过浏览器可以更直观地与 TTS 服务交互。启动时，同样需要通过 model_dir 参数指定模型权重的路径。

3. 项目的配置文件介绍

项目的配置主要通过修改启动脚本中的参数来实现。

• convert_hf_format.sh：此脚本中的 MODEL_DIR 变量需要设置为模型权重下载的路径。运行此脚本会将 HuggingFace 格式的模型权重转换为 vllm 库可以加载的格式。

• api_server.py 和 webui.py：这两个文件中的 model_dir 变量需要设置为模型权重下载的路径，以确保程序可以正确加载模型。

通过上述介绍，用户可以根据自身需求对项目进行配置和启动。在启动之前，确保已经安装了所有必要的依赖，并且已经正确下载并转换了模型权重。