index-tts-vllm 的安装和配置教程

1. 项目基础介绍和主要编程语言

index-tts-vllm 是一个开源项目，基于 index-tts 在使用 vllm 库重新实现 gpt 模型的推理，从而加速了 index-tts 的推理过程。该项目主要用于文本到语音的转换（TTS），并且支持多角色音频混合功能。主要编程语言为 Python，同时也使用了 Cuda 和 C 语言。

2. 项目使用的关键技术和框架

该项目使用了以下关键技术和框架：

• vllm：用于加速深度学习模型推理的开源库。
• PyTorch：一个开源的机器学习库，用于实现深度学习模型。
• transformers：用于自然语言处理的开源库，提供了大量预训练模型和工具。

3. 项目安装和配置的准备工作及详细安装步骤

准备工作

在开始安装前，请确保您的系统满足以下要求：

• Python 3.12 或更高版本
• CUDA 12.1 或更高版本（如果您使用的是 NVIDIA GPU）
• Git 版本控制系统

安装步骤

1. 克隆项目

   首先，使用 Git 克隆项目到本地：

   git clone https://github.com/Ksuriuri/index-tts-vllm.git
   cd index-tts-vllm
   

2. 创建并激活 Conda 环境

   创建一个名为 index-tts-vllm 的 Conda 环境，并激活它：

   conda create -n index-tts-vllm python=3.12
   conda activate index-tts-vllm
   

3. 安装 PyTorch

   在 Conda 环境中安装 PyTorch 2.5.1 及相关依赖：

   conda install pytorch==2.5.1 torchvision==0.20.1 torchaudio==2.5.1 pytorch-cuda=12.1 -c pytorch -c nvidia
   

4. 安装依赖

   使用 pip 安装项目所需的依赖：

   pip install -r requirements.txt
   

5. 下载模型权重

   您需要从官方源下载模型权重文件，并将其保存到本地任意路径。

6. 模型权重转换

   修改 convert_hf_format.sh 脚本中的 MODEL_DIR 为模型权重下载路径，然后运行脚本：

   bash convert_hf_format.sh
   

   这会将官方的模型权重转换为 transformers 库兼容的版本。

7. 启动 WebUI

   修改 webui.py 脚本中的 model_dir 为模型权重下载路径，然后运行：

   python webui.py
   

   第一次启动可能会有些延迟，因为需要对 bigvgan 进行 CUDA 核编译。

按照以上步骤操作，您应该能够成功安装并配置 index-tts-vllm 项目。接下来，您可以尝试使用该项目进行文本到语音的转换。