Roleplay-with-XiYou 项目启动和配置文档

项目的目录结构及介绍

Roleplay-with-XiYou 项目是一个基于《西游记》的角色扮演聊天室，使用了 InternLM2 进行微调的多 LLM 模型。项目的目录结构如下：

• train: 存放训练相关的脚本和配置文件。
• tools: 存放数据获取和处理脚本。
• figure: 存放项目相关的图片。
• deploy: 存放部署相关的脚本和配置文件。
• README.md: 项目介绍和说明文件。
• requirements.txt: 项目依赖的第三方库列表。

项目的启动文件介绍

项目的启动文件主要集中在 train 和 deploy 目录下。

• train/Xtuner/q2a_api.py: 使用 OpenAI API 生成角色扮演对话数据的脚本。
• train/Xtuner/main.py: 使用 XTuner 进行模型微调的脚本。
• deploy/start_server.sh: 启动聊天室服务端的脚本。
• deploy/start_client.sh: 启动聊天室客户端的脚本。

项目的配置文件介绍

项目的配置文件主要集中在 train 和 deploy 目录下。

• train/Xtuner/config.yaml: XTuner 的配置文件，用于设置训练参数。
• deploy/config.yaml: 聊天室服务端的配置文件，用于设置服务端参数。

启动和配置步骤

1. 克隆项目：

git clone --recurse-submodules https://github.com/JimmyMa99/Roleplay-with-XiYou.git

2. 安装 LMDeploy：

conda create -n chatXY python=3.10 -y
pip install lmdeploy

3. 安装 XTuner：

cd train/Xtuner
pip install -e '.[all]'

4. 安装其他依赖：

pip install -r requirements.txt

5. 下载权重：

cd Roleplay-with-XiYou
git clone https://www.modelscope.cn/JimmyMa99/SanZang-Chat.git
git clone https://www.modelscope.cn/JimmyMa99/WuKong-Chat.git
git clone https://www.modelscope.cn/JimmyMa99/BaJie-Chat.git
git clone https://www.modelscope.cn/JimmyMa99/WuJing-Chat.git

6. 转换模型：

lmdeploy convert internlm2-chat-7b ./BaJie-Chat

7. 启动聊天室服务端：

cd deploy
python server_start.py

8. 启动聊天室客户端：

cd deploy
python client_start.py

9. 启动角色扮演模型：

cd deploy
python model_start.py

以上步骤完成后，就可以开始使用 Roleplay-with-XiYou 项目了。