【亲测免费】 CMLM-ZhongJing 中医大语言模型技术文档

1. 安装指南

1.1 环境准备

• 操作系统: 推荐使用Linux或macOS系统。
• Python版本: 3.7及以上。
• 显卡: 推荐使用NVIDIA显卡，显存至少为8GB。

1.2 依赖安装

1. 安装Python依赖包：

   pip install -r requirements.txt
   

2. 安装PyTorch：

   pip install torch
   

1.3 模型下载

从Hugging Face下载模型权重：

git lfs install
git clone https://huggingface.co/CMLL/ZhongJing-2-1_8b

2. 项目的使用说明

2.1 启动WebDemo

克隆代码库后，使用以下命令启动基于Gradio的网页版Demo：

python WebDemo.py

2.2 单轮和多轮对话

在网页版Demo中，用户可以进行单轮或多轮对话，快速调用ZhongJing进行对话。

3. 项目API使用文档

3.1 API接口

• URL: /api/v1/chat
• Method: POST
• Request Body:

  {
    "message": "用户输入的对话内容"
  }
  

• Response:

  {
    "response": "模型生成的对话回复"
  }
  

3.2 示例

curl -X POST http://localhost:5000/api/v1/chat -H "Content-Type: application/json" -d '{"message": "我对三元汤的全过程很好奇，能否从简介、病历、症状、诊断和治疗，以及结果讨论等方面给我详细介绍？"}'

4. 项目安装方式

4.1 克隆代码库

git clone https://github.com/pariskang/CMLM-ZhongJing.git
cd CMLM-ZhongJing

4.2 安装依赖

pip install -r requirements.txt

4.3 启动服务

python app.py

通过以上步骤，用户可以顺利安装并使用CMLM-ZhongJing中医大语言模型，进行对话和API调用。