RWKV C++ Accelerated 项目下载与安装教程

1. 项目介绍

RWKV C++ Accelerated 是一个无 PyTorch/libtorch 依赖的 RWKV 模型 C++/CUDA 实现。该模型使用 8 位量化，并支持 CUDA、HIP（AMD）和 Vulkan（All）等多种 GPU 加速技术，以达到最大兼容性和最小依赖性。项目包括 C++ 和 Python 的简单使用示例，支持 Windows 系统，并提供 HIP GPU 支持。

2. 项目下载位置

项目托管在 GitHub 上，您可以访问以下位置下载项目源代码：

https://github.com/harrisonvanderbyl/rwkv-cpp-accelerated.git

3. 项目安装环境配置

在安装项目之前，您需要确保以下环境配置正确：

• CUDA Toolkit
• HIP development tools
• Vulkan development tools

以下是环境配置的示例图片：

# 示例图片 1：CUDA Toolkit 安装界面
![CUDA Toolkit 安装界面](image1.jpg)

# 示例图片 2：HIP development tools 安装界面
![HIP development tools 安装界面](image2.jpg)

# 示例图片 3：Vulkan development tools 安装界面
![Vulkan development tools 安装界面](image3.jpg)

4. 项目安装方式

以下是项目安装的步骤：

1. 克隆项目到本地：

   git clone https://github.com/harrisonvanderbyl/rwkv-cpp-accelerated.git
   

2. 切换到项目目录：

   cd rwkv-cpp-accelerated
   

3. 创建构建目录并编译：

   mkdir build
   cd build
   cmake ..
   cmake --build . --config Release
   

4. 构建示例应用程序（例如 storygen）：

   # 根据您的系统和 GPU 类型选择以下命令之一
   build/script/storygen_linux_nvidia.sh
   build/script/storygen_windows_nvidia.bat
   build/script/storygen_linux_amd.sh
   build/script/storygen_linux_vulkan.sh
   

5. 运行构建的应用程序（确保模型文件在正确的位置）：

   ./build/storygen.exe
   

5. 项目处理脚本

项目处理脚本主要用于转换模型权重文件。以下是处理脚本的步骤：

1. 下载模型权重文件后，切换到 converter 目录。

2. 运行以下命令之一进行模型转换：

   GUI 方式：

   python3 convert_model.py
   

   命令行方式：

   python3 convert_model.py your_downloaded_model.pth
   

确保在 Windows 系统上使用 "x64 Native Tools Command Prompt for VS 2022" 终端运行上述命令。