RKNN-Toolkit2 安装与配置完整指南

项目概述

RKNN-Toolkit2 是面向 Rockchip 芯片的 AI 模型快速部署工具，支持将训练好的模型转换为 RKNN 格式，并在 Rockchip 的 NPU 平台上进行推理和性能评估。该工具包为开发者提供了模型转换、推理以及性能评估所需的完整 SDK。

核心功能特性

• 多框架支持：支持 Caffe、ONNX、PyTorch、TensorFlow、TFLite 等主流深度学习框架
• 高性能推理：充分利用 Rockchip NPU 硬件加速能力
• 模型优化：提供模型剪枝、混合量化等优化功能
• 跨平台兼容：支持多种 Rockchip 芯片平台

环境要求

操作系统支持

• Ubuntu 18.04 (Python 3.6/3.7)
• Ubuntu 20.04 (Python 3.8/3.9)
• Ubuntu 22.04 (Python 3.10/3.11)

硬件平台支持

• RK3566/RK3568 系列
• RK3588 系列
• RK3562 系列
• RV1103/RV1106

安装步骤详解

第一步：获取项目代码

git clone https://gitcode.com/gh_mirrors/rkn/rknn-toolkit2.git

第二步：安装 Python 依赖

进入项目目录，根据你的 Python 版本选择对应的依赖文件：

cd rknn-toolkit2
pip install -r rknn-toolkit2/packages/requirements_cp38-1.6.0.txt

主要依赖包包括：

• protobuf 3.20.3
• onnx 1.14.1
• torch 1.10.1
• tensorflow 2.8.0
• opencv-python 4.5.5.64

第三步：安装 RKNN-Toolkit2

选择合适的 wheel 包进行安装：

pip install rknn-toolkit2/packages/rknn_toolkit2-1.6.0+81f21f4d-cp38-cp38-linux_x86_64.whl

第四步：验证安装

运行示例代码验证安装是否成功：

cd rknn-toolkit2/examples
python test.py

快速开始示例

项目提供了丰富的示例代码，涵盖多种深度学习框架：

• Caffe 示例：mobilenet_v2、vgg-ssd
• ONNX 示例：resnet50v2、yolov5
• PyTorch 示例：resnet18、resnet18_qat、yolov5
• TensorFlow 示例：inception_v3_qat、ssd_mobilenet_v1
• 功能示例：精度分析、自定义算子、动态形状等

版本特性

当前最新版本 1.6.0 主要特性：

• 支持 ONNX 模型 OPSET 12~19
• 支持自定义算子（CPU 和 GPU）
• 优化动态加权卷积、Layernorm、RoiAlign 等算子
• 新增 Python 3.7/3.9/3.11 支持
• 添加 rknn_convert 函数

开发资源

项目包含完整的开发文档和示例代码：

核心文档：

• 快速入门指南
• 用户手册
• API 参考

示例代码位置：rknn-toolkit2/examples/

通过以上步骤，你可以顺利完成 RKNN-Toolkit2 的安装配置，开始在你的 Rockchip 设备上部署 AI 模型。