RKNN Toolkit2项目中关于RV1103/RV1106平台模型推理的注意事项

在Rockchip的RKNN Toolkit2项目中，不同硬件平台对于神经网络推理的支持存在一些关键差异。特别是针对RV1103、RV1106和RV1103B这一系列嵌入式AI芯片，其运行环境配置与其他Rockchip平台有明显区别。

对于大多数Rockchip平台，模型推理运行时的部署通常只需要推送librknnrt.so动态链接库到设备的/usr/lib目录即可。然而，RV1103/RV1106系列采用了不同的架构设计，需要特别注意以下两点：

1. 必须部署rknn_server服务程序到设备的/oem/usr/bin目录。这个服务程序负责处理神经网络推理请求，是RV1103/RV1106平台特有的组件。

2. 需要推送librknnmrt.so（注意是mrt而非普通的rt）到设备的/oem/usr/lib目录。这个库文件是专门为RV1103/RV1106系列优化的运行时库。

这种差异源于RV1103/RV1106系列采用了不同的系统架构和内存管理机制。该系列芯片通常运行在资源受限的嵌入式环境中，使用uclibc库而非标准的glibc，因此需要专门编译的二进制文件和库。

开发者在为RV1103/RV1106平台部署AI模型时，务必注意这些平台特定的要求，否则可能导致模型无法正常加载或运行。同时，也要注意目标路径的正确性，这些平台通常使用/oem分区而非标准的系统分区来存放应用程序和库文件。

理解这些平台差异对于在嵌入式设备上成功部署AI应用至关重要，特别是在资源受限的环境中。Rockchip为不同平台提供了针对性的解决方案，开发者需要根据目标硬件选择正确的部署方式。