RKNPU2 连板调试完整指南rknn_server部署、日志调级与常见报错排查清单【免费下载链接】rknpu2项目地址: https://gitcode.com/gh_mirrors/rk/rknpu2RKNPU2 是瑞芯微Rockchip官方 NPU 运行时 SDK连板调试的核心就是让 PC 与开发板上的rknn_server代理服务正确通信。本文面向新手完整讲解 rknn_server 的部署步骤、日志等级调整方法以及一份可直接对照的常见报错排查清单帮助你在 RK3566/RK3568、RK3588、RV1103/RV1106 等平台上快速打通 RKNN 连板链路。一、连板调试是什么先理解 rknn_server 角色 RKNN 连板调试时PC 端只负责发协议真正的推理由板端完成。中间桥梁就是rknn_serverrknn_server运行在板子上的后台代理服务接收 PC 通过 USB 传输的协议调用板端 runtime 接口执行后把结果返回给 PClibrknnrt.so板端 runtime 库RK356X/RK3588 等使用librknnmrt.soRV1103/RV1106 平台专用的 runtime 库 部分固件如 Android 系统开机已自动启动 rknn_server可跳过启动步骤直接用ps |grep rknn_server确认。二、rknn_server 部署步骤2.1 版本与平台要求支持平台RK3566/RK3568、RK3588/RK3588S、RV1103/RV1106、RK3562使用动态形状输入模型时rknn_server 与 Runtime 库版本需≥ 1.5.0模型必须由 RKNN Toolkit 2 转换生成版本不匹配是连板失败的首要原因2.2 找到对应平台的 rknn_server 文件rknn_server 按平台存放于runtime/目录下以 Linux 平台为例的目录层次Linux └── rknn_server ├── aarch64/usr/bin # 64 位 Linux └── armhf/usr/bin # 32 位 Linux每个usr/bin目录内包含三个文件rknn_server、start_rknn.sh循环保活脚本、restart_rknn.sh一键重启脚本。2.3 Linux 平台一键启动RK356X / RK3588以 64 位 Linuxaarch64 目录为例执行三步将Linux/rknn_server/aarch64/usr/bin/下的所有文件推送到板子/usr/bin将Linux/librknn_api/aarch64/librknnrt.so推送到/usr/lib进入板子串口终端执行chmod x /usr/bin/rknn_server chmod x /usr/bin/start_rknn.sh chmod x /usr/bin/restart_rknn.sh restart_rknn.shrestart_rknn.sh会先杀掉旧进程再后台拉起新进程start_rknn.sh内置 while 循环rknn_server 意外退出后会自动拉起相当于进程守护。2.4 Android 平台部署64 位安卓系统选 arm64 目录32 位选 arm 目录adb root adb remount adb push Android/rknn_server/arm64/rknn_server /vendor/bin/ adb push Android/librknn_api/arm64/librknnrt.so /vendor/lib64/进入板子串口终端注意是串口不是 adb shellsu chmod x /vendor/bin/rknn_server sync reboot重启后执行ps |grep rknn_server检查进程。若不存在则手动启动su setenforce 0 /vendor/bin/rknn_server 2.5 RV1106/RV1103 平台启动RV1103/RV1106 使用32 位rknn_server 和librknnmrt.so路径为/oem/usrchmod x /oem/usr/bin/rknn_server chmod x /oem/usr/bin/start_rknn.sh chmod x /oem/usr/bin/restart_rknn.sh restart_rknn.sh官方连板调试说明可参考 rknn_server_proxy.md启动脚本原文见 start_rknn.sh。三、日志调级让 rknn_server 输出详细日志 默认日志级别较低排查问题时先调到最高等级5再复现问题。3.1 设置日志等级平台命令串口终端执行Androidsetprop persist.vendor.rknn.server.log.level 5LinuxRK356X/RK3588export RKNN_SERVER_LOGLEVEL5RV1106/RV1103export RKNN_SERVER_LOGLEVEL5⚠️ Android 的属性设置是持久的改完记得 kill 旧进程重启才生效Linux 的环境变量只对当前会话有效。3.2 重启进程使日志生效# Android先杀进程再拉起 kill -9 $(pgrep rknn_server) /vendor/bin/rknn_server logcatLinux / RV1106 平台只需执行restart_rknn.sh然后再次用 Python 接口连板推理串口终端即可看到 rknn_server 的详细输出。3.3 板端应用日志RKNN_LOG_LEVEL板端直接运行推理程序非连板时用另一个变量export RKNN_LOG_LEVEL3 # 打印 SRAM 逐层占用情况 export RKNN_LOG_LEVEL4 # 额外显示各层 MACs 利用率与带宽占用这对分析模型 SRAM 命中率、优化权重布局非常有用详见 RK3588_NPU_SRAM_usage.md。四、常见报错排查清单 ✅报错 / 现象平台解决方法failed to allocate fd, ret: -1, errno: 12RV1103/RV1106内存不足。运行RkLunch-stop.sh关闭其他占内存应用后再连板init_runtime加perf_debugTrue报错RV1103/RV1106该平台不支持此参数去掉即可accuracy_analysis运行失败全部板端存储容量不够用df -h确认剩余空间连板连接失败、无响应全部检查 USB 连接ps |grep rknn_server确认进程存活重启 rknn_server动态形状模型无法加载全部rknn_server 与 Runtime 库需升级到 ≥ 1.5.0模型加载报 op 不支持全部确认模型由 RKNN Toolkit 2 转换且工具版本与板端 runtime 匹配板端程序报找不到librknnrt.soRV1103/RV1106LD_LIBRARY_PATH必须设为全路径如export LD_LIBRARY_PATH/userdata/libAndroid 上启动被 SELinux 拦截Android执行setenforce 0后重新拉起进程排查顺序建议查进程 → 查版本 → 查日志 → 查内存/存储可解决绝大多数连板问题。五、验证部署跑一个 YOLOv5 demo 收尾 部署完成后用 YOLOv5 检测 demo 验证全链路。将 demo 推送到板子/userdata目录后运行export LD_LIBRARY_PATH./lib ./rknn_yolov5_demo model/RK3588/yolov5s-640-640.rknn model/bus.jpgdemo 使用的测试图片是一辆公交车640x640正常部署下应检测到 bus 类别能出检测框说明 rknn_server、runtime 库与模型版本三者匹配无误连板调试环境搭建完成 总结部署Linux 推/usr/bin后restart_rknn.sh一键启动Android 推/vendor/bin后重启板子RV1106 用 32 位 server 推/oem/usr/bin日志Android 用setprop persist.vendor.rknn.server.log.level 5Linux 用export RKNN_SERVER_LOGLEVEL5改完必须重启进程排查优先对照第四节清单内存与版本匹配是高频根因祝连板顺利【免费下载链接】rknpu2项目地址: https://gitcode.com/gh_mirrors/rk/rknpu2创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
RKNPU2 连板调试完整指南rknn_server部署、日志调级与常见报错排查清单【免费下载链接】rknpu2项目地址: https://gitcode.com/gh_mirrors/rk/rknpu2RKNPU2 是瑞芯微Rockchip官方 NPU 运行时 SDK连板调试的核心就是让 PC 与开发板上的rknn_server代理服务正确通信。本文面向新手完整讲解 rknn_server 的部署步骤、日志等级调整方法以及一份可直接对照的常见报错排查清单帮助你在 RK3566/RK3568、RK3588、RV1103/RV1106 等平台上快速打通 RKNN 连板链路。一、连板调试是什么先理解 rknn_server 角色 RKNN 连板调试时PC 端只负责发协议真正的推理由板端完成。中间桥梁就是rknn_serverrknn_server运行在板子上的后台代理服务接收 PC 通过 USB 传输的协议调用板端 runtime 接口执行后把结果返回给 PClibrknnrt.so板端 runtime 库RK356X/RK3588 等使用librknnmrt.soRV1103/RV1106 平台专用的 runtime 库 部分固件如 Android 系统开机已自动启动 rknn_server可跳过启动步骤直接用ps |grep rknn_server确认。二、rknn_server 部署步骤2.1 版本与平台要求支持平台RK3566/RK3568、RK3588/RK3588S、RV1103/RV1106、RK3562使用动态形状输入模型时rknn_server 与 Runtime 库版本需≥ 1.5.0模型必须由 RKNN Toolkit 2 转换生成版本不匹配是连板失败的首要原因2.2 找到对应平台的 rknn_server 文件rknn_server 按平台存放于runtime/目录下以 Linux 平台为例的目录层次Linux └── rknn_server ├── aarch64/usr/bin # 64 位 Linux └── armhf/usr/bin # 32 位 Linux每个usr/bin目录内包含三个文件rknn_server、start_rknn.sh循环保活脚本、restart_rknn.sh一键重启脚本。2.3 Linux 平台一键启动RK356X / RK3588以 64 位 Linuxaarch64 目录为例执行三步将Linux/rknn_server/aarch64/usr/bin/下的所有文件推送到板子/usr/bin将Linux/librknn_api/aarch64/librknnrt.so推送到/usr/lib进入板子串口终端执行chmod x /usr/bin/rknn_server chmod x /usr/bin/start_rknn.sh chmod x /usr/bin/restart_rknn.sh restart_rknn.shrestart_rknn.sh会先杀掉旧进程再后台拉起新进程start_rknn.sh内置 while 循环rknn_server 意外退出后会自动拉起相当于进程守护。2.4 Android 平台部署64 位安卓系统选 arm64 目录32 位选 arm 目录adb root adb remount adb push Android/rknn_server/arm64/rknn_server /vendor/bin/ adb push Android/librknn_api/arm64/librknnrt.so /vendor/lib64/进入板子串口终端注意是串口不是 adb shellsu chmod x /vendor/bin/rknn_server sync reboot重启后执行ps |grep rknn_server检查进程。若不存在则手动启动su setenforce 0 /vendor/bin/rknn_server 2.5 RV1106/RV1103 平台启动RV1103/RV1106 使用32 位rknn_server 和librknnmrt.so路径为/oem/usrchmod x /oem/usr/bin/rknn_server chmod x /oem/usr/bin/start_rknn.sh chmod x /oem/usr/bin/restart_rknn.sh restart_rknn.sh官方连板调试说明可参考 rknn_server_proxy.md启动脚本原文见 start_rknn.sh。三、日志调级让 rknn_server 输出详细日志 默认日志级别较低排查问题时先调到最高等级5再复现问题。3.1 设置日志等级平台命令串口终端执行Androidsetprop persist.vendor.rknn.server.log.level 5LinuxRK356X/RK3588export RKNN_SERVER_LOGLEVEL5RV1106/RV1103export RKNN_SERVER_LOGLEVEL5⚠️ Android 的属性设置是持久的改完记得 kill 旧进程重启才生效Linux 的环境变量只对当前会话有效。3.2 重启进程使日志生效# Android先杀进程再拉起 kill -9 $(pgrep rknn_server) /vendor/bin/rknn_server logcatLinux / RV1106 平台只需执行restart_rknn.sh然后再次用 Python 接口连板推理串口终端即可看到 rknn_server 的详细输出。3.3 板端应用日志RKNN_LOG_LEVEL板端直接运行推理程序非连板时用另一个变量export RKNN_LOG_LEVEL3 # 打印 SRAM 逐层占用情况 export RKNN_LOG_LEVEL4 # 额外显示各层 MACs 利用率与带宽占用这对分析模型 SRAM 命中率、优化权重布局非常有用详见 RK3588_NPU_SRAM_usage.md。四、常见报错排查清单 ✅报错 / 现象平台解决方法failed to allocate fd, ret: -1, errno: 12RV1103/RV1106内存不足。运行RkLunch-stop.sh关闭其他占内存应用后再连板init_runtime加perf_debugTrue报错RV1103/RV1106该平台不支持此参数去掉即可accuracy_analysis运行失败全部板端存储容量不够用df -h确认剩余空间连板连接失败、无响应全部检查 USB 连接ps |grep rknn_server确认进程存活重启 rknn_server动态形状模型无法加载全部rknn_server 与 Runtime 库需升级到 ≥ 1.5.0模型加载报 op 不支持全部确认模型由 RKNN Toolkit 2 转换且工具版本与板端 runtime 匹配板端程序报找不到librknnrt.soRV1103/RV1106LD_LIBRARY_PATH必须设为全路径如export LD_LIBRARY_PATH/userdata/libAndroid 上启动被 SELinux 拦截Android执行setenforce 0后重新拉起进程排查顺序建议查进程 → 查版本 → 查日志 → 查内存/存储可解决绝大多数连板问题。五、验证部署跑一个 YOLOv5 demo 收尾 部署完成后用 YOLOv5 检测 demo 验证全链路。将 demo 推送到板子/userdata目录后运行export LD_LIBRARY_PATH./lib ./rknn_yolov5_demo model/RK3588/yolov5s-640-640.rknn model/bus.jpgdemo 使用的测试图片是一辆公交车640x640正常部署下应检测到 bus 类别能出检测框说明 rknn_server、runtime 库与模型版本三者匹配无误连板调试环境搭建完成 总结部署Linux 推/usr/bin后restart_rknn.sh一键启动Android 推/vendor/bin后重启板子RV1106 用 32 位 server 推/oem/usr/bin日志Android 用setprop persist.vendor.rknn.server.log.level 5Linux 用export RKNN_SERVER_LOGLEVEL5改完必须重启进程排查优先对照第四节清单内存与版本匹配是高频根因祝连板顺利【免费下载链接】rknpu2项目地址: https://gitcode.com/gh_mirrors/rk/rknpu2创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
