迅為RK3588在 Linux 系統(tǒng)中使用 NPU

下載 rknpu2 并拷貝到虛擬機 Ubuntu，RKNPU2 提供了訪問 rk3588 芯片 NPU的高級接口。

下載地址為“iTOP-3588 開發(fā)板\02_【iTOP-RK3588 開發(fā)板】開發(fā)資料\12_NPU 使用配套資料\01_rknpu2 工具” 對于 RK3588 來說，Linux 平臺 RKNN SDK 庫文件為 librknnrt.so， RK3588 平臺 RKNN SDK 包含了 API 使用示例程序、NPU 運行庫、服務程序、文檔。

服務程序稱為 rknn_server，是在開發(fā)板上常駐的服務進程，用于連板推理。在 RKNN SDK 中提供了 Linux 平臺的 MobileNet 圖像分類、SSD 目標檢測、YOLOv5 目標檢測示例。這些Demo 能夠為客戶基于 RKNN SDK 開發(fā)自己的 AI 應用提供參考。

在 rknpu2/examples 中還有很多其他例子，下面以 rknpu2/examples 下的 rknn_yolov5_demo 在 RK3588 Linux 64 位平臺（buildroot 系統(tǒng)）上運行為例，來講解如何快速上手運行。整體思路分為三步：

1 在虛擬機Ubuntu20.04上交叉編譯 demo程序 rknn_yolov5_demo（demo已經(jīng)默認是rknn， 無需進行模型轉換）

2 部署到 iTOP-RK3588 開發(fā)板

3 在開發(fā)板上運行 demo

設置交叉編譯器

1 安裝 gcc 交叉編譯器，編譯器下載地址是網(wǎng)盤資料“iTOP-3588 開發(fā)板\02_【

iTOP-RK3588 開發(fā)板】開發(fā)資料\12_NPU 使用配套資料\03_編譯所需工具\Linux”。

拷貝 gcc-arm-10.3-2021.07-x86_64-aarch64-none-linux-gnu.tar.gz 到 Ubuntu 的/opt/tool_chain 目錄下，這里拷貝的路徑要和作者保持一致，后面要用到交叉編譯器的絕對路徑。

2 解壓交叉編譯器壓縮包

tar -vxf gcc-arm-10.3-2021.07-x86_64-aarch64-none-linux-gnu.tar.gz 解壓完成后備用！

修改編譯工具路徑

1 因為此章節(jié)以 rknn_yolov5_demo 在 RK3588 Linux 64 位平臺上運行為例，所以修改

examples/rknn_yolov5_demo/build-XXX.sh 的編譯工具路徑，

2 修改 build-linux_RK3588.sh 文件，將 TOOL_CHAIN 修改為

gcc-arm-10.3-2021.07-x86_64-aarch64-none-linux-gnu 的解壓路徑并保存修改文件，

TOOL_CHAIN=/opt/tool_chain/gcc-arm-10.3-2021.07-x86_64-aarch64-none-linux-gnu

GCC_COMPILER=$TOOL_CHAIN/bin/aarch64-none-linux-gnu

更新 RKNN 模型

RKNN 是 Rockchip NPU 平臺(也就是開發(fā)板)使用的模型類型，是以.rknn 結尾的模型文件。

RKNN SDK 提 供 的 demo 程 序 中 默 認 自 帶 了 RKNN 模 型 ， 在 RKNN SDK 的

examples/rknn_yolov5_demo/model/RK3588/目錄下，

如使用自己的模型需要轉換成 rknn 模型，轉換方法可以參考第 5 章節(jié)。

在得到 RKNN 模型之后，demo 程序使用 C 接口在 RK3588 平臺開發(fā)應用，

3.1.4 編譯 demo

1 在終端命令窗口進入 rknn_yolov5_demo 文件夾，輸入以下命令：

cd examples/rknn_yolov5_demo/

2 運行 build-linux_RK3588.sh 腳本編譯程序

./build-linux_RK3588.sh

3 編譯完成之后，編譯好的程序一般放在 install 目錄

4 網(wǎng) 盤 中 也 提 供 了 編 譯 好 的 Demo ， 可 以 在 網(wǎng) 盤 資 料 資 料 “iTOP-3588 開 發(fā) 板 \02_ 【iTOP-RK3588 開發(fā)板】開發(fā)資料\12_NPU 使用配套資料\02_NPU demo\Linux”下載。

開發(fā)板運行 demo

1 通過 U 盤拷貝 RKNPU2 工具中的 runtime/RK3588/Linux/librknn_api/aarch64/目錄下的文件到開發(fā)板的/usr/lib 目錄下。

2 把編譯好的程序 rknn_yolov5_demo_Linux 通過 U 盤拷貝到開發(fā)板的根目錄上，開發(fā)板上要 燒寫 linux 系統(tǒng)（buildroot）。

3 設置庫文件的路徑，輸入以下命令：

export LD_LIBRARY_PATH=./lib

4 進入程序所在的目錄，輸入以下命令：

cd /rknn_yolov5_demo_Linux

5 運行程序來識別相應的圖片中物體，輸入以下命令：

./rknn_yolov5_demo ./model/RK3588/yolov5s-640-640.rknn ./model/bus.jpg

6 運行完生成結果圖片 out.jpg，

7 拷貝生成的 out.jpg 到 U 盤中，

8 在 windows 下查看 out.jpg，