在MPU上實現(xiàn)AI模型的遷移與應(yīng)用流程

如今的MPU已不再是以前MPU了，性能是越來越強，用它來跑簡單的系統(tǒng)有點“大材小用”了。

今天結(jié)合瑞薩的RZ/V系列MPU，給大家講講嵌入式端推理應(yīng)用的完整流程，如下圖所示：

官方EVK會提供算法樣例相關(guān)的資料，包括如下內(nèi)容：

● 服務(wù)器（電腦）端模型訓(xùn)練程序源代碼。

●?模型轉(zhuǎn)換腳本程序（用于把訓(xùn)練的模型轉(zhuǎn)換成onnx格式模型）

●?DRP-AI Translator轉(zhuǎn)換工具

●?BSP源碼文件

●?交叉編譯環(huán)境SDK

●?RZ/V系列EVK推理樣例的源代碼

具體流程

1、模型訓(xùn)練的程序和模型轉(zhuǎn)換腳本程序，可根據(jù)自己的需要在個人電腦或服務(wù)器上進行環(huán)境搭建和應(yīng)用。

2、DRP-AI Translator轉(zhuǎn)換工具安裝，如下：

1) DRP-AI Translator安裝需要的環(huán)境

2) DRP-AI Translator安裝步驟

按以下步驟啟動DRP-AI Translator包：

$ sudo apt-get update
$ sudo apt-get install -y libgl1-mesa-dev wget libopencv-dev
$ sudo apt-get install -y python3-pip
$ pip3 install -U pip
$ chmod +x DRP-AI_Translator-v1.83-Linux-x86_64-Install
$ ./DRP-AI_Translator-v1.83-Linux-x86_64-Install

以交互方式繼續(xù)安裝。輸入“Enter”或“y”繼續(xù)。

This installer will guide you through the installation of DRP-AI Translator. Continue?
[n/Y] y

顯示安裝進度條后，會提示安裝完成，如下：

Installing DRP-AI_Translator...
Installing Program Files...
Installation complete.

當(dāng)前目錄下會生成如下目錄結(jié)構(gòu)：

$ tree -L 2 drp-ai_translator_release
drp-ai_translator_release/
├── DRP-AI_translator
│ ├── api_translator
│ ├── availability_checker
│ ├── converter
│ ├── drp_converter
│ ├── drplib
│ └── python_api
├── UserConfig
│ ├── sample
│ └── sample_scripts
├── onnx
│ ├── (resnet50v1.onnx) (Can be automatically downloaded) │ ├── tiny_yolov2.onnx
│ ├── (vgg16.onnx) (Can be automatically downloaded)
│ └── yolov2.onnx
├── output
├── run_DRP-AI_translator_V2L.sh
└── run_DRP-AI_translator_V2M.sh

依賴項由安裝程序自動安裝。

以下是主要依賴項列表：

3) 模型轉(zhuǎn)換所需的文件

模型轉(zhuǎn)換需要DRP-AI Mac地址配置文件、模型推理前處理后處理配置文件、onnx模型文件，如下圖

模型轉(zhuǎn)換所需的配置文件默認路徑為./UserConfig。

onnx模型文件默認路徑為./onnx

4) 模型轉(zhuǎn)換

可以執(zhí)行如下指令進行模型轉(zhuǎn)換：

$ cd drp-ai_translator_release
$ ./run_DRP-AI_translator_V2M(L).sh test -onnx ./onnx/modelA.onnx

其中test為模型轉(zhuǎn)換后輸出的文件名，modelA.onnx為需要轉(zhuǎn)換的模型名稱。

審核編輯;黃飛

?