SemiDrive X9 AI 開(kāi)發(fā)環(huán)境搭建

SemiDrive x9 AI 開(kāi)發(fā)環(huán)境搭建分開(kāi)發(fā)機(jī)端，開(kāi)發(fā)板端。

主要的工具是SDNN， 它是一個(gè)基于開(kāi)源編譯器框架TVM的端到端的AI編譯器框架, Semidrive對(duì)TVM編譯器框架做了適配，主要特性如下：

支持操作系統(tǒng)：Android 、 Linux 和 QNX ;

支持推理后端：CPU 、 GPU 、 SlimAI 和 AIPU ;

支持開(kāi)發(fā)及部署語(yǔ)言：C++ 和 Python ;

支持 異構(gòu) 和 同構(gòu) 模型部署模式;

支持 多進(jìn)程 和 多線程 應(yīng)用的開(kāi)發(fā);

以 ubuntu 18.04 為例，安裝 開(kāi)發(fā)機(jī)端環(huán)境。

1.安裝docker

$ sudo apt-get update

$ sudo apt install apt-transport-https ca-certificates curl software-properties-common

$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

$ sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu focal stable"

$ sudo apt-get update

$ sudo apt-get install docker-ce docker-ce-cli containerd.io

2. 從官網(wǎng)下載docker鏡像后解壓鏡像

$ tar zxvf sdnn_docker_{版本號(hào)}.tgz

$ ls *.img

sdnn_docker_{版本號(hào)}.img

3. 加載鏡像

$ docker load -i sdnn_docker_{版本號(hào)}.img

$ docker images

REPOSITORY TAG IMAGE ID CREATED SIZE

sdnn v3.1.0 756501bfa3c0 17 hours ago 24.3GB

4. 創(chuàng)建SDNN 開(kāi)發(fā)容器

$ docker run -it --rm \

--name ${容器名} \

-v ${掛載開(kāi)發(fā)機(jī)中的目錄}:${容器內(nèi)所映射的目錄} \

-e ${容器中的環(huán)境變量} \

${鏡像名}：${標(biāo)簽名} /bin/bash

$ docker run -it --name sdnn_$USER -v ${PWD}:$HOME sdnn:v3.1.0 /bin/bash

5. 進(jìn)入容器安裝SDNN

$ pip install sdnn-{sdnn版本號(hào)}-{python工具版本號(hào)}-{主機(jī)平臺(tái)}.whl

結(jié)果如下：

開(kāi)發(fā)板端：

1. 使用 sdnn_deploy.run 部署包，將其放到板子上任意路徑，執(zhí)行下述命令，可實(shí)現(xiàn)庫(kù)的自動(dòng)部署：

$ sh ./sdnn_deploy.run

2. 上述操作后，libtvm_runtime.so 、 opencv 和 libc++_shared 庫(kù)都將自動(dòng)部署到 /vendor/lib64 目錄。

環(huán)境搭建完成！

登錄大大通，提問(wèn)/評(píng)論，獲取技術(shù)文檔等更多資訊