千芯科技推出了針對芯來RISC-V平臺的AI部署工具包

千芯科技推出了針對芯來RISC-V平臺的AI部署工具包（tinyAI SDK），使用戶可以基于該先進(jìn)技術(shù)快速部署基于芯來RISC-V內(nèi)核的AIoT應(yīng)用。在芯來UX600上，實測的AI應(yīng)用實現(xiàn)11.01倍（相較原生AI算法）的顯著推斷性能提升。千芯科技的tinyAI SDK成為首個支持芯來UX600圖像AI計算部署與加速的工具包。

千芯科技tinyAI SDK

一直以來，端側(cè)RISC-V以其靈活可裁剪高性價比的優(yōu)勢，不斷擴(kuò)展其在各個領(lǐng)域的應(yīng)用。隨著各類型科技巨頭逐漸入局RISC-V應(yīng)用產(chǎn)品，RISC-V的AIoT應(yīng)用成為業(yè)界關(guān)注的重點。以往基于端側(cè)RISC-V開發(fā)AI應(yīng)用，要面對缺少開發(fā)包、部署復(fù)雜、AI性能不理想等痛點問題。這使得端側(cè)RISC-V在AIoT上的部署一度面臨困境。

千芯科技本次推出的tinyAI SDK，基于芯來科技的UX600開發(fā)板，成功搭載了基于端側(cè)RISC-V內(nèi)核進(jìn)行人臉檢測與人臉識別的AI應(yīng)用，證明了端側(cè)RISC-V芯片在AIoT領(lǐng)域廣闊的應(yīng)用前景。

演示中使用的人臉檢測算法基于UX600實現(xiàn)的人臉檢測，輸入兩張包含人臉的圖片，檢測并輸出人臉區(qū)域：

tinyAI SDK在芯來UX600上運(yùn)行人臉檢測并輸出人臉區(qū)域

部署了tinyAI SDK的UX600，能夠高效的進(jìn)行AI計算/人臉識別。在人臉檢測后，進(jìn)行了人臉識別，并輸出人臉特征值的相似度。

tinyAI SDK在芯來UX600上運(yùn)行人臉識別/比對的輸出結(jié)果如圖所示：

tinyAI SDK 在芯來UX600上運(yùn)行人臉識別/比對的輸出結(jié)果

相較原生算法，tinyAI使得端側(cè)人臉識別的性能提到11.01倍。

千芯科技的tinyAI SDK將AI模型剪枝、量化等先進(jìn)技術(shù)整合入工具包，并針對RISC-V內(nèi)核的存儲、架構(gòu)特點進(jìn)行了針對性的特定優(yōu)化。千芯科技的tinyAI，不僅方便了AI算法在端側(cè)RISC-V平臺的部署，更大大加速了AI算法的性能，使得端側(cè)AI應(yīng)用實用化。

本次Demo實測使用的硬件平臺是芯來科技提供的加載UX600內(nèi)核的 FPGA 板卡：

芯來UX600平臺

千芯科技與芯來科技的本次合作為RISC-V生態(tài)的發(fā)展注入了新的活力，為端側(cè)RISC-V生態(tài)拓展出更加廣闊的AI空間。

責(zé)任編輯：xj

原文標(biāo)題：千芯科技助力芯來RISC-V平臺AIoT應(yīng)用

文章出處：【微信公眾號：芯來科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。