如何使用TinyML在內(nèi)存受限的設(shè)備上部署ML模型呢

介紹

這本書(shū)是關(guān)于 TinyML 的，TinyML 是一個(gè)快速發(fā)展的領(lǐng)域，位于機(jī)器學(xué)習(xí)和嵌入式系統(tǒng)的獨(dú)特交叉點(diǎn)，可以使 AI 在微控制器等極低功耗設(shè)備中應(yīng)用。

TinyML 是一個(gè)充滿機(jī)遇的激動(dòng)人心的領(lǐng)域。只需很少的預(yù)算，我們就可以賦予與周圍世界巧妙互動(dòng)的物體生命，并讓我們的生活方式變得更美好。本書(shū)想通過(guò)實(shí)例來(lái)掃除這些障礙，讓沒(méi)有嵌入式編程經(jīng)驗(yàn)的開(kāi)發(fā)者也能上手TinyML。每一章都將是一個(gè)獨(dú)立的項(xiàng)目，以學(xué)習(xí)如何使用 TinyML 的一些核心技術(shù)，與傳感器等電子組件接口，以及在內(nèi)存受限的設(shè)備上部署 ML 模型。

License

MIT license

Lattice tinyvision & tingyml

https://github.com/tinyvision-ai-inc

https://www.latticesemi.com/Products/DevelopmentBoardsAndKits/HimaxHM01B0

上面只是放了Lattice在低功耗FPGA Up5k上實(shí)現(xiàn)相關(guān)AI例程的參考鏈接，想關(guān)的可以自己搜索，官網(wǎng)上都有相關(guān)介紹，github上看著不像官方的，不過(guò)也有很多完整的參考設(shè)計(jì)。

Efinix TinyML

https://github.com/Efinix-Inc/tinyml/tree/661ae30f2bf5b083ab88c7a4e54f0185a859f9b8

Efinix 提供基于開(kāi)源 TensorFlow Lite for Microcontrollers (TFLite Micro) C++ 庫(kù)的 TinyML 平臺(tái)，該庫(kù)在 RISC-V 上運(yùn)行，帶有 Efinix TinyML 加速器。

本網(wǎng)站提供端到端設(shè)計(jì)流程，有助于在 Efinix FPGA 上部署 TinyML 應(yīng)用程序。介紹了從人工智能 (AI) 模型訓(xùn)練、訓(xùn)練后量化一直到使用 Efinix TinyML 加速器在 RISC-V 上運(yùn)行推理的設(shè)計(jì)流程。此外，還展示了 TinyML 在 Efinix 高度靈活的特定領(lǐng)域框架上的部署。

RISC-V SoC：

設(shè)計(jì)流程：

TinyAcc

https://github.com/kksweet8845/TinyAcc

這是一個(gè)實(shí)現(xiàn)具有下降功能的神經(jīng)網(wǎng)絡(luò)模型的項(xiàng)目。

總結(jié)

今天介紹的TunyML項(xiàng)目只有幾個(gè)，目前的應(yīng)用場(chǎng)景還是比較偏向于嵌入式微處理上，只有Lattice和Efinix FPGA在這方面推出了自己的IP及示例程序，而Lattice的發(fā)展更傾向于開(kāi)源的發(fā)展（靠開(kāi)源推廣），所以這方面的應(yīng)用是個(gè)“前途”還是“斷途”就仁者見(jiàn)仁智者見(jiàn)智了~

審核編輯：劉清