一文知道TinyML的演變

TinyML是世界上最新的深度學(xué)習(xí)和人工智能技術(shù)。它增強(qiáng)了微控制器中運(yùn)行機(jī)器學(xué)習(xí)模型的能力。

微控制器是我們幾乎每天使用的許多設(shè)備的大腦，從電視遙控器到電梯再到智能音箱，它們無(wú)處不在。它連接了多個(gè)傳感器、執(zhí)行器（如開(kāi)關(guān)和電機(jī)）。同時(shí)它擁有計(jì)算能力，可以執(zhí)行嵌入式代碼，從傳感器中獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標(biāo)志著終端用戶享受人工智能方式的重大轉(zhuǎn)變。來(lái)自硬件和軟件行業(yè)的供應(yīng)商正在合作將人工智能模型引入微控制器。

在電子設(shè)備中運(yùn)行復(fù)雜的深度學(xué)習(xí)模型的能力開(kāi)辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個(gè)微控制器上進(jìn)行本地運(yùn)行，可以進(jìn)行傳感器和執(zhí)行器的邏輯管理。

TinyML的演變

為了看到TinyML的力量，我們需要了解AI在云端和邊緣的演變。

第一階段-云計(jì)算中的人工智能

在人工智能早期，機(jī)器學(xué)習(xí)模型是在云中訓(xùn)練和托管的。運(yùn)行人工智能所需的巨大計(jì)算能力使云計(jì)算成為理想。開(kāi)發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU來(lái)訓(xùn)練模型，然后利用它們進(jìn)行推理。每一個(gè)使用人工智能的應(yīng)用都與云通信，最終與微控制器通信來(lái)管理傳感器和執(zhí)行器。

第二階段-邊緣AI

雖然云仍然是人工智能的主要發(fā)源地，但它卻同時(shí)引入了延遲。想象一下，每次與智能揚(yáng)聲器通話時(shí)，都需要云處理。往返通信中的延誤扼殺了體驗(yàn)。其他場(chǎng)景，如工業(yè)自動(dòng)化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運(yùn)行。

邊緣計(jì)算是云和本地物聯(lián)網(wǎng)設(shè)備之間的管道，成為本地托管人工智能模型的理想選擇。在邊緣運(yùn)行的人工智能不會(huì)受到延遲的影響。

但鑒于邊緣資源有限，訓(xùn)練和再訓(xùn)練模式仍然需要云。經(jīng)過(guò)訓(xùn)練的模型可以托管在邊緣進(jìn)行推理（即使用機(jī)器學(xué)習(xí)模型的過(guò)程），但不能用于訓(xùn)練。因此，在云中訓(xùn)練模型并將其部署到邊緣變得很常見(jiàn)。這種方法提供了最好的兩個(gè)世界-一個(gè)強(qiáng)大的用于訓(xùn)練的計(jì)算環(huán)境（云）和一個(gè)用于推理的低延遲托管環(huán)境（邊緣端）。

第三階段-微控制器中的人工智能

雖然在邊緣運(yùn)行AI對(duì)于許多用例來(lái)說(shuō)是一個(gè)完美的解決方案，但是在某些情況下部署邊緣計(jì)算層是不實(shí)際的。例如，將智能音箱和遙控器等消費(fèi)類設(shè)備連接到一個(gè)邊緣上就太過(guò)分了。它增加了設(shè)備的總擁有成本和供應(yīng)商的支持成本。但這些消費(fèi)設(shè)備實(shí)實(shí)在在是人工智能發(fā)展的溫床。

在工業(yè)場(chǎng)景中，預(yù)測(cè)性維護(hù)正成為設(shè)備的重要組成部分。昂貴的機(jī)器和設(shè)備需要嵌入機(jī)器學(xué)習(xí)模型來(lái)實(shí)時(shí)檢測(cè)異常情況，以提供預(yù)測(cè)性維護(hù)。通過(guò)主動(dòng)檢測(cè)故障，客戶可以節(jié)省數(shù)百萬(wàn)美元的維護(hù)成本。

將人工智能直接嵌入微控制器成為消費(fèi)者和工業(yè)物聯(lián)網(wǎng)場(chǎng)景的關(guān)鍵。這種方法不依賴于外部應(yīng)用程序、邊緣計(jì)算層或云。人工智能模型運(yùn)行的同時(shí)，將嵌入式代碼導(dǎo)入微控制器。它成為整體邏輯的一個(gè)組成部分，提供無(wú)與倫比的速度。

傳統(tǒng)上，機(jī)器學(xué)習(xí)模型總是部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入到微控制器中，所以它們不是資源密集型的。這種方法是將人工智能注入到物聯(lián)網(wǎng)設(shè)備的最有效和最具成本效益的方法。

TinyML的生態(tài)系統(tǒng)

雖然TinyML還處于初級(jí)階段，但它的生態(tài)系統(tǒng)正在形成。芯片和物聯(lián)網(wǎng)套件制造商，如Adafruit、聯(lián)發(fā)科、Arduino和ST都在其設(shè)備中支持TinyML。微軟的Azure Sphere認(rèn)證的安全微控制器，也可以運(yùn)行TinyML模型。Tensor Flow Lite是流行的開(kāi)源深度學(xué)習(xí)框架的延伸，可以移植到支持的設(shè)備上。另一個(gè)開(kāi)源機(jī)器學(xué)習(xí)編譯器Apache TVM也可以用來(lái)將模型轉(zhuǎn)換成TinyML。

新興的AutoML和TinyML平臺(tái)，如Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo正在構(gòu)建工具和開(kāi)發(fā)環(huán)境，以簡(jiǎn)化微控制器的訓(xùn)練和優(yōu)化模型過(guò)程。

TinyML使人工智能無(wú)處不在，并為消費(fèi)者所接受。它將為我們每天使用的數(shù)以百萬(wàn)計(jì)的設(shè)備帶來(lái)人工智能元素。
責(zé)任編輯人：CC