一文知道TinyML的演變

TinyML是世界上最新的深度學習和人工智能技術。它增強了微控制器中運行機器學習模型的能力。

微控制器是我們幾乎每天使用的許多設備的大腦，從電視遙控器到電梯再到智能音箱，它們無處不在。它連接了多個傳感器、執(zhí)行器（如開關和電機）。同時它擁有計算能力，可以執(zhí)行嵌入式代碼，從傳感器中獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標志著終端用戶享受人工智能方式的重大轉變。來自硬件和軟件行業(yè)的供應商正在合作將人工智能模型引入微控制器。

在電子設備中運行復雜的深度學習模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個微控制器上進行本地運行，可以進行傳感器和執(zhí)行器的邏輯管理。

TinyML的演變

為了看到TinyML的力量，我們需要了解AI在云端和邊緣的演變。

第一階段-云計算中的人工智能

在人工智能早期，機器學習模型是在云中訓練和托管的。運行人工智能所需的巨大計算能力使云計算成為理想。開發(fā)人員和數(shù)據(jù)科學家利用高端CPU和GPU來訓練模型，然后利用它們進行推理。每一個使用人工智能的應用都與云通信，最終與微控制器通信來管理傳感器和執(zhí)行器。

第二階段-邊緣AI

雖然云仍然是人工智能的主要發(fā)源地，但它卻同時引入了延遲。想象一下，每次與智能揚聲器通話時，都需要云處理。往返通信中的延誤扼殺了體驗。其他場景，如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運行。

邊緣計算是云和本地物聯(lián)網(wǎng)設備之間的管道，成為本地托管人工智能模型的理想選擇。在邊緣運行的人工智能不會受到延遲的影響。

但鑒于邊緣資源有限，訓練和再訓練模式仍然需要云。經(jīng)過訓練的模型可以托管在邊緣進行推理（即使用機器學習模型的過程），但不能用于訓練。因此，在云中訓練模型并將其部署到邊緣變得很常見。這種方法提供了最好的兩個世界-一個強大的用于訓練的計算環(huán)境（云）和一個用于推理的低延遲托管環(huán)境（邊緣端）。

第三階段-微控制器中的人工智能

雖然在邊緣運行AI對于許多用例來說是一個完美的解決方案，但是在某些情況下部署邊緣計算層是不實際的。例如，將智能音箱和遙控器等消費類設備連接到一個邊緣上就太過分了。它增加了設備的總擁有成本和供應商的支持成本。但這些消費設備實實在在是人工智能發(fā)展的溫床。

在工業(yè)場景中，預測性維護正成為設備的重要組成部分。昂貴的機器和設備需要嵌入機器學習模型來實時檢測異常情況，以提供預測性維護。通過主動檢測故障，客戶可以節(jié)省數(shù)百萬美元的維護成本。

將人工智能直接嵌入微控制器成為消費者和工業(yè)物聯(lián)網(wǎng)場景的關鍵。這種方法不依賴于外部應用程序、邊緣計算層或云。人工智能模型運行的同時，將嵌入式代碼導入微控制器。它成為整體邏輯的一個組成部分，提供無與倫比的速度。

傳統(tǒng)上，機器學習模型總是部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入到微控制器中，所以它們不是資源密集型的。這種方法是將人工智能注入到物聯(lián)網(wǎng)設備的最有效和最具成本效益的方法。

TinyML的生態(tài)系統(tǒng)

雖然TinyML還處于初級階段，但它的生態(tài)系統(tǒng)正在形成。芯片和物聯(lián)網(wǎng)套件制造商，如Adafruit、聯(lián)發(fā)科、Arduino和ST都在其設備中支持TinyML。微軟的Azure Sphere認證的安全微控制器，也可以運行TinyML模型。Tensor Flow Lite是流行的開源深度學習框架的延伸，可以移植到支持的設備上。另一個開源機器學習編譯器Apache TVM也可以用來將模型轉換成TinyML。

新興的AutoML和TinyML平臺，如Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo正在構建工具和開發(fā)環(huán)境，以簡化微控制器的訓練和優(yōu)化模型過程。

TinyML使人工智能無處不在，并為消費者所接受。它將為我們每天使用的數(shù)以百萬計的設備帶來人工智能元素。
責任編輯人：CC