微處理器也能實(shí)現(xiàn)機(jī)器學(xué)習(xí)？

今年2月，來(lái)自谷歌、微軟、高通、三星和6所大學(xué)的一組研究人員齊聚加州圣何塞，討論將機(jī)器學(xué)習(xí)帶到網(wǎng)絡(luò)最遠(yuǎn)端的挑戰(zhàn)，尤其是運(yùn)行在傳感器或其他電池驅(qū)動(dòng)設(shè)備上的微處理器中。

這就是盛大的“微型機(jī)器學(xué)習(xí)峰會(huì)”，該峰會(huì)的主旨是找出如何在最小的微處理器上運(yùn)行機(jī)器學(xué)習(xí)算法。在邊緣的學(xué)習(xí)將推動(dòng)更好的隱私實(shí)踐，更低的功耗，并在未來(lái)的設(shè)備中構(gòu)建新應(yīng)用。

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練是機(jī)器學(xué)習(xí)的核心，這種訓(xùn)練需要大量的數(shù)據(jù)。最終會(huì)把它訓(xùn)練成一個(gè)無(wú)論是下圍棋還是響應(yīng)語(yǔ)音指令的任務(wù)模型。

許多公司目前專注于為機(jī)器學(xué)習(xí)構(gòu)建專門(mén)的硅材料，以便在數(shù)據(jù)中心內(nèi)訓(xùn)練網(wǎng)絡(luò)。他們還希望在邊緣使用硅來(lái)對(duì)機(jī)器學(xué)習(xí)模型進(jìn)行推理運(yùn)行數(shù)據(jù)，以查看數(shù)據(jù)是否與模型的結(jié)果相匹配。但是，這個(gè)微型機(jī)器學(xué)習(xí)生態(tài)群（Tiny ML）的目標(biāo)是對(duì)最小的處理器進(jìn)行推理，比如為遠(yuǎn)程傳感器供電的8位微控制器。

如果我們討論的是智能手機(jī)之類(lèi)的東西，那么在邊緣推理方面已經(jīng)有了很大進(jìn)展。在2019年11月，谷歌開(kāi)放了兩個(gè)版本的機(jī)器學(xué)習(xí)算法的源代碼，其中一個(gè)運(yùn)行所需的能量減少了50%，另一個(gè)運(yùn)行速度是之前版本的兩倍。還有一些初創(chuàng)公司，如Flex Logix、Greenwaves和Syntiant，使用專用的硅來(lái)應(yīng)對(duì)類(lèi)似的挑戰(zhàn)。

但是Tiny ML有不同的目標(biāo)。想象一下，如果機(jī)器學(xué)習(xí)模型，能夠把對(duì)話和助聽(tīng)器上的背景噪音區(qū)分開(kāi)來(lái)。如果您無(wú)法在設(shè)備本身上安裝該模型，那么您就需要在運(yùn)行在該模型上的云保持無(wú)線連接。但如果您能夠安裝它的話，直接在助聽(tīng)器上運(yùn)行該模型更有效、更安全。

Tiny ML的研究人員也在嘗試在電池供電的邊緣設(shè)備上使用ML來(lái)進(jìn)行更好的數(shù)據(jù)分類(lèi)。Latent AI公司首席執(zhí)行長(zhǎng)Jags Kandasamy表示，他的公司正在與制造增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)耳機(jī)相關(guān)公司進(jìn)行談判。Latent AI正在開(kāi)發(fā)用于微型處理器的神經(jīng)網(wǎng)絡(luò)壓縮軟件。這些公司希望利用他們的耳機(jī)收集的大量圖像數(shù)據(jù)，對(duì)設(shè)備上看到的圖像進(jìn)行分類(lèi)，這樣他們就可以將有用的數(shù)據(jù)發(fā)送到云上，供以后培訓(xùn)使用。 “如果你已經(jīng)看到了10輛豐田皇冠，它們真的有必要轉(zhuǎn)移到云端嗎？”Kandasamy問(wèn)道。

由于機(jī)器學(xué)習(xí)通常需要大量的電力，而將設(shè)備上的數(shù)據(jù)進(jìn)行分類(lèi)可以減少收集到云中的數(shù)據(jù)量，從而節(jié)省帶寬和電力。

當(dāng)涉及到機(jī)器學(xué)習(xí)時(shí)，很多人覺(jué)得數(shù)據(jù)越大才越好，但我對(duì)將機(jī)器學(xué)習(xí)應(yīng)用到邊緣的潛力感到興奮。盡管Tiny ML仍然專注于推理的挑戰(zhàn)，也許有一天我們甚至可以考慮在邊緣上訓(xùn)練網(wǎng)絡(luò)本身。