首次在MEMS器件中嵌入AI技術(shù)，為邊緣計(jì)算創(chuàng)造機(jī)會(huì)

據(jù)麥姆斯咨詢報(bào)道，加拿大魁北克Universite de Sherbrooke（舍布魯克大學(xué)）的研究人員已經(jīng)成功地在MEMS（微機(jī)電系統(tǒng)）器件中設(shè)計(jì)了一種AI（人工智能）技術(shù)，這標(biāo)志著MEMS器件中首次嵌入了某種類型的AI能力。其研究成果是一種類似于人類大腦的神經(jīng)計(jì)算，只不過是在微型器件中運(yùn)行。這項(xiàng)研究成果意味著可以在微型器件內(nèi)進(jìn)行AI數(shù)據(jù)處理，從而為邊緣計(jì)算創(chuàng)造了無限可能。

單根硅橫梁（紅色）及其驅(qū)動(dòng)（黃色）和讀出（綠色和藍(lán)色）電極，實(shí)現(xiàn)了能夠進(jìn)行非凡計(jì)算的MEMS器件

“我們?nèi)ツ暌呀?jīng)寫了一篇論文，從理論上展示了可以實(shí)現(xiàn)MEMS人工智能，”該研究論文的共同作者舍布魯克大學(xué)教授Julien Sylvestre介紹說，“我們最新的突破是展示了一種可以在實(shí)驗(yàn)室中實(shí)現(xiàn)這一目標(biāo)的MEMS器件。”

該研究論文已發(fā)表于Journal of Applied Physics期刊，研究人員在他們的研究中展示了一種被稱為“儲(chǔ)備池計(jì)算”（reservoir computing）的AI方法。Sylvestre解釋說，要了解儲(chǔ)備池計(jì)算，需要了解一些關(guān)于人工神經(jīng)網(wǎng)絡(luò)如何運(yùn)行的知識。

人工神經(jīng)網(wǎng)絡(luò)是一種模仿大腦進(jìn)行信息處理的機(jī)器學(xué)習(xí)模型。前向神經(jīng)網(wǎng)絡(luò)適合處理靜態(tài)模式信息，而遞歸神經(jīng)網(wǎng)絡(luò)更適合處理動(dòng)態(tài)模式信息。利用通過時(shí)間的反向傳播（BPTT）算法對遞歸神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練計(jì)算代價(jià)很大，訓(xùn)練過程緩慢。研究發(fā)現(xiàn)，在利用 BPTT 算法訓(xùn)練遞歸神經(jīng)網(wǎng)絡(luò)過程中，輸入層和中間層的連接權(quán)變化緩慢，只有輸出連接權(quán)變化明顯。

受到這一發(fā)現(xiàn)的啟發(fā)，2001年和2002年分別提出了回聲狀態(tài)網(wǎng)絡(luò)和液體狀態(tài)機(jī)，隨后科研人員證明了回聲狀態(tài)網(wǎng)絡(luò)和液體狀態(tài)機(jī)本質(zhì)上一致，并概括為“儲(chǔ)備池計(jì)算”。

傳統(tǒng)儲(chǔ)備池計(jì)算示意圖

儲(chǔ)備池計(jì)算的核心思想就是利用一個(gè)儲(chǔ)備池代替?zhèn)鹘y(tǒng)神經(jīng)網(wǎng)絡(luò)中的中間層，輸入層到儲(chǔ)備池的輸入連接權(quán)和儲(chǔ)備池的內(nèi)部連接權(quán)均隨機(jī)生成并保持不變，訓(xùn)練過程中唯一需要確定的就是儲(chǔ)備池到輸出層的輸出連接權(quán)。儲(chǔ)備池計(jì)算大大簡化了遞歸神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程，并在信道均衡、時(shí)間序列預(yù)測、非線性系統(tǒng)建模、語音識別和自動(dòng)控制等領(lǐng)域獲得了成功應(yīng)用。

儲(chǔ)備池計(jì)算最常用于依賴于時(shí)間的輸入（與圖像等靜態(tài)輸入相反）。因此，儲(chǔ)備池計(jì)算采用由時(shí)間相關(guān)輸入驅(qū)動(dòng)的動(dòng)力學(xué)系統(tǒng)。動(dòng)力學(xué)系統(tǒng)選擇相對復(fù)雜，因此它對輸入的響應(yīng)可能與輸入本身完全不同。

此外，系統(tǒng)選擇具有多個(gè)自由度來響應(yīng)輸入。結(jié)果，輸入被“映射”到高維狀態(tài)空間，每個(gè)維度對應(yīng)于一個(gè)自由度。這產(chǎn)生了大量的信息“豐富性”，意味著輸入有許多不同的變換。

該系統(tǒng)的信號鏈和MEMS器件的SEM（掃描電子顯微鏡）圖像

“儲(chǔ)備池計(jì)算所使用的特殊技巧是線性地組合所有維度以獲得輸出，其輸出與我們希望計(jì)算機(jī)對給定輸入的答案相對應(yīng)，”Sylvestre說，“這就是我們所說的儲(chǔ)備池計(jì)算‘訓(xùn)練’。這種線性組合的計(jì)算非常簡單，與其他AI方法不同，人們會(huì)嘗試修改動(dòng)力學(xué)系統(tǒng)的內(nèi)部運(yùn)行以獲得所需要的輸出。”

在大多數(shù)儲(chǔ)備池計(jì)算系統(tǒng)中，其動(dòng)力學(xué)系統(tǒng)是軟件。在這項(xiàng)研究中，其動(dòng)力學(xué)系統(tǒng)就是MEMS器件本身。為了實(shí)現(xiàn)這種動(dòng)力學(xué)系統(tǒng)，這款MEMS器件利用了非常薄的硅梁在空間中振蕩的非線性動(dòng)力學(xué)特性。這些振蕩產(chǎn)生一種神經(jīng)網(wǎng)絡(luò)，將輸入信號轉(zhuǎn)換為神經(jīng)網(wǎng)絡(luò)計(jì)算所需的更高維空間。

Sylvestre解釋說，很難修改MEMS器件的內(nèi)在工作原理，但儲(chǔ)備池計(jì)算并不需要，這就是他們使用這種方案在MEMS中嵌入AI的原因。

“我們的研究表明，在MEMS器件中使用非線性源來嵌入AI是完全可能的，”Sylvestre說，“這是一種構(gòu)建‘人工智能’器件的新方向，它可以做得非常小且高效?！?/p>

據(jù)Sylvestre介紹，這種MEMS器件的處理能力很難與臺式計(jì)算機(jī)相比較。“計(jì)算機(jī)跟我們這款MEMS器件的工作方式截然不同，”他解釋說，“計(jì)算機(jī)很大并需要消耗大量功率（數(shù)十瓦），但我們的MEMS可以小到裝在人類頭發(fā)尖端上，并以微瓦級的功率運(yùn)行。并且，它們可以實(shí)現(xiàn)一些花式炫技的功能，比如對口語進(jìn)行分類，這項(xiàng)任務(wù)可能會(huì)占用臺式計(jì)算機(jī)10%的資源?！?/p>

據(jù)Sylvestre表示，這種配備AI的MEMS技術(shù)的一個(gè)可能的應(yīng)用比如MEMS加速度計(jì)，加速度計(jì)收集的所有數(shù)據(jù)都可以在器件內(nèi)部進(jìn)行處理，而不需要將數(shù)據(jù)再發(fā)送回計(jì)算機(jī)。

研究人員尚未專注研究如何為這種嵌入AI的MEMS器件供電，但這些器件極低的功耗可使它們僅依賴能量采集器便能支持運(yùn)行，從而無需電池供電。有基于此，研究人員正在尋求將他們的AI MEMS方案應(yīng)用于傳感和機(jī)器人控制。