Science在線發(fā)表最新論文:科學(xué)家創(chuàng)造類似一種人造突觸,可以模仿神經(jīng)元在大腦中的通信方式。對(duì)于特定的任務(wù),人工突觸系統(tǒng)處理和記憶動(dòng)作所需的能量,僅相當(dāng)于最先進(jìn)的計(jì)算系統(tǒng)的十分之一。
模仿大腦,計(jì)算機(jī)能夠同時(shí)處理存儲(chǔ)和運(yùn)算了。
人腦可以在能耗很低的條件下具備同時(shí)學(xué)習(xí)和記憶大量信息的能力,而目前傳統(tǒng)的計(jì)算機(jī)系統(tǒng)只能先處理數(shù)據(jù),再移動(dòng)到存儲(chǔ)中。
最近,斯坦福大學(xué)和桑迪亞國(guó)家實(shí)驗(yàn)室的研究人員開發(fā)出一種類腦計(jì)算機(jī)的部分裝置:它類似一種人造突觸,可以模仿神經(jīng)元在大腦中的通信方式。對(duì)于特定的任務(wù),人工突觸系統(tǒng)處理和記憶動(dòng)作所需的能量,僅相當(dāng)于最先進(jìn)的計(jì)算系統(tǒng)的十分之一。
這項(xiàng)工作以在線論文形式發(fā)表在Science上。
研究人員稱,這些裝置中的9個(gè)(3x3)原型陣列在處理速度、能效、可再現(xiàn)性和耐久性方面表現(xiàn)優(yōu)于預(yù)期。
數(shù)據(jù)處理和信息存儲(chǔ)同時(shí)進(jìn)行,能耗僅需計(jì)算機(jī)的十分之一
該團(tuán)隊(duì)打造的人工突觸類似于改版的電池,研究人員可以調(diào)大或關(guān)閉兩個(gè)終端之間的電流,電流模仿大腦中的學(xué)習(xí)方式。
由斯坦福大學(xué)和桑迪亞國(guó)家實(shí)驗(yàn)室的研究人員設(shè)計(jì)的一系列人工突觸可以模擬人類大腦處理和存儲(chǔ)信息的方式。
這是一種特別高效的設(shè)計(jì),因?yàn)榇竽X中的數(shù)據(jù)處理和內(nèi)存存儲(chǔ)是一個(gè)動(dòng)作,而不是更傳統(tǒng)的計(jì)算機(jī)系統(tǒng)中那樣,先處理數(shù)據(jù),再移動(dòng)到存儲(chǔ)中。
了解這些設(shè)備如何在陣列中執(zhí)行是至關(guān)重要的一步,因?yàn)橄到y(tǒng)可以讓研究人員同時(shí)對(duì)多個(gè)人工突觸進(jìn)行編程,這比為每個(gè)突觸逐一編程要節(jié)約大量的時(shí)間,而且這種方式與大腦實(shí)際工作方式更加類似。
在之前對(duì)該設(shè)備的先前測(cè)試中,研究人員發(fā)現(xiàn),對(duì)于特定的任務(wù),人工突觸系統(tǒng)處理和記憶動(dòng)作所需的能量,僅相當(dāng)于最先進(jìn)的計(jì)算系統(tǒng)的十分之一。
不過(guò),研究人員擔(dān)心所有這些設(shè)備在較大陣列中協(xié)同工作可能會(huì)產(chǎn)生過(guò)高的功率,因此重新設(shè)計(jì)了每個(gè)設(shè)備以降低電流。雖然電池不如原來(lái)了,但人工突觸陣列更節(jié)能了。
中國(guó)科學(xué)家參與,性能超出預(yù)期
這個(gè)3×3陣列依賴于第二類設(shè)備作為陣列中突觸編程的開關(guān)。該設(shè)備由馬薩諸塞大學(xué)的Joshua Yang(楊建華)教授開發(fā),他也是該論文的共同作者之一。
他的學(xué)生Zhongrui Wang也參與了論文。
楊建華教授曾與南京大學(xué)物理學(xué)院繆峰教授課題組與南京大學(xué)現(xiàn)代工程與應(yīng)用科學(xué)學(xué)院王鵬教授等人合作,在可耐受超高溫存儲(chǔ)研究方面取得重要進(jìn)展。研究成果以Robust memristors based on layered two-dimensional materials(基于層狀二維材料的高魯棒性憶阻器)為題于2018年2月5日在Nature Electronics(《自然·電子學(xué)》)上發(fā)表。
論文鏈接:https://www.nature.com/articles/s41928-018-0021-4
在Science這篇論文中,研究人員發(fā)現(xiàn)陣列的性能超出了研究人員的預(yù)期。團(tuán)隊(duì)預(yù)測(cè)下一版本的系統(tǒng)設(shè)備測(cè)試需要使用特殊的高速電子設(shè)備。在測(cè)試了3×3陣列的能效后,研究人員對(duì)1024×1024大型突觸陣列進(jìn)行了計(jì)算機(jī)模擬,并估計(jì)系統(tǒng)可以使用目前用于智能手機(jī)或小型無(wú)人機(jī)的電池供電。研究人員還將設(shè)備進(jìn)行了超過(guò)十億次的開關(guān)操作,沒有發(fā)現(xiàn)其行為的任何退化現(xiàn)象。
圖:IFG神經(jīng)形態(tài)陣列的并行編程、XOR映射和仿真。
圖(A):將3×3的原型IFG陣列劃分為兩層神經(jīng)網(wǎng)絡(luò)的示意圖,分別用橙色和綠色表示。
圖(B):給出了4個(gè)變成模式的例子,它們隨電導(dǎo)的相對(duì)變化而變化,其中灰度表示更新強(qiáng)度。
除了加速權(quán)值更新步驟外,研究人員還演示了在使用3×3 IFG陣列將’exclusive or’函數(shù)(XOR)映射到一個(gè)兩層神經(jīng)網(wǎng)絡(luò)之后的推理(圖C)。
該網(wǎng)絡(luò)對(duì)所有XOR輸入進(jìn)行分類,準(zhǔn)確率為100%。crossbar被用于在推理過(guò)程中執(zhí)行模擬點(diǎn)積(圖D)和在寫入操作過(guò)程中執(zhí)行模擬外積更新(圖B)。
圖(E)顯示,最終得到的網(wǎng)絡(luò)達(dá)到了理想的精度。
目前剛剛觸及”問(wèn)題表面“,未來(lái)可期
展望未來(lái),研究團(tuán)隊(duì)希望將他們的人工突觸與傳統(tǒng)電子設(shè)備相結(jié)合,為小型設(shè)備上進(jìn)行人工智能學(xué)習(xí)邁出重要的一步。
“如果人的記憶系統(tǒng)能夠以我們提出的能源效率和速度來(lái)學(xué)習(xí),那么你甚至可以把它放在智能手機(jī)或筆記本電腦中?!痹撜撐淖髡咧?、研究生Scott Keene說(shuō)。
斯坦福大學(xué)材料科學(xué)與工程教授Alberto Salliio是本文共同通訊作者,他表示,這一發(fā)現(xiàn)將讓我們對(duì)自己的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,并在我們自己的設(shè)備上本地解決問(wèn)題,無(wú)需依靠數(shù)據(jù)傳輸。
研究人員還沒有對(duì)人工突觸陣列的學(xué)習(xí)效果進(jìn)行測(cè)試,但未來(lái)有計(jì)劃研究這個(gè)問(wèn)題。研究團(tuán)隊(duì)還希望了解他們的設(shè)備對(duì)不同環(huán)境條件(比如高溫)的承受能力,以及如何讓該系統(tǒng)與其他電子設(shè)備進(jìn)行集成。未來(lái)還有許多基礎(chǔ)問(wèn)題有待解答,以幫助研究人員準(zhǔn)確理解為什么他們的系統(tǒng)表現(xiàn)如此出色。
目前關(guān)注這個(gè)特定的架構(gòu)的團(tuán)隊(duì)不多,但研究人員認(rèn)為這是一個(gè)非常有前景的方向?!澳壳叭杂胁恍〉母倪M(jìn)空間,還有創(chuàng)造力尚待挖掘。我們才剛剛觸及問(wèn)題的表面而已?!?/p>
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
-
計(jì)算機(jī)系統(tǒng)
+關(guān)注
關(guān)注
0文章
289瀏覽量
24179 -
神經(jīng)元
+關(guān)注
關(guān)注
1文章
363瀏覽量
18497
原文標(biāo)題:最新Science:類腦“人造突觸”實(shí)現(xiàn)運(yùn)算存儲(chǔ)同步,能耗僅需計(jì)算機(jī)的十分之一
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論