英特爾神經(jīng)擬態(tài)技術(shù)的商業(yè)化之路

近日，英特爾公布了參與其“英特爾神經(jīng)擬態(tài)研究社區(qū)”1(INRC)的學(xué)術(shù)組織、政府機(jī)構(gòu)和企業(yè)研究團(tuán)體名單，并在10月份舉行的首屆INRC研討會(huì)上探討了取得的研究進(jìn)展。INRC的目標(biāo)是解決主流計(jì)算應(yīng)用在采用神經(jīng)擬態(tài)架構(gòu)方面所面臨的挑戰(zhàn)。INRC成員將使用英特爾的Loihi研究芯片作為研發(fā)活動(dòng)的架構(gòu)焦點(diǎn)。英特爾希望該團(tuán)體取得的成果未來(lái)能夠推動(dòng)神經(jīng)擬態(tài)架構(gòu)、軟件和系統(tǒng)的改進(jìn)，最終讓這項(xiàng)前景廣闊的技術(shù)實(shí)現(xiàn)商業(yè)化。

英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室總監(jiān)Mike Davies表示：“盡管在計(jì)算堆棧的各個(gè)層級(jí)都有很多重要的神經(jīng)擬態(tài)計(jì)算研究問(wèn)題有待解答，但我們認(rèn)為目前神經(jīng)擬態(tài)硬件的開發(fā)狀態(tài)引領(lǐng)著神經(jīng)擬態(tài)計(jì)算軟件的進(jìn)展?fàn)顩r。我們深信，INRC成員網(wǎng)絡(luò)將迅速推進(jìn)神經(jīng)擬態(tài)學(xué)習(xí)算法的狀態(tài)，并展示這種新興技術(shù)在廣泛應(yīng)用中的價(jià)值?！?/p>

Kapoho Bay是英特爾基于Loihi神經(jīng)擬態(tài)研究芯片系統(tǒng)所設(shè)計(jì)的一種USB接口計(jì)算設(shè)備代號(hào)。它為L(zhǎng)oihi提供USB接口，以便訪問(wèn)外圍設(shè)備。

共計(jì)50個(gè)項(xiàng)目入選INRC。參與這些項(xiàng)目的INRC成員將獲準(zhǔn)使用英特爾Loihi神經(jīng)擬態(tài)研究芯片和軟件，并將受邀參加技術(shù)研討會(huì)，他們可以在會(huì)上與團(tuán)隊(duì)分享神經(jīng)擬態(tài)研究的相關(guān)進(jìn)展、結(jié)果和見解。INRC支持的研討會(huì)將提供給成員參與針對(duì)Loihi延伸開發(fā)的實(shí)踐教程和由英特爾實(shí)驗(yàn)室研究人員及合作方組織的編程馬拉松活動(dòng)。

在50個(gè)入選項(xiàng)目中，來(lái)自13所大學(xué)的團(tuán)隊(duì)的研究計(jì)劃將獲得經(jīng)費(fèi)支持。這些團(tuán)隊(duì)來(lái)自世界各地的眾多學(xué)術(shù)機(jī)構(gòu)，其中包括伯爾尼大學(xué)、加利福尼亞大學(xué)伯克利分校、加利福尼亞大學(xué)圣地亞哥分校、康奈爾大學(xué)、哥廷根大學(xué)、格拉茨科技大學(xué)、哈佛大學(xué)、慕尼黑工業(yè)大學(xué)、拉德堡德大學(xué)、田納西大學(xué)以及維拉諾瓦大學(xué)。

按照預(yù)定計(jì)劃，這些項(xiàng)目分四輪啟動(dòng)，第一輪已于2018年第三季度開始。

10月份，英特爾在冰島雷克雅未克舉行了INRC會(huì)員的首次會(huì)議。60余名研究人員出席了為期五天的會(huì)議，在會(huì)上討論了研究計(jì)劃、了解了Loihi的情況，并與此團(tuán)體的其他成員會(huì)面。INRC老會(huì)員作了多場(chǎng)報(bào)告，其間公布了一些令人振奮的初步進(jìn)展。

來(lái)自ABR公司（Applied Brain Research Inc.）*的Chris Eliasmith分享了早期基準(zhǔn)測(cè)試結(jié)果，該測(cè)試評(píng)估了Loihi運(yùn)行一個(gè)用ABR公司Nengo DL（能夠在Loihi上運(yùn)行TensorFlow訓(xùn)練的網(wǎng)絡(luò)）實(shí)現(xiàn)音頻關(guān)鍵詞定位的深層網(wǎng)絡(luò)的性能表現(xiàn)2。這些結(jié)果表明，對(duì)于實(shí)時(shí)流數(shù)據(jù)推理應(yīng)用，Loihi可以提高兩倍乃至50多倍相比于傳統(tǒng)架構(gòu)的能效，具體效果視采用的架構(gòu)而定。

來(lái)自格拉茨科技大學(xué)理論計(jì)算機(jī)科學(xué)研究所的Wolfgang Maass教授談到，他的團(tuán)隊(duì)發(fā)現(xiàn)了一種極具前景的新型脈沖神經(jīng)網(wǎng)絡(luò)，這種網(wǎng)絡(luò)能實(shí)現(xiàn)不亞于“長(zhǎng)短期記憶”(LSTM)網(wǎng)絡(luò)——一種先進(jìn)的深度學(xué)習(xí)模型——的分類精度。LSTM如今常用于語(yǔ)音識(shí)別和自然語(yǔ)言處理應(yīng)用。這些新的脈沖神經(jīng)網(wǎng)絡(luò)3名為L(zhǎng)SNN，能夠以類似LSTM的方式將工作內(nèi)存整合到其運(yùn)行中，同時(shí)還能保證在神經(jīng)擬態(tài)硬件上運(yùn)行時(shí)效率會(huì)顯著提高。這項(xiàng)成果是使用模擬器開發(fā)而成，已在12月份的“神經(jīng)信息處理系統(tǒng)會(huì)議”上發(fā)表。Maass的團(tuán)隊(duì)現(xiàn)在正與英特爾實(shí)驗(yàn)室合作，致力于將網(wǎng)絡(luò)映射到Loihi。該團(tuán)隊(duì)分享了Loihi網(wǎng)絡(luò)的早期準(zhǔn)確率結(jié)果，目前的準(zhǔn)確率處于理想模型的百分之幾以內(nèi)。

來(lái)自康奈爾大學(xué)的Thomas Cleland教授就一套用于在脈沖神經(jīng)網(wǎng)絡(luò)中進(jìn)行信號(hào)恢復(fù)和識(shí)別的神經(jīng)擬態(tài)算法進(jìn)行了討論，這套算法的計(jì)算原理是受哺乳動(dòng)物嗅覺(jué)系統(tǒng)啟發(fā)而得。在將與英特爾研究院合作發(fā)表的工作中，這些在Loihi上運(yùn)行的算法在化學(xué)傳感器數(shù)據(jù)集上展示了最先進(jìn)的學(xué)習(xí)和分類性能。Cleland表示：“這些算法源自對(duì)哺乳動(dòng)物大腦嗅覺(jué)回路的機(jī)械研究，但我預(yù)計(jì)，它們將廣泛適用于一系列類似的計(jì)算問(wèn)題，例如空氣質(zhì)量和水質(zhì)評(píng)估、癌癥篩查，以及基因組表達(dá)譜分析?！?/p>

神經(jīng)擬態(tài)計(jì)算要求自下而上地徹底重新考慮計(jì)算機(jī)架構(gòu)。運(yùn)用對(duì)神經(jīng)科學(xué)產(chǎn)生的最新見解，旨在制造出的芯片不那么像傳統(tǒng)電腦的運(yùn)作方式，而更類似于人腦。神經(jīng)擬態(tài)芯片使用可根據(jù)事件發(fā)生時(shí)間調(diào)整的脈沖和可塑性突觸，以模擬大腦神經(jīng)元的交流和學(xué)習(xí)方式。這些芯片旨在根據(jù)習(xí)得的模式和關(guān)聯(lián)進(jìn)行自我組織和決策。

英特爾的目標(biāo)是使神經(jīng)擬態(tài)芯片終有一天能夠像大腦一樣快速高效地學(xué)習(xí)，而大腦性能遠(yuǎn)遠(yuǎn)超出當(dāng)今性能最強(qiáng)大的計(jì)算機(jī)。神經(jīng)擬態(tài)計(jì)算或?qū)⒋偈?a target="_blank">機(jī)器人、智慧城市基礎(chǔ)架構(gòu)及其他需要不斷學(xué)習(xí)并適應(yīng)不斷演變的真實(shí)數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)跨越式發(fā)展。

去年，英特爾推出了Loihi神經(jīng)擬態(tài)測(cè)試芯片4，這款獨(dú)一無(wú)二的研究芯片前所未有地結(jié)合了神經(jīng)擬態(tài)特征、效率、規(guī)模和片上學(xué)習(xí)能力。Loihi是INRC項(xiàng)目的架構(gòu)基礎(chǔ)。英特爾讓INRC會(huì)員能夠使用這一領(lǐng)先的神經(jīng)擬態(tài)芯片，以加快這一研究領(lǐng)域的進(jìn)展。

英特爾已經(jīng)向參與計(jì)劃的INRC會(huì)員發(fā)布了適用于Loihi的軟件開發(fā)工具包早期版本Nx SDK。研究人員可以通過(guò)遠(yuǎn)程登錄英特爾的神經(jīng)擬態(tài)云服務(wù)來(lái)使用Loihi硬件和Nx SDK，從而開發(fā)自己的算法、軟件和應(yīng)用程序。此外，英特爾還支持ABR公司接入Nengo軟件框架，使其與Loihi協(xié)同工作。Nengo現(xiàn)供研究人員免費(fèi)使用。

Loihi硬件已經(jīng)向部分INRC會(huì)員開放，供他們?cè)跈C(jī)器人等需要直接訪問(wèn)硬件的領(lǐng)域開展研究。這些系統(tǒng)包括代號(hào)為 “Kapoho Bay” 的USB接口計(jì)算設(shè)備。除了提供連接到Loihi的USB接口之外，Kapoho Bay還提供一個(gè)事件驅(qū)動(dòng)型硬件接口，可連接到iniVation DAVIS 240C DVS硅視網(wǎng)膜攝像頭*以及其他外圍設(shè)備。

明年，英特爾和INRC會(huì)員將通過(guò)出版物和開源軟件的形式，向公共領(lǐng)域貢獻(xiàn)大量的功能軟件和研究成果。INRC會(huì)員數(shù)量預(yù)計(jì)將穩(wěn)步增長(zhǎng)；隨著基礎(chǔ)算法和SDK組件日趨成熟，英特爾預(yù)計(jì)研究課題將越來(lái)越側(cè)重于現(xiàn)實(shí)世界里的技術(shù)應(yīng)用，最終促進(jìn)神經(jīng)擬態(tài)技術(shù)實(shí)現(xiàn)商業(yè)化。

英特爾歡迎有興趣加入INRC和Loihi開發(fā)的神經(jīng)科學(xué)家、計(jì)算科學(xué)家和機(jī)器學(xué)習(xí)研究人員發(fā)送電子郵件到inrc_interest@intel.com了解更多信息。

此外，英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室將在以下兩項(xiàng)活動(dòng)中針對(duì)Loihi系統(tǒng)和軟件提供全天教學(xué)指導(dǎo)：3月13日在日本神戶舉行的2019年Riken國(guó)際神經(jīng)擬態(tài)計(jì)算研討會(huì)5，以及3月29日在紐約奧爾巴尼舉行的2019年神經(jīng)啟發(fā)計(jì)算元件(NICE)研討會(huì)6。教學(xué)指導(dǎo)面向這些研討會(huì)的所有注冊(cè)參加者開放。