神經(jīng)擬態(tài)芯片將成為未來高級(jí)AI部署的主要計(jì)算架構(gòu)

翻譯自——nextplatform

英特爾最新的神經(jīng)形態(tài)系統(tǒng)——Pohoiki Springs，該系統(tǒng)于2020年3月發(fā)布，它集成了768個(gè)Loihi神經(jīng)形態(tài)研究芯片，其底盤大小相當(dāng)于5臺(tái)標(biāo)準(zhǔn)服務(wù)器。據(jù)悉，英特爾發(fā)布的這一款面向神經(jīng)擬態(tài)計(jì)算的實(shí)驗(yàn)研究系統(tǒng)，是一種可模擬人腦工作方式的先進(jìn)方法，僅用極少能量就能更快完成計(jì)算。

神經(jīng)形態(tài)計(jì)算要成為系統(tǒng)的一部分還有很長的路要走。盡管一些用例顯示了顯著的前景，但將問題映射到架構(gòu)仍然是一個(gè)不小的挑戰(zhàn)。此外，像量子計(jì)算一樣，大多主要的芯片和系統(tǒng)廠商都對(duì)探索技術(shù)可能性深感興趣，英特爾也不例外。

由于可以用神經(jīng)形態(tài)芯片解決的問題范圍仍然有限，英特爾將重點(diǎn)放在了一個(gè)非常具體的用例上，以突出基于“Loihi”架構(gòu)的64芯片系統(tǒng)的進(jìn)步。它們使用一個(gè)叫做“Pohoiki Springs”的系統(tǒng)，它已經(jīng)擴(kuò)展到768個(gè)Loihi芯片(1億個(gè)神經(jīng)元)，把它安裝在一個(gè)5U機(jī)架底座的英特爾處理器中，并展示了一個(gè)神經(jīng)形態(tài)系統(tǒng)如何用一個(gè)小的訓(xùn)練樣本，在一個(gè)只消耗300瓦功率的系統(tǒng)中如何精確的地識(shí)別氣味。

神經(jīng)擬態(tài)芯片將成為未來主要武器？

據(jù)技術(shù)研究公司Gartner預(yù)測，到2025年，神經(jīng)擬態(tài)芯片將成為新的高級(jí)人工智能部署的主要計(jì)算架構(gòu)。Gartner預(yù)計(jì)，到2025年，該技術(shù)有望取代圖形處理器，成為用于AI系統(tǒng)（尤其是神經(jīng)網(wǎng)絡(luò)）的主要計(jì)算機(jī)芯片之一。神經(jīng)網(wǎng)絡(luò)用于語音識(shí)別和理解，以及計(jì)算機(jī)視覺領(lǐng)域。

通過神經(jīng)擬態(tài)計(jì)算，只需使用在傳統(tǒng)計(jì)算硬件上訓(xùn)練機(jī)器學(xué)習(xí)模型所需的一小部分?jǐn)?shù)據(jù)，即可訓(xùn)練機(jī)器學(xué)習(xí)模型。英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室主任Mike Davies表示：“這意味著模型的學(xué)習(xí)方式類似于人類嬰兒的學(xué)習(xí)方式，只需看一眼圖像或玩具，就能永遠(yuǎn)記住?！?br />
“如此就[有可能]實(shí)現(xiàn)一些今天難以處理的計(jì)算”，因?yàn)檫@些計(jì)算需要消耗大量能量或耗用太多時(shí)間。Davies還表示，如果出現(xiàn)大范圍停電的情況，神經(jīng)擬態(tài)計(jì)算可以自動(dòng)幫助識(shí)別某些最迫切需要電力的區(qū)域。神經(jīng)擬態(tài)計(jì)算還可以幫助消費(fèi)者更準(zhǔn)確地找到與特定產(chǎn)品圖片相似或匹配的物品。

Davies表示，Pohoiki Springs系統(tǒng)不同于傳統(tǒng)機(jī)器，其內(nèi)存和計(jì)算元件彼此交融，而不是相互獨(dú)立。這樣就能把數(shù)據(jù)傳輸?shù)木嚯x降至最低，因?yàn)樵趥鹘y(tǒng)計(jì)算架構(gòu)中，數(shù)據(jù)必須在內(nèi)存和計(jì)算之間來回流動(dòng)。

英特爾研究人員最近使用單個(gè)神經(jīng)擬態(tài)研究芯片來訓(xùn)練AI系統(tǒng)識(shí)別有害氣味，每個(gè)氣味使用一個(gè)訓(xùn)練樣本，而先進(jìn)的深度學(xué)習(xí)方法則需要使用3000個(gè)樣本，因此神經(jīng)擬態(tài)計(jì)算所需的能量極低。

在實(shí)驗(yàn)中，機(jī)器學(xué)習(xí)模型能夠檢測出化學(xué)傳感器中不同的氣味，例如氨、丙酮和甲烷的氣味，即使它們被不同的氣味所掩蓋。這些氣味表明可能存在爆炸物和毒品。

Pohoiki Springs系統(tǒng)的機(jī)箱為五個(gè)標(biāo)準(zhǔn)服務(wù)器大小，內(nèi)部有大約770個(gè)這樣的神經(jīng)擬態(tài)研究芯片。Davies表示，該系統(tǒng)擁有大約1億個(gè)神經(jīng)元的計(jì)算能力，大致相當(dāng)于鼴鼠的大腦。

埃森哲技術(shù)研究院（Accenture Labs）首席研究科學(xué)家Edy Liongosari表示，神經(jīng)擬態(tài)計(jì)算的其中一項(xiàng)主要優(yōu)勢包括，可以用更低能量執(zhí)行基于AI的計(jì)算。

能耗會(huì)對(duì)大規(guī)模AI部署形成阻礙。麻省大學(xué)阿默斯特分校的研究人員稱，開發(fā)一款A(yù)I模型，其碳足跡就相當(dāng)于五輛普通美國汽車的終生排放量。

自2018年以來，埃森哲技術(shù)研究院就一直與英特爾的神經(jīng)擬態(tài)計(jì)算研究人員合作，研究該技術(shù)能在哪些方面對(duì)聯(lián)網(wǎng)設(shè)備（例如持續(xù)進(jìn)行運(yùn)動(dòng)檢測的安全攝像頭）中使用的AI算法帶來幫助。神經(jīng)擬態(tài)芯片最終有可能嵌入攝像頭中?！霸谀承┯美?，能量彌足珍貴，”Liongosari先生表示。

這種攝像頭會(huì)不斷對(duì)大量數(shù)據(jù)進(jìn)行分析，因此需要使用能量來識(shí)別入侵等異常情況。神經(jīng)擬態(tài)計(jì)算可以為機(jī)器學(xué)習(xí)算法提供幫助，使用遠(yuǎn)少于傳統(tǒng)算法的訓(xùn)練數(shù)據(jù)就能識(shí)別入侵。

Pohoiki Beach真的能夠像人類大腦那般思考？

對(duì)于新研制的“Pohoiki Springs”是基于英特爾的“Nahuku”基板，每個(gè)板包含8到32個(gè)Loihi處理器，它是一個(gè)由2到8個(gè)板組成的64處理器系統(tǒng)(英特爾沒有提供確切配置的細(xì)節(jié)，包括芯片和基板是如何聯(lián)網(wǎng)的。同樣的系統(tǒng)現(xiàn)在已經(jīng)擴(kuò)展到前面提到的768個(gè)芯片。

Loihi是2017年9月英特爾實(shí)驗(yàn)室推出的自學(xué)習(xí)神經(jīng)形態(tài)芯片，基于14nm的制程工藝，管芯尺寸60毫米，包含超過20億個(gè)晶體管、13萬個(gè)人工神經(jīng)元和1.3億個(gè)突觸。它作為多核網(wǎng)格的實(shí)現(xiàn)，到2020年將大幅增加，神經(jīng)元數(shù)量將超過100萬個(gè)。每個(gè)核心包含一個(gè)“學(xué)習(xí)引擎”，可以支持不同類型的人工智能模型，包括監(jiān)督、非監(jiān)督和強(qiáng)化學(xué)習(xí)等。根據(jù)Intel介紹，Loihi在處理稀疏編碼、圖形搜索和約束滿足問題等應(yīng)用程序方面比cpu快1000倍，效率高10000倍。該芯片已經(jīng)通過云服務(wù)和Kapoho Bay平臺(tái)(一個(gè)基于Loihi的USB形狀因子設(shè)備)提供給英特爾神經(jīng)形態(tài)研究社區(qū)(INRC)的研究人員。

與大腦一樣，Loihi處理某些高要求的工作負(fù)載的速度比傳統(tǒng)處理器快1000倍，效率高10000倍。Pohoiki Springs是擴(kuò)展此架構(gòu)的下一步計(jì)劃，以評(píng)估其解決人工智能問題以及解決各種計(jì)算難題的潛力。英特爾研究人員認(rèn)為，與當(dāng)今最先進(jìn)的傳統(tǒng)計(jì)算機(jī)相比，神經(jīng)形態(tài)系統(tǒng)的極端并行性和異步信令可能在大幅降低功率級(jí)別的情況下提供顯著的性能提升。

據(jù)英特爾神經(jīng)形態(tài)計(jì)算項(xiàng)目的負(fù)責(zé)人Mike Davies介紹，這些特殊的系統(tǒng)可以被醫(yī)生用來嗅出疾病，比如在機(jī)場探測武器、藥物、炸彈或危險(xiǎn)化學(xué)品的制造地點(diǎn)。

雖然使用專門的神經(jīng)形態(tài)體系結(jié)構(gòu)和繁瑣的編程套件來完成所有這些工作聽起來有些牽強(qiáng)，但是神經(jīng)網(wǎng)絡(luò)也可以選擇類似的模式(就像谷歌和其他人所展示的那樣)，神經(jīng)形態(tài)系統(tǒng)有一些傳統(tǒng)的深度學(xué)習(xí)模型和機(jī)器無法觸及的特性。能源效率和時(shí)間是兩個(gè)最突出優(yōu)勢。

效率的提高來自于在神經(jīng)形態(tài)系統(tǒng)上完全集成計(jì)算機(jī)和存儲(chǔ)器。流指令和數(shù)據(jù)不需要通過單獨(dú)的內(nèi)存。所有東西都集成到一個(gè)分布式的計(jì)算和內(nèi)存結(jié)構(gòu)中。Davies解釋，這一切都?xì)w結(jié)于不對(duì)稱特性。“想讓系統(tǒng)進(jìn)行通信是一個(gè)能量消耗問題。如果你沒有發(fā)送任何0二進(jìn)制值就意味著不使用能源。以這種時(shí)間方式發(fā)送信息，在某個(gè)時(shí)間點(diǎn)發(fā)送編碼是一種發(fā)送信息的方式，你可以用這些代碼來計(jì)算，這樣你就可以選擇“0”狀態(tài)?！皢栴}是，要達(dá)到那種狀態(tài)，需要重新思考算法。這就是“spiking”神經(jīng)形態(tài)系統(tǒng)中尖峰的全部含義。

“Pohoiki Springs將我們的Loihi神經(jīng)形態(tài)研究芯片擴(kuò)大了750倍以上，同時(shí)運(yùn)行的功率水平低于500瓦。該系統(tǒng)使我們的研究伙伴能夠探索在傳統(tǒng)架構(gòu)(包括高性能計(jì)算(HPC)系統(tǒng))上運(yùn)行緩慢的工作負(fù)載的加速方法?！?br />
根據(jù)滑鐵盧大學(xué)教授、應(yīng)用大腦研究部聯(lián)合首席執(zhí)行官Chris Eliasmith的說法，Loihi芯片在運(yùn)行實(shí)時(shí)深度學(xué)習(xí)基準(zhǔn)的功耗降低了109倍，而與專用物聯(lián)網(wǎng)推理硬件相比，功耗則降低了5倍。如果將網(wǎng)絡(luò)規(guī)模擴(kuò)大50倍，Loihi能夠保持實(shí)時(shí)性能表現(xiàn)，功耗卻只增加了30%，傳統(tǒng)物聯(lián)網(wǎng)硬件功耗則已經(jīng)增加了500%。

所以英特爾Pohoiki Beach系統(tǒng)擅長的工作十分突出。工作人員能夠利用這套系統(tǒng)高效擴(kuò)展新型神經(jīng)啟發(fā)式算法——例如稀疏編碼、同步定位和建圖（SLAM）以及路徑規(guī)劃，這些算法能夠根據(jù)輸入的數(shù)據(jù)進(jìn)行學(xué)習(xí)和調(diào)整。Pohoiki Beach是英特爾神經(jīng)擬態(tài)研究工作的重要里程碑，它為英特爾研究院在今年晚些時(shí)候?qū)⒃摷軜?gòu)擴(kuò)展到1億個(gè)神經(jīng)元的計(jì)劃奠定了基礎(chǔ)。

舉個(gè)例子，英特爾Pohoiki Beach系統(tǒng)可以突破傳統(tǒng)通用計(jì)算技術(shù)的性能桎梏，對(duì)諸如自動(dòng)駕駛、智能家居、網(wǎng)絡(luò)安全有更明顯的效率提升效率。由于不需要全局時(shí)鐘信號(hào)，使用的是異步脈沖神經(jīng)網(wǎng)絡(luò)(SNN)，Pohoiki Beach能更高效的解決數(shù)量龐大IoT物聯(lián)網(wǎng)所帶來的問題。

從理論上說，英特爾Loihi芯片可以擴(kuò)展到最多16384顆芯片互連，相當(dāng)于20億個(gè)神經(jīng)元，能夠接近人腦860億個(gè)神經(jīng)元2%的數(shù)量。不要小看對(duì)比數(shù)字微不足道，摩爾定律在前沿領(lǐng)域依然奏效，如果有需要，Loihi的參數(shù)也將會(huì)呈指數(shù)級(jí)增長。能模擬人腦方式進(jìn)行思考的方式，興許不會(huì)太遙遠(yuǎn)了。