IBM類腦芯片NorthPole實(shí)現(xiàn)快速高效的人工智能

來源:《半導(dǎo)體芯科技》雜志文章

美國IBM公司最新推出一款類腦芯片-NorthPole，將220億個(gè)晶體管封裝在僅800平方毫米的面積內(nèi)。這款芯片將其計(jì)算模塊與存儲信息的模塊交織在一起，允許每個(gè)計(jì)算核心像訪問相鄰的存儲塊一樣輕松地訪問遠(yuǎn)程存儲塊，大大加快了計(jì)算單元和存儲單元之間信息交換的速度。

據(jù)報(bào)道，NorthPole是受人腦機(jī)理啟發(fā)的芯片。受大腦啟發(fā)的電子產(chǎn)品經(jīng)常采用的一種策略是復(fù)制生物神經(jīng)元計(jì)算和存儲數(shù)據(jù)的方式，而將處理器和內(nèi)存結(jié)合起來可以顯著減少計(jì)算機(jī)在這些組件之間傳輸數(shù)據(jù)時(shí)損失的能量和時(shí)間。這也是在模仿人類大腦以極其節(jié)能的方式快速執(zhí)行計(jì)算。

“大腦比現(xiàn)代計(jì)算機(jī)節(jié)能得多，部分原因是它在每個(gè)神經(jīng)元中都存儲著計(jì)算記憶。NorthPole融合了類腦計(jì)算和硅優(yōu)化計(jì)算、計(jì)算和內(nèi)存、硬件和軟件之間的界限?！盜BM類腦計(jì)算首席科學(xué)DHARMENDRA MODHA表示。

NorthPole建立在IBM之前的類腦芯片TrueNorth基礎(chǔ)上，TrueNorth于2014年首次亮相，其功耗比當(dāng)時(shí)的傳統(tǒng)微處理器低四個(gè)數(shù)量級。經(jīng)過八年的開發(fā)，NorthPole大幅降低了成本，速度大約是TrueNorth的4000倍。

Northpole采用了12nm工藝制造，在約800平方毫米的面積里放置了220億個(gè)晶體管，擁有256個(gè)計(jì)算單元內(nèi)核，在8-bit精度下每個(gè)計(jì)算單元每個(gè)周期可執(zhí)行2048次操作，如果換成4-bit或2-bit精度，操作次數(shù)則翻倍。

IBM研究院表示，由于芯片采用了ResNet-50神經(jīng)網(wǎng)絡(luò)模型，推理性能優(yōu)于所有主流架構(gòu)，超過了4nm工藝制造的GPU。根據(jù)IBM公司的測試結(jié)果：NorthPole在執(zhí)行人工智能任務(wù)時(shí)，與目前市場上同類微芯片相對比，其速度達(dá)到其22倍，每瓦能效大約是其25倍，而占地面積卻只有五分之一。

Modha說：新芯片的速度和效率來自于其所有內(nèi)存都位于芯片本身上。這意味著每個(gè)內(nèi)核都可以輕松地訪問芯片上的內(nèi)存。而從外部來看，NorthPole像是一個(gè)活動的存儲芯片，這有助于將NorthPole集成到系統(tǒng)中。

在傳統(tǒng)芯片架構(gòu)里，處理單元與儲存信息是相互分開的，這樣雖然簡化了芯片設(shè)計(jì)，但卻因傳輸速度不及處理速度出現(xiàn)“馮·諾伊曼瓶頸”。NorthPole在架構(gòu)上，模糊了計(jì)算和存儲之間的界限，使其更容易整合到系統(tǒng)中，而且明顯減少了主機(jī)的負(fù)載。

IBM認(rèn)為NorthPole的潛在應(yīng)用可能包括圖像和視頻分析、語音識別，以及作為大型語言模型基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)（為ChatGPT等聊天機(jī)器人提供動力）。而這些人工智能任務(wù)可能會應(yīng)用于自動駕駛汽車、機(jī)器人、數(shù)字助理和衛(wèi)星觀測等領(lǐng)域。

科學(xué)家們指出，IBM采用12納米節(jié)點(diǎn)工藝制造NorthPole。目前CPU的最先進(jìn)技術(shù)已經(jīng)是3納米，這表明這種受大腦啟發(fā)的策略可能會帶來進(jìn)一步的收益。

IBM的科學(xué)家在2023年10月出版的《SCIENCE》雜志上詳細(xì)介紹了他們的研究成果。

審核編輯 黃宇