類腦芯片的商用夢

“拋棄馮諾依曼架構(gòu)”，“模仿人類大腦計(jì)算”，近年來，這些噱頭為類腦芯片吸引了不少人的注意。他們相中了這類“非傳統(tǒng)”芯片在AI上的潛力，畢竟將AI計(jì)算做到大規(guī)模和低功耗還是一件不小壯舉。因此類腦芯片被諸多低功耗邊緣應(yīng)用看好，而傳統(tǒng)的密集型云端計(jì)算的重任仍然擔(dān)在傳統(tǒng)的AI芯片的肩上。

無論是Fabless，還是IDM，不少大廠其實(shí)都在關(guān)注邊緣AI的市場，比如英特爾的Movidius和英偉達(dá)的Jetson等等。但市面上也有一些廠家在發(fā)力類腦芯片的開發(fā)，同時(shí)探索新架構(gòu)的芯片上將用到怎樣的軟件開發(fā)生態(tài)。因?yàn)檫@些類腦芯片往往用到的是脈沖神經(jīng)網(wǎng)絡(luò)（SNN），直接拿常用的卷積神經(jīng)網(wǎng)絡(luò)（CNN）或人工神經(jīng)網(wǎng)絡(luò)（ANN）硬套的話，是萬萬行不通的。也正是因?yàn)檐浻布系碾p重挑戰(zhàn)，限制了類腦芯片的商用。

鉆研5載的英特爾

英特爾的類腦芯片已經(jīng)研究了近5年之久了，早在2017年英特爾就發(fā)布了基于14nm制程的Loihi芯片，該芯片具備13萬個(gè)神經(jīng)元，1.3億個(gè)神經(jīng)突觸。2021年英特爾又公布了Loihi的繼任者Loihi 2，該芯片基于更名后的Intel 4制程，將芯片大小從60mm2縮小至31mm2，卻依然集成了百萬個(gè)神經(jīng)元和1.2億神經(jīng)突觸。

Loihi 2類腦芯片 / 英特爾

雖然這些Loihi芯片都具備可觀的規(guī)模，但類腦芯片并沒有走向HPC的高性能之路，而是繼續(xù)堅(jiān)持低功耗的優(yōu)勢，這一點(diǎn)從英特爾在評(píng)估Loihi時(shí)進(jìn)行的應(yīng)用展示也可以看出。英特爾稱在三年多的研究中，他們嘗試的應(yīng)用有自適應(yīng)機(jī)器臂控制、學(xué)習(xí)與識(shí)別新的氣味與手勢、比視覺輸入延遲更低的無人機(jī)電機(jī)控制，以及解決鐵路調(diào)度等優(yōu)化問題。在這些應(yīng)用中，與傳統(tǒng)CPU加GPU方案動(dòng)輒幾百瓦的功耗相比，Loihi的功耗甚至不到1W，可以做到mW級(jí)的功耗和ms級(jí)響應(yīng)時(shí)間。

當(dāng)然了，單靠類腦芯片的硬件是遠(yuǎn)遠(yuǎn)不夠的，類腦芯片商業(yè)化進(jìn)展緩慢的一大原因就是缺乏清晰高效的編程模型，為此英特爾開發(fā)了一個(gè)開源類腦計(jì)算框架Lava。Lava不僅支持離線訓(xùn)練，還可以集成TensorFlow、PyTorch和ROS這樣的第三方框架，開發(fā)者可以自行對其進(jìn)行擴(kuò)展。

Oheo Gulch板卡 / 英特爾

不過英特爾的Intel 4制程還未正式面世，目前只準(zhǔn)備了兩種Loihi 2硬件供研究人員遠(yuǎn)程線上測試，一個(gè)是用于早期評(píng)估的單片系統(tǒng)Oheo Gulch，另一個(gè)則是尚未面世的8芯片系統(tǒng)Kapoho Point。

率先商用的Brainchip

英特爾的類腦芯片尚處于發(fā)展初期階段，即便是第二代Loihi目前也僅僅只是研究芯片，并沒有一個(gè)定下來的商用路線。反觀其他的大廠，IBM的TrueNorth芯片已經(jīng)多年沒有動(dòng)靜，而三星的類腦芯片雖然已經(jīng)宣布可量產(chǎn)，但還沒有任何成品或設(shè)計(jì)面世。反倒是一家名不見經(jīng)傳的公司，BrainChip，最先開啟了類腦芯片的商業(yè)化道路。

Akida類腦處理器 / BrainChip

去年10月BrainChip發(fā)布了兩款開發(fā)套件，分別是用于x86的Shuttle PC套件和用于Arm樹莓派的套件，兩個(gè)套件均采用了BrainChip的類腦芯片 AKD1000。AKD1000類腦芯片基于BrainChip 的Akida IP和臺(tái)積電28nm制程，卻做到了120萬個(gè)神經(jīng)元和100億的神經(jīng)突觸的規(guī)模，功耗范圍在微瓦級(jí)到毫瓦級(jí)。BrainChip也為Akida處理器準(zhǔn)備了MetaTF這一開發(fā)環(huán)境，支持利用Python編程語言和Jupyter notebooks、Numpy這樣的開發(fā)工具和庫，輕易將CNN轉(zhuǎn)換成SNN。

除了PCIe和Mini-PCIe的開發(fā)套件外，Akida也開始在汽車市場露面了。在今年CES梅賽德斯奔馳展示的Vision EQXX概念車中，其語音控制系統(tǒng)就用到了BrainChip的Akida類腦芯片。根據(jù)梅賽德斯奔馳的聲明，Akida類腦芯片為其語音控制系統(tǒng)中的關(guān)鍵詞檢測提供了更低的功耗，與傳統(tǒng)的語音控制方案相比效率提升了5到10倍。從BrainChip的急速商業(yè)化來看，類腦芯片并不一定要像英特爾的Loihi一樣用上先進(jìn)制程，也能做到優(yōu)秀的性能。

浙大的達(dá)爾文芯片

不少高校同樣開展了類腦芯片的研究，其中之一就是浙江大學(xué)。2015年和2019年，浙江大學(xué)分別推出了第一代和第二代達(dá)爾文類腦計(jì)算芯片，其聯(lián)合之江實(shí)驗(yàn)室也在2020年成功研制出當(dāng)時(shí)神經(jīng)元規(guī)模最大的類腦計(jì)算機(jī)Darwin Mouse。該計(jì)算機(jī)內(nèi)部包含792顆達(dá)爾文2代類腦芯片，共1.2億神經(jīng)元，近千億神經(jīng)突觸，功耗范圍在350W到500W范圍內(nèi)，由此計(jì)算達(dá)爾文2代類腦芯片的單片規(guī)模為15萬神經(jīng)元和1.2億神經(jīng)突觸左右。

這792顆芯片采用了每四顆芯片組成一塊板子，再由多塊板子組成模塊打造類腦計(jì)算機(jī)，由此可見的達(dá)爾文2代類腦計(jì)算芯片的擴(kuò)展性。為了完成神經(jīng)元的高效互聯(lián)和調(diào)用，其科研人員還開發(fā)了面向該計(jì)算機(jī)的類腦操作系統(tǒng)DarwinOS，并基于該計(jì)算機(jī)和操作系統(tǒng)完成了多種智能任務(wù)，比如多個(gè)抗洪搶險(xiǎn)機(jī)器人的協(xié)同、基于腦電信號(hào)的“意念打字”和音樂詩詞的時(shí)序記憶等。

不過這樣的類腦計(jì)算機(jī)體積依然是一個(gè)問題，在792顆芯片的拼裝下，這臺(tái)計(jì)算機(jī)占據(jù)了3個(gè)1.6米高的機(jī)柜，如何進(jìn)一步減小芯片體積都是實(shí)現(xiàn)邊緣AI計(jì)算最急迫的問題。而且達(dá)爾文芯片的規(guī)模還有提升的空間，Darwin Mouse類腦計(jì)算機(jī)的神經(jīng)元和突觸規(guī)模看似很大，與生物大腦相比也就只有小鼠大腦的規(guī)模，離人類的大腦規(guī)模還有很大的差距。雖然可以犧牲體積，但這與邊緣AI的愿景就有些背道而馳了。

結(jié)語

從目前的應(yīng)用市場來看，類腦芯片尚處于一個(gè)研究發(fā)展階段，還存在軟硬件開發(fā)不成熟的問題。雖然已經(jīng)有了大廠入局，但目前連量產(chǎn)都不成熟，應(yīng)用方向上也在探索傳統(tǒng)AI芯片走過的老路。固然類腦芯片的前景值得期待，至于大規(guī)模商用，仍是一個(gè)比較遙遠(yuǎn)的夢。