SynSense時(shí)識(shí)科技與中科院自動(dòng)化所聯(lián)合研究成果榮登國(guó)際權(quán)威期刊

人工智能，作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的核心力量，正推動(dòng)生成式AI技術(shù)如ChatGPT、Sora等不斷取得新的突破，大模型的應(yīng)用范圍也日漸拓寬。然而，隨著智能算力的飛速提升，能耗問題逐漸凸顯，成為制約算力產(chǎn)品效能的關(guān)鍵瓶頸。傳統(tǒng)計(jì)算機(jī)在信號(hào)與數(shù)據(jù)轉(zhuǎn)換、高精度計(jì)算方面的能耗和時(shí)間成本不斷攀升，深度學(xué)習(xí)模型的訓(xùn)練成本亦居高不下。

人腦能夠運(yùn)行非常復(fù)雜且龐大的神經(jīng)網(wǎng)絡(luò)，總功耗卻僅為20W，遠(yuǎn)小于現(xiàn)有的AI。類腦智能作為一種受腦科學(xué)和神經(jīng)科學(xué)啟發(fā)的創(chuàng)新科技，采用神經(jīng)形態(tài)計(jì)算，模擬人腦運(yùn)作機(jī)制，旨在實(shí)現(xiàn)信息的高效處理，同時(shí)降低能耗、提升算力。與傳統(tǒng)人工智能相比，類腦智能展現(xiàn)了一種全新的計(jì)算范式，為科技發(fā)展和產(chǎn)業(yè)變革提供了全新視角和可能性。

人工智能的革新：時(shí)識(shí)科技與中科院自動(dòng)化所聯(lián)合研究成果突破

近日，SynSense時(shí)識(shí)科技與北京中科院自動(dòng)化所李國(guó)齊、徐波課題組合作，提出了一套以超低功耗邊緣端應(yīng)用為導(dǎo)向，能夠?qū)崿F(xiàn)動(dòng)態(tài)計(jì)算算法，軟硬協(xié)同設(shè)計(jì)的類腦智能SoC系統(tǒng)Speck，整個(gè)系統(tǒng)在典型視覺場(chǎng)景中的實(shí)時(shí)功耗低至0.7mW。該成果以《Spike-based dynamic computing with asynchronous sensing-computing neuromorphic chip》為題，2024年5月25日成功刊登在國(guó)際頂級(jí)學(xué)術(shù)期刊《自然》（Nature）的子刊《自然-通訊》（Nature Communications）。

圖1.收錄圖

研究充分證明了將人腦中復(fù)雜的高級(jí)神經(jīng)機(jī)制融入到神經(jīng)形態(tài)計(jì)算中所帶來的無限可能。相關(guān)工作得到了國(guó)家杰出青年科學(xué)基金、國(guó)家自然科學(xué)基金委重點(diǎn)項(xiàng)目、區(qū)域創(chuàng)新聯(lián)合重點(diǎn)項(xiàng)目的支持。這一重大研究成果不僅展現(xiàn)了類腦智能的巨大潛力和廣闊前景，也為未來科技發(fā)展和產(chǎn)業(yè)變革注入了強(qiáng)大動(dòng)力。

Speck：引領(lǐng)邊緣計(jì)算場(chǎng)景的極致創(chuàng)新

本篇文章首次詳細(xì)的介紹了時(shí)識(shí)科技感算一體SoC芯片Speck的設(shè)計(jì)細(xì)節(jié)（圖2）， 硬件資源和異步運(yùn)算的核心技術(shù)。Speck是一款異步感算一體的類腦智能SoC，采用全異步設(shè)計(jì)，在芯片上集成了動(dòng)態(tài)視覺傳感器（DVS）和類腦智能芯片，具有極低的靜態(tài)功耗（0.42mW）。在視覺感知側(cè)，DVS相機(jī)以異步方式運(yùn)行，僅在視覺場(chǎng)景中亮度發(fā)生變化時(shí)，產(chǎn)生稀疏的事件流，能夠以微秒級(jí)的時(shí)間分辨率感知視覺信息。在芯片側(cè)，異步神經(jīng)形態(tài)芯片同樣以全異步方式設(shè)計(jì)，拋棄了全局時(shí)鐘控制信號(hào)，避免了時(shí)鐘空翻帶來的能耗開銷，僅在有事件輸入時(shí)才會(huì)觸發(fā)稀疏加法運(yùn)算。

Speck不僅實(shí)現(xiàn)了神經(jīng)形態(tài)計(jì)算理論上具有低功耗和低時(shí)延優(yōu)勢(shì)，同時(shí)天然與神經(jīng)形態(tài)動(dòng)態(tài)計(jì)算契合。芯片的功耗主要分為靜息功耗和動(dòng)態(tài)功耗兩部分。如圖2b/c所示，傳統(tǒng)AI芯片靜態(tài)功耗高，在算法層面進(jìn)行的能效優(yōu)化對(duì)總功耗的降低作用不大。相比之下，Speck具有極低的靜息功耗，算法層面的能效優(yōu)化能切實(shí)帶來總功耗的降低。

圖2.Speck設(shè)計(jì)細(xì)節(jié)

Speck包含多個(gè)SNN核心，每個(gè)核心都能夠獨(dú)立處理事件流，執(zhí)行異步事件驅(qū)動(dòng)的卷積操作。這種模塊化的設(shè)計(jì)使得芯片能夠靈活地處理各種規(guī)模的事件驅(qū)動(dòng)任務(wù)。由于芯片的異步事件驅(qū)動(dòng)特性，Speck能夠在接收到單個(gè)事件后立即更新系統(tǒng)狀態(tài)，從而實(shí)現(xiàn)極低的輸出延遲，為邊緣計(jì)算場(chǎng)景提供了一個(gè)高能效、低延遲和低功耗的類腦智能解決方案。

以應(yīng)用為導(dǎo)向，開啟產(chǎn)業(yè)減排增效新篇章

脈沖神經(jīng)網(wǎng)絡(luò)（SNNs）與傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)（ANNs）最大的不同在于信息交換的方式。SNNs中的神經(jīng)元通過脈沖序列（即0代表無信號(hào)，1代表有脈沖信號(hào)）來進(jìn)行通信，而ANNs中的神經(jīng)元?jiǎng)t使用連續(xù)的數(shù)值來交換信息。這使得SNNs在運(yùn)算時(shí)擁有一個(gè)動(dòng)態(tài)的計(jì)算圖，這意味著在任何時(shí)刻，只有一小部分神經(jīng)元處于活躍狀態(tài)，而其他神經(jīng)元?jiǎng)t處于閑置狀態(tài)。相比之下，傳統(tǒng)的計(jì)算模式，比如在GPU上運(yùn)行的ANNs，則是基于靜態(tài)計(jì)算圖的。即便ANNs的所有輸入或激活值都是零，網(wǎng)絡(luò)也必須執(zhí)行所有操作。通過將高層次的注意力機(jī)制整合到SNNs中，動(dòng)態(tài)SNNs能夠在顯著降低能耗的同時(shí)，提升任務(wù)性能。這項(xiàng)技術(shù)創(chuàng)新點(diǎn)主要適用于希望提升計(jì)算效率和節(jié)能的智能設(shè)備和應(yīng)用。

圖3. 類腦計(jì)算和傳統(tǒng)計(jì)算對(duì)比（從動(dòng)態(tài)計(jì)算的角度）

文章中驗(yàn)證了動(dòng)態(tài)平衡注意力機(jī)制和異步類腦芯片的結(jié)合可以在手勢(shì)識(shí)別、明/暗光照下的步態(tài)識(shí)別等任務(wù)上取得準(zhǔn)確率上、功耗和延時(shí)上巨大的提升。通過在類腦芯片Speck上部署SNN，實(shí)驗(yàn)展示了一個(gè)實(shí)時(shí)功耗低至0.70mW的高精度類腦智能系統(tǒng)，整個(gè)系統(tǒng)處理單個(gè)脈沖的超低延遲僅為 3.36 μs。

SynSense時(shí)識(shí)科技為Speck芯片提供了完整的軟件工具鏈，只需要使用編程框架Sinabs上完成SNN算法設(shè)計(jì)與訓(xùn)練，即可在Speck上進(jìn)行部署。如圖4所示，在屏蔽不重要時(shí)間窗口內(nèi)事件流后，輸入為0時(shí)，Speck不會(huì)觸發(fā)任何計(jì)算。為驗(yàn)證神經(jīng)形態(tài)動(dòng)態(tài)計(jì)算的有效性，該研究在三個(gè)公開數(shù)據(jù)集進(jìn)行了測(cè)試。在DVS128 Gesture上，融合了注意力動(dòng)態(tài)計(jì)算的Speck在任務(wù)精度提升9%的同時(shí)，平均功耗由9.5mW降低至3.8mW。

圖4. 融合了注意力動(dòng)態(tài)計(jì)算的Speck

這項(xiàng)研究揭示了Speck類腦計(jì)算感知平臺(tái)和人腦的高級(jí)抽象功能間的工程映射關(guān)系，通過這種機(jī)制能夠?qū)崿F(xiàn)類腦智能在能耗、性能、延遲上的優(yōu)越表現(xiàn)。充分證明了類腦智能在實(shí)際應(yīng)用場(chǎng)景中，從高能效、低延遲和高性能等維度，其異步事件驅(qū)動(dòng)、稀疏性和動(dòng)態(tài)性等方面的巨大潛力。

類腦智能，人工智能發(fā)展新引擎

AI技術(shù)的飛速發(fā)展讓大型模型在復(fù)雜任務(wù)處理上展現(xiàn)出巨大潛力，但也對(duì)計(jì)算資源和數(shù)據(jù)傳輸速度的要求也日益增加。類腦智能技術(shù)為這一挑戰(zhàn)提供了有效的解決方案，能夠顯著減少系統(tǒng)延遲及對(duì)中心化云服務(wù)的依賴，同時(shí)提升能源效率，降低運(yùn)營(yíng)成本。

科研成果高效轉(zhuǎn)化是推動(dòng)基礎(chǔ)研究不斷前進(jìn)的源動(dòng)力，如今類腦智能作為創(chuàng)新“密碼”正在為發(fā)展新質(zhì)生產(chǎn)力注入澎湃動(dòng)能。面對(duì)當(dāng)前算力瓶頸和能耗問題，為人工智能的發(fā)展提供了新的方法和視角。隨著技術(shù)的持續(xù)進(jìn)步，類腦智能將為AI的未來打開更廣闊的應(yīng)用空間，推動(dòng)智能科技向更深層次、更廣泛領(lǐng)域的發(fā)展?？梢云诖诓痪玫膶?，類腦智能以科技撬動(dòng)萬億規(guī)模的產(chǎn)業(yè)“新藍(lán)?！薄?/p>