基于神經(jīng)元時序編碼的全新ANN-SNN轉(zhuǎn)換方法

SynSense時識科技于近日提出一種基于神經(jīng)元時序編碼的全新ANN-SNN轉(zhuǎn)換方法，克服了類腦芯片上因傳統(tǒng)頻率編碼造成突觸操作數(shù)過多而導致的較高能耗問題，能夠大大降低類腦芯片上有效突觸操作和存儲訪問，從而顯著降低了類腦芯片的實時推理功耗及延遲。這一全新方案提供了一種可行的、代價極低的脈沖神經(jīng)網(wǎng)絡訓練方法，為構(gòu)建大規(guī)模深層類腦芯片鋪平了道路。

該方法由SynSense時識科技瑞士團隊及創(chuàng)始人兼CEO喬寧博士提出，目前已獲得發(fā)明專利授權。自成立以來，SynSense時識科技多項成果獲得發(fā)明專利授權。以市場需求為導向，SynSense時識科技在啟發(fā)自大腦的高能效計算基礎上，通過全方位創(chuàng)新，保證了類腦芯片的超低延遲、超低功耗潛力，不僅進一步凸顯了知識產(chǎn)權市場價值及自主技術競爭力，還將有助于設備性能的大幅提升，并使用戶最終受益。

基于神經(jīng)元時序編碼的全新ANN-SNN轉(zhuǎn)換方法

顯著降低芯片功耗

“為了充分發(fā)揮類腦芯片事件驅(qū)動、低功耗的潛力，SynSense時識科技提出利用TTFS的神經(jīng)元脈沖編碼方式和增加額外的1或2個突觸，即可實現(xiàn)10-50倍網(wǎng)絡運算稀疏度的提升。”

脈沖神經(jīng)網(wǎng)絡（SNN）是一種高度仿生的第三代神經(jīng)網(wǎng)絡，通過利用時間和空間稀疏性而實現(xiàn)超低功耗應用。在類腦硬件上執(zhí)行時，其功耗與脈沖的數(shù)量/突觸操作數(shù)成比例。目前，將ANN轉(zhuǎn)換SNN的方案中，對于神經(jīng)元的轉(zhuǎn)換，大多數(shù)轉(zhuǎn)換方法依賴于頻率編碼來表示ANN的ReLU激活，需要大量的脈沖以及用于編碼信息的精度表達。對于類腦硬件而言，其消耗的能量與脈沖發(fā)放數(shù)量呈正相關關系。頻率編碼導致的神經(jīng)元頻繁發(fā)放脈沖，這顯然會導致較高的能量消耗。因此，更為稀疏的神經(jīng)元編碼轉(zhuǎn)換機制是迫切亟需的。

目前，常見的脈沖編碼方法有頻率編碼（rate coding）、首個脈沖時間編碼（TTFS）、群編碼（Population Coding）等。

頻率編碼

主要考察脈沖發(fā)放率，刺激的強弱程度由神經(jīng)元發(fā)放脈沖的頻率反映，強烈的刺激導致高頻脈沖序列。頻率編碼的主要缺點是信息傳輸效率不高但魯棒性好，因此是一種廣泛使用的編碼方案。這也目前ANN轉(zhuǎn)SNN方案，使用SNN中的脈沖頻率近似代替ANN中ReLU激活值的理論基礎。

首個脈沖時間編碼

關注從接受刺激到發(fā)放首個脈沖的時間，一般刺激越強，脈沖發(fā)放越早。TTFS中每個神經(jīng)元僅使用一個脈沖，是一種高效簡潔的編碼方案。但TTFS方案面臨神經(jīng)元激活過早進而導致SNN精度降低的困境。多數(shù)TTFS方案會采用動態(tài)膜電壓閾值以阻止神經(jīng)元過早被激活。

對此，SynSense時識科技提出了一種名為Quartz的全新ANN-SNN方法：

為了充分發(fā)揮類腦芯片事件驅(qū)動、低功耗的潛力，SynSense時識科技提出利用TTFS的神經(jīng)元脈沖編碼方式和增加額外的1或2個突觸，即可實現(xiàn)10-50倍網(wǎng)絡運算稀疏度的提升。

與需要復雜的神經(jīng)元模型或計算操作的方法不同，該方法使用簡單的神經(jīng)元和突觸模型，依賴額外的突觸連接來維持神經(jīng)元激活的穩(wěn)定性：

突觸1有助于防止早期發(fā)放并減少量化誤差。突觸2則在特定時間點上強制神經(jīng)元發(fā)放脈沖，作為時間等效的整流操作。其目標是在保持脈沖數(shù)量和能量消耗最小的情況下，縮小ANN和轉(zhuǎn)換后的SNN之間的準確性差距。 這一方案為芯片實現(xiàn)提供諸多顯著優(yōu)勢。在CIFAR10數(shù)據(jù)集上，配置預訓練的VGG?11網(wǎng)絡、Tmax =64參數(shù)，使用本發(fā)明方案的SNN精度相比于ANN網(wǎng)絡精度，僅下降0.01%，而突觸操作數(shù)為180萬次，相比于傳統(tǒng)頻率編碼下降1?2個數(shù)量級。在Loihi芯片上驗證，尤其當核心數(shù)量占用少時，該方案明顯勝于頻率編碼方案，動態(tài)功耗更低。 這一方案支持高效地將已有ANN低損地轉(zhuǎn)化為SNN，且無需復雜的神經(jīng)元模型或高資源消耗的計算操作，功耗及帶寬需求更小，成本代價更低，為構(gòu)建大規(guī)模深層類腦芯片鋪好了低功耗實施路徑。為使類腦技術的獨特優(yōu)勢在實際的運用過程中得以發(fā)揮，一直以來，SynSense時識科技持續(xù)技術創(chuàng)新，從而使類腦芯片功耗降低100-1000倍、實時性提升10-100倍且成本降低10倍成為現(xiàn)實，最終為置入SynSense時識科技類腦芯片的電子設備帶來超低功耗、永遠在線的智能信息處理能力。