清華開發(fā)出超高性能計(jì)算芯片：速度比高端GPU提升3000倍，能效提升400萬(wàn)倍！

隨著各類大模型和深度神經(jīng)網(wǎng)絡(luò)涌現(xiàn)，如何制造出滿足人工智能發(fā)展、兼具大算力和高能效的下一代AI芯片，已成為國(guó)際前沿?zé)狳c(diǎn)。中國(guó)科協(xié)發(fā)布的2023重大科學(xué)問題中“如何實(shí)現(xiàn)低能耗人工智能”被排在首位。

2023年10月25日，清華大學(xué)團(tuán)隊(duì)在超高性能計(jì)算芯片領(lǐng)域取得新突破。相關(guān)成果以“All-analog photo-electronic chip for high-speed vision tasks”為題發(fā)表在Nature上。這枚芯片基于純模擬光電融合計(jì)算架構(gòu)，在包括ImageNet等智能視覺任務(wù)實(shí)測(cè)中，相同準(zhǔn)確率下，比現(xiàn)有高性能GPU算力提升3000倍，能效提升400萬(wàn)倍。

圖1 相關(guān)論文（來(lái)源Nature）

未來(lái)已來(lái)？光為載體的計(jì)算芯片

實(shí)現(xiàn)算力飛躍并非易事，特別是當(dāng)前傳統(tǒng)的芯片架構(gòu)，受限于電子晶體管大小逼近物理極限。全新計(jì)算架構(gòu)成為破局的關(guān)鍵。光計(jì)算以其超高的并行度和速度，被認(rèn)為是未來(lái)顛覆性計(jì)算架構(gòu)的最有力競(jìng)爭(zhēng)方案之一。光計(jì)算，顧名思義是將計(jì)算載體從電變?yōu)楣?，利用光在芯片中的傳播進(jìn)行計(jì)算。面對(duì)以光速計(jì)算的誘人前景，數(shù)年來(lái)海內(nèi)外知名科研團(tuán)隊(duì)相繼提出多種設(shè)計(jì)，但要替代現(xiàn)有電子器件實(shí)現(xiàn)系統(tǒng)級(jí)應(yīng)用，仍面臨重大瓶頸：一是如何在一枚芯片上集成大規(guī)模的計(jì)算單元（可控神經(jīng)元），且約束誤差累計(jì)程度；二是實(shí)現(xiàn)高速高效的片上非線性；三是為兼容目前以電子信號(hào)為主體的信息社會(huì)，如何提供光計(jì)算與電子信號(hào)計(jì)算的高效接口。當(dāng)前常見的模數(shù)轉(zhuǎn)換功耗，較光計(jì)算每步乘加運(yùn)算高出多個(gè)數(shù)量級(jí)，掩蓋了光計(jì)算本身的性能優(yōu)勢(shì)，導(dǎo)致光芯片難以在實(shí)際應(yīng)用中體現(xiàn)出優(yōu)越性。

系統(tǒng)級(jí)算力和能效，超現(xiàn)有芯片萬(wàn)倍

為解決這一國(guó)際難題，清華大學(xué)團(tuán)隊(duì)創(chuàng)造性地提出了模擬電融合模擬光的計(jì)算框架，構(gòu)建可見光下的大規(guī)模多層衍射神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)視覺特征提取，利用光電流直接進(jìn)行基于基爾霍夫定律的純模擬電子計(jì)算，兩者集成在同一枚芯片框架內(nèi)，完成了“傳感前 傳感中 近傳感”的新型計(jì)算系統(tǒng)。極大地降低了對(duì)于高精度ADC的需求，消除傳統(tǒng)計(jì)算機(jī)視覺處理范式在模數(shù)轉(zhuǎn)換過程中速度、精度與功耗相互制約的物理瓶頸，在一枚芯片上突破大規(guī)模集成、高效非線性、高速光電接口三個(gè)關(guān)鍵瓶頸。

圖2. 光電計(jì)算芯片ACCEL的計(jì)算原理和芯片架構(gòu)（來(lái)源Nature）

實(shí)測(cè)表現(xiàn)下，ACCEL芯片的系統(tǒng)級(jí)算力達(dá)到現(xiàn)有高性能芯片的數(shù)千倍。同時(shí)系統(tǒng)級(jí)能效達(dá)74.8 Peta-OPS/W，較現(xiàn)有的高性能GPU、TPU、光計(jì)算和模擬電計(jì)算架構(gòu)，提升了兩千到數(shù)百萬(wàn)倍。

在超低功耗下運(yùn)行的ACCEL將有助于大幅度改善發(fā)熱問題，對(duì)于芯片的未來(lái)設(shè)計(jì)帶來(lái)全方位突破，并為超高速物理觀測(cè)提供算力基礎(chǔ)。同時(shí)對(duì)無(wú)人系統(tǒng)、自動(dòng)駕駛等續(xù)航能力要求高的場(chǎng)景帶來(lái)重大利好。

表1. ACCEL和現(xiàn)有高性能芯片的系統(tǒng)級(jí)實(shí)測(cè)性能指標(biāo)對(duì)比 （來(lái)源：Nature）非相干光直接計(jì)算

更進(jìn)一步，ACCEL芯片還支持非相干光視覺場(chǎng)景的直接計(jì)算，如論文中演示的交通場(chǎng)景實(shí)驗(yàn)。顯著拓展了ACCEL的應(yīng)用領(lǐng)域，有望顛覆目前自動(dòng)駕駛、機(jī)器人視覺、移動(dòng)設(shè)備等領(lǐng)域先將圖片拍攝并保存在內(nèi)存中后進(jìn)行計(jì)算的思路，避免傳輸和ADC帶寬限制，在傳感過程中完成計(jì)算。

圖3. ACCEL可用于電子設(shè)備超低功耗人臉喚醒示意動(dòng)圖（來(lái)源：清華大學(xué)）

開辟新路徑：顛覆性架構(gòu)有望真正落地

清華攻關(guān)團(tuán)隊(duì)提出的新型計(jì)算架構(gòu)不僅對(duì)于光計(jì)算技術(shù)的應(yīng)用部署意義重大，對(duì)未來(lái)其他高效能計(jì)算技術(shù)與當(dāng)前電子信息系統(tǒng)的融合，亦深有啟發(fā)。

論文通訊作者之一，清華大學(xué)戴瓊海院士介紹道，“采用全新原理研發(fā)出計(jì)算系統(tǒng)是一座大山，而將新一代計(jì)算架構(gòu)真正落地到現(xiàn)實(shí)生活，解決國(guó)計(jì)民生的重大需求，是攀過高峰后更重要的攻關(guān)?！盢ature雜志特邀在Research Briefing發(fā)表的該研究專題評(píng)述也指出，“或許這項(xiàng)工作的出現(xiàn)，會(huì)讓新一代計(jì)算架構(gòu)，比預(yù)想中早得多地進(jìn)入日常生活（ACCEL might enable these architectures to play a part in our daily life much sooner than expected.）”。

清華大學(xué)戴瓊海院士、方璐副教授、喬飛副研究員、吳嘉敏助理教授為本文的共同通訊作者；博士生陳一彤、博士生麥麥提·那扎買提、許晗博士為共同一作；孟瑤博士、周天貺助理研究員、博士生李廣普、范靜濤研究員、魏琦副研究員共同參與了這項(xiàng)研究。