光子計(jì)算時(shí)代到來(lái)了嗎?幾家中美芯片創(chuàng)企正試圖給出正面的回答。
2020年6月,LightOn發(fā)表用光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片運(yùn)行AI模型的新論文;7月,曦智科技拿到由和利資本投資的數(shù)千萬(wàn)美元A+輪融資;8月,Lightmatter在芯片頂會(huì)HotChips上展示了其光子芯片的架構(gòu)細(xì)節(jié);12月,光子算數(shù)宣布其打造的光電混合AI加速計(jì)算卡已交予服務(wù)器廠商客戶做測(cè)試。
在加速人工智能(AI)這條賽道上,光子計(jì)算芯片這條創(chuàng)新的技術(shù)方向正異軍突起。這是一群勇敢的探路人,他們?cè)谄诖蜖?zhēng)議中前行,一步一個(gè)腳印地試圖證明自己判斷方向的正確性。
光子AI芯片距離產(chǎn)業(yè)化落地還有多遠(yuǎn)?在這一賽道的創(chuàng)業(yè)者們,能給計(jì)算芯片帶來(lái)新的驚喜嗎?
01 一篇頂刊論文引出的新型賽道
隨著摩爾定律滯緩,硅光子技術(shù)成為超越摩爾定律的研究方向之一。
2017年,來(lái)自英國(guó)艾克塞特大學(xué)、牛津大學(xué)和明斯特大學(xué)的研究人員,宣布了其類(lèi)腦光驅(qū)動(dòng)芯片研究成果。他們用特殊相變材料和光子集成電路模擬人腦神經(jīng)突觸,使得這款芯片在測(cè)試中的數(shù)據(jù)傳輸速度達(dá)300Gbps,比當(dāng)時(shí)現(xiàn)有標(biāo)準(zhǔn)處理器要快10-50倍,同時(shí)功耗大幅降低。
在同年5月的美國(guó)麻省理工學(xué)院10萬(wàn)美元?jiǎng)?chuàng)業(yè)大賽上,一支來(lái)自麻省理工學(xué)院(MIT)的團(tuán)隊(duì)?wèi){借用納米光子芯片執(zhí)行AI任務(wù),成功斬獲大獎(jiǎng)。
1個(gè)月后,主創(chuàng)團(tuán)隊(duì)的研究成果登上頂級(jí)期刊《自然·光子學(xué)》的封面,論文描述了一種利用光學(xué)干涉進(jìn)行神經(jīng)網(wǎng)絡(luò)計(jì)算的創(chuàng)新方法。當(dāng)時(shí),國(guó)際著名光學(xué)科學(xué)家、斯坦福大學(xué)終身教授David Miller評(píng)價(jià)稱(chēng):“這一系列研究成果極大地推動(dòng)了集成光學(xué)未來(lái)取代傳統(tǒng)電子計(jì)算芯片的發(fā)展?!?/p>
這篇光子芯片論文的一作及通訊作者是MIT博士后沈亦晨,二作是尼克·哈里斯(Nick Harris)。不久之后,這些論文合著者將成為商業(yè)上的競(jìng)爭(zhēng)對(duì)手,開(kāi)啟各自的創(chuàng)業(yè)之旅,并分別獲得來(lái)自谷歌、百度等科技巨頭的投資。
光子是當(dāng)前速度最快的粒子,相較電子,速度更快而功耗極低。此前光學(xué)技術(shù)通常應(yīng)用于通信傳輸領(lǐng)域,借助光的更快速度、更高容量等特點(diǎn)實(shí)現(xiàn)數(shù)據(jù)的遠(yuǎn)距離傳輸,但在計(jì)算領(lǐng)域進(jìn)展緩慢。
實(shí)際上,光計(jì)算的研究歷史并不短暫。在國(guó)外,1950年代前后,貝爾實(shí)驗(yàn)室等機(jī)構(gòu)花費(fèi)大量精力來(lái)設(shè)計(jì)光學(xué)計(jì)算機(jī)部件;在國(guó)內(nèi),1987年中科院上海光學(xué)精密機(jī)械研究所王之江院士曾于《中國(guó)科學(xué)院院刊》上撰文,提出了極具前瞻性的發(fā)展光計(jì)算技術(shù)的建議,并于此后在光學(xué)神經(jīng)學(xué)邏輯計(jì)算方面開(kāi)展了大量的工作。
由于光計(jì)算的應(yīng)用場(chǎng)景并不清晰,軟硬件體系也不夠完善,關(guān)于如何用光子代替電子芯片執(zhí)行計(jì)算的想法長(zhǎng)期停留在研究階段,鮮少在實(shí)際應(yīng)用中發(fā)揮廣泛的作用。
直到摩爾定律趨于滯緩,AI的巨輪開(kāi)始起航。
02 光子AI芯片的優(yōu)勢(shì):
速度快、功耗低、擅長(zhǎng)并行計(jì)算
作為統(tǒng)治計(jì)算的一個(gè)基準(zhǔn)法則,摩爾定律指出,微處理器芯片上的晶體管數(shù)每18-24個(gè)月翻一番,曾長(zhǎng)期作為推動(dòng)電子設(shè)備小型化和互聯(lián)網(wǎng)普及的關(guān)鍵動(dòng)力。
但這是芯片制造商及供應(yīng)商竭力維系摩爾定律的結(jié)果,隨著逼近物理尺寸極限、散熱難題即將成為無(wú)法克服的挑戰(zhàn),以及許多關(guān)鍵的計(jì)算密集型應(yīng)用發(fā)展提速,人們對(duì)摩爾定律的未來(lái)產(chǎn)生了更多疑慮,對(duì)芯片技術(shù)創(chuàng)新的需求也愈發(fā)迫切。
2016年,《Nature》在“超越摩爾(More than Moore)”一文中指出,摩爾定律已接近日薄西山,接下來(lái)硅晶技術(shù)的發(fā)展將不再以摩爾定律為中心,造出更好的芯片然后讓?xiě)?yīng)用跟進(jìn),而是從應(yīng)用出發(fā)來(lái)看需要怎樣的芯片支持,進(jìn)而容納更多細(xì)微復(fù)雜的創(chuàng)新方向。
而根據(jù)OpenAI發(fā)布的分析數(shù)據(jù),自2012年以來(lái),AI訓(xùn)練對(duì)算力的需求每3.43個(gè)月翻一番,增速明顯快于摩爾定律。
▲自2012年以來(lái)算力需求增長(zhǎng)超過(guò)30萬(wàn)倍,而如果以摩爾定律的速度只會(huì)有 12 倍的增長(zhǎng)(來(lái)源:OpenAI)
隨著以神經(jīng)網(wǎng)絡(luò)計(jì)算為主的AI應(yīng)用普及,一些研究人員意識(shí)到,深度學(xué)習(xí)可能是數(shù)十年來(lái)光學(xué)計(jì)算所等待的“殺手級(jí)應(yīng)用”。
首先,光速快于電子速度,理想狀態(tài)下,光子芯片的計(jì)算速度能比電子芯片快約1000倍。同時(shí),采用成熟半導(dǎo)體工藝技術(shù)的光子芯片,即可達(dá)到當(dāng)下需要的計(jì)算能力。
其次,光子計(jì)算消耗能量少,同等計(jì)算速度下,光子芯片的功耗僅為電子芯片的數(shù)百分之一,可以緩解AI創(chuàng)新所需的數(shù)據(jù)中心建設(shè)對(duì)環(huán)境的影響。
▲Lightmatter聯(lián)合創(chuàng)始人兼CEO尼克·哈里斯在2020年Hot Chips上講解光子計(jì)算相較電子計(jì)算的延時(shí)、帶寬、功耗優(yōu)勢(shì)
最后,光計(jì)算技術(shù)具有并行計(jì)算的特點(diǎn),光波的頻率、波長(zhǎng)、偏振態(tài)和相位等信息可以代表不同的數(shù)據(jù),且光路在交叉?zhèn)鬏敃r(shí)互不干擾。這些特性使得光子擅長(zhǎng)做并行運(yùn)算,與多數(shù)計(jì)算過(guò)程花在“矩陣乘法”上的人工神經(jīng)網(wǎng)絡(luò)相契合。
總體而言,光具有高計(jì)算速度、低功耗、低時(shí)延等特點(diǎn),且不易受到溫度、電磁場(chǎng)和噪聲變化的影響,在AI應(yīng)用領(lǐng)域,將光學(xué)技術(shù)與電子學(xué)結(jié)合,有望提供比傳統(tǒng)方法更好的速度和能效。
03 光子計(jì)算走向商業(yè)化
嗅到AI加速帶來(lái)的機(jī)會(huì)后,來(lái)自英、法、美、中的一些創(chuàng)業(yè)團(tuán)隊(duì)開(kāi)始揚(yáng)帆起航,切入云端AI計(jì)算市場(chǎng),其中不乏有初創(chuàng)公司得到來(lái)自科技巨頭及知名投資者的投資。
2013年成立的英國(guó)創(chuàng)企 Optalysys,曾于2015年創(chuàng)建一個(gè)光計(jì)算原型,實(shí)現(xiàn)了約320Gflops的處理速度,且能效非常低。去年上半年,Optalysys推出了入門(mén)級(jí)光學(xué)協(xié)處理器FT: X2000,計(jì)劃出售給包括計(jì)算機(jī)制造、國(guó)防及航空航天領(lǐng)域的部分合作伙伴及早期客戶。
▲Optalysys入門(mén)級(jí)光學(xué)協(xié)處理器FT: X2000
初創(chuàng)公司 Fathom Computing成立于2014年,其光子原型計(jì)算機(jī)在2014年時(shí)識(shí)別手寫(xiě)數(shù)字的準(zhǔn)確率還只有30%左右,到2018年時(shí)已經(jīng)超過(guò)90%。其創(chuàng)始人Willam Andregg稱(chēng),這是機(jī)器學(xué)習(xí)軟件首次使用激光脈沖電路而非電力進(jìn)行訓(xùn)練。不過(guò)近兩年,這家創(chuàng)企似乎并未公開(kāi)更多進(jìn)展。
2018年,成立兩年、總部位于法國(guó)巴黎的創(chuàng)企 LightOn宣布,它已經(jīng)開(kāi)始在歐洲的數(shù)據(jù)中心測(cè)試自己的光學(xué)處理單元(OPU)技術(shù)。2020年6月,LightOn發(fā)表的新論文顯示,其光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片在運(yùn)行基于MNIST手寫(xiě)數(shù)字?jǐn)?shù)據(jù)集訓(xùn)練的模型時(shí),學(xué)習(xí)率為0.01,測(cè)試準(zhǔn)確率達(dá)到95.8%;同一算法在GPU上的學(xué)習(xí)率為0.001、準(zhǔn)確率達(dá)97.6%。而該光學(xué)芯片的功耗效率要比GPU高出一個(gè)數(shù)量級(jí)。
論文鏈接:https://arxiv.org/pdf/2006.01475.pdf
當(dāng)然,名氣最盛的光子芯片創(chuàng)業(yè)者,當(dāng)屬曾在《自然·光子學(xué)》上發(fā)表封面文章、來(lái)自麻省理工學(xué)院的沈亦晨和尼克·哈里斯,兩人均在2017年成立光子芯片公司,都選擇Mach-Zehnder干涉儀光開(kāi)關(guān)陣列(MZI)作為基礎(chǔ)計(jì)算單元,但具體的MZI結(jié)構(gòu)及陣列架構(gòu)有所不同。
沈亦晨在美國(guó)波士頓創(chuàng)辦 Lightelligence,在中國(guó)上海成立 曦智科技,發(fā)展了跨國(guó)多元團(tuán)隊(duì),是目前全球融資額最高的光子計(jì)算初創(chuàng)公司。
曦智科技在2018年獲得由百度風(fēng)投和美國(guó)半導(dǎo)體高管財(cái)團(tuán)領(lǐng)投的逾1000萬(wàn)美元種子輪融資;2020年4月完成由經(jīng)緯中國(guó)和中金資本旗下中金硅谷基金領(lǐng)投、百度風(fēng)投繼續(xù)追加投資的2600萬(wàn)美元A輪融資;2020年7月完成由和利資本投資的數(shù)千萬(wàn)美元A+輪融資。
2019年4月,曦智科技發(fā)布全球首款光子芯片原型板卡,在運(yùn)行TensorFlow處理MNIST數(shù)據(jù)集的測(cè)試中取得百倍以上的速度提升,準(zhǔn)確率接近電子芯片(97%以上),而完成矩陣乘法所用的時(shí)間不到最先進(jìn)電子芯片的1/100。曦智科技計(jì)劃從2021年起為AI云計(jì)算帶來(lái)高效的量產(chǎn)產(chǎn)品。
尼克·哈里斯在波士頓創(chuàng)辦的 Lightmatter公司,則拿到了由谷歌風(fēng)投、星火資本、經(jīng)緯創(chuàng)投等投資的3300萬(wàn)美元資金。
在2020年的芯片頂會(huì)Hot Chips上,Lightmatter展示了其用于AI推理加速的測(cè)試芯片Mars,該芯片利用硅光電學(xué)和MEMS技術(shù),通過(guò)由毫瓦級(jí)激光光源,為用光執(zhí)行矩陣向量乘法提供動(dòng)力。相較傳統(tǒng)電子芯片,其計(jì)算速度提升數(shù)個(gè)量級(jí)。
Lightmatter預(yù)計(jì)在2021年秋季推出這款測(cè)試芯片的首款商用產(chǎn)品,并為之打造了必要的軟件工具鏈。哈里斯稱(chēng)其量產(chǎn)芯片在BERT、Resnet-50推理等工作負(fù)載上,能效將是AI芯片領(lǐng)導(dǎo)者NVIDIA旗艦芯片A100的20倍、吞吐量將是A100的5倍。
▲Lightmatter測(cè)試芯片Mars
看到《自然·光子學(xué)》上MIT團(tuán)隊(duì)刊發(fā)的論文后,正在研究光電子的中國(guó)北京交通大學(xué)2014級(jí)博士生白冰獲得了新的啟發(fā),他與十余位來(lái)自清華、北大等北京8所高校的博士生們一起,在2017年在北京創(chuàng)立 光子算數(shù)團(tuán)隊(duì),開(kāi)始推進(jìn)光子AI芯片商業(yè)化。
光子算數(shù)于2018年9月獲得臻云創(chuàng)投、英諾天使基金投資的天使輪融資、2019年獲得由水木清華校友基金、常見(jiàn)投資、英諾天使基金、臻云創(chuàng)投等投資的A輪融資。
目前光子算數(shù)已研發(fā)可編程光子陣列芯片F(xiàn)PPGA(Field Programmable Photonic Gate Arrays),并基于此與北京高校一起打造了面向服務(wù)器的光電混合AI加速計(jì)算卡,能完成包括機(jī)器學(xué)習(xí)推理、時(shí)間序列分析在內(nèi)的一些定制化加速任務(wù)。
其計(jì)算卡已于2020年交由服務(wù)器廠商客戶進(jìn)行測(cè)試,在不到70W的運(yùn)行功耗下,能做三四十路1080P視頻同步處理,混合精度下峰值算力接近20TOPS,光部分為低精度,電部分為高精度。
從美國(guó)普林斯頓大學(xué)脫胎而出的美國(guó)光子AI芯片創(chuàng)企 Luminous Computing成立相對(duì)晚一些。
該公司由首席策略官M(fèi)ichael Gao、CEO Marcus Gomez和CTO Mitchell Nahmias在2018年聯(lián)合創(chuàng)立,于2019年籌得來(lái)自微軟創(chuàng)始人比爾·蓋茨、Uber首席執(zhí)行官Dara Khosrowshahi等知名投資者的900萬(wàn)美元種子輪融資,2020年又籌得由Helios Capital領(lǐng)投的900萬(wàn)美元A輪融資。
Nahmias在普林斯頓PhD期間的主要研究方向即是光子AI芯片。與MIT團(tuán)隊(duì)不同,他們采用的并非MZI,而是被稱(chēng)為Broadcast and Weight的方案,相較MZI型方案多了光電轉(zhuǎn)換過(guò)程,且對(duì)相位不敏感。Nahmias稱(chēng)其光子集成電路可以取代3000塊TPU板,更加節(jié)省能耗,且能突破現(xiàn)有AI芯片傳輸數(shù)據(jù)的瓶頸。
▲B(niǎo)roadcast and Weight方案的原理框架
這些創(chuàng)業(yè)團(tuán)隊(duì)的硬件均被設(shè)計(jì)為可以插入標(biāo)準(zhǔn)服務(wù)器和工作站中,可實(shí)現(xiàn)即插即用,并能與主流AI軟件配合使用,以滿足商用需求。
04 結(jié)語(yǔ):光子計(jì)算踏上AI計(jì)算新征程
訓(xùn)練AI模型需要超高算力的計(jì)算機(jī)芯片,這使得芯片巨頭、初創(chuàng)公司之間展開(kāi)一場(chǎng)圍繞AI計(jì)算的全新角逐。
如今光子計(jì)算仍處早期階段,站在這一全新計(jì)算賽道上的玩家們,幾乎沒(méi)有前路可以借鑒,他們正頂著技術(shù)挑戰(zhàn)、落地風(fēng)險(xiǎn)等方面的壓力,試圖構(gòu)建起光子計(jì)算生態(tài),探索著改變計(jì)算的可能。
對(duì)于投資者來(lái)說(shuō),新興計(jì)算技術(shù)仍充滿風(fēng)險(xiǎn)。但隨著世界對(duì)多元計(jì)算方式的需求增加,以光子計(jì)算、神經(jīng)擬態(tài)芯片、量子芯片等為代表的新興計(jì)算方法,正被寄予打破標(biāo)準(zhǔn)計(jì)算系統(tǒng)制約的期待。
這是件令人期待的事情,光學(xué)計(jì)算已經(jīng)在商業(yè)化道路上邁出了重要的一步,而一旦有初創(chuàng)公司解決工程化挑戰(zhàn)、取得落地商用的成功,光學(xué)計(jì)算革命的大門(mén)或?qū)⒂纱碎_(kāi)啟。
責(zé)任編輯:PSY
-
計(jì)算機(jī)
+關(guān)注
關(guān)注
19文章
7525瀏覽量
88331 -
AI
+關(guān)注
關(guān)注
87文章
31315瀏覽量
269659 -
光子芯片
+關(guān)注
關(guān)注
3文章
99瀏覽量
24444
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論