ChatGPT是今年的大熱點(diǎn),尤其是GPT-4幾乎讓全球用戶都為之驚嘆。ChatGPT生成的文字不僅十分接近人類的表達(dá)方式,它還能撰寫文章、編寫代碼、解釋復(fù)雜的概念等等。AI正在以一種零基礎(chǔ)入門的使用方式逐漸融入我們的日常生活。
AI和ML等計(jì)算密集型應(yīng)用會(huì)產(chǎn)生龐大的計(jì)算工作負(fù)載,導(dǎo)致功耗巨大,因此對(duì)處理算法、運(yùn)行模型和負(fù)責(zé)數(shù)據(jù)傳輸?shù)挠布岢隽烁叩囊蟆?duì)開(kāi)發(fā)者來(lái)說(shuō),驚嘆于ChatGPT的強(qiáng)大之余,我們也更關(guān)注此類應(yīng)用是如何實(shí)現(xiàn)如此快速實(shí)時(shí)的對(duì)話并給出高分答案的。
超大規(guī)模數(shù)據(jù)中心是目前處理AI、高性能計(jì)算、大數(shù)據(jù)分析等高強(qiáng)度工作負(fù)載的普遍選擇,但此類數(shù)據(jù)中心內(nèi)多采用傳統(tǒng)的銅互連方式來(lái)連接不同組件,面對(duì)高帶寬需求時(shí)略顯局促。
光子集成電路(PIC)能夠利用光的優(yōu)勢(shì)在這一領(lǐng)域發(fā)揮重要作用。本文我們將共同探討光電子技術(shù)如何優(yōu)化性能、提高效率、助力設(shè)備微型化。
01運(yùn)行AI模型的能耗巨大
ChatGPT使用了OpenAI的生成式預(yù)訓(xùn)練Transformer 3(GPT-3)技術(shù),這一自回歸語(yǔ)言模型利用深度學(xué)習(xí)生成文本,該模型具有1,750億個(gè)參數(shù),人腦相當(dāng)于具有1,000億個(gè)參數(shù)的模型,所以Transformer 3架構(gòu)的處理水平超越了人腦。
這樣的AI模型對(duì)內(nèi)存、GPU、CPU、加速器等硬件組件提出了極高的要求。運(yùn)行AI模型需要大規(guī)模GPU陣列、高帶寬光連接等硬件基礎(chǔ)。
超大規(guī)模數(shù)據(jù)中心通常占地面積達(dá)數(shù)十萬(wàn)平方英尺,擁有5,000余臺(tái)服務(wù)器,管理著petabytes級(jí)的數(shù)據(jù),能夠高效、快速處理海量數(shù)據(jù)。然而,這種規(guī)模的容量和功能也帶來(lái)了巨大的能耗壓力:國(guó)際能源署的數(shù)據(jù)顯示,2021年,數(shù)據(jù)中心的能源用量在220至330太瓦時(shí)(TWh)之間,約占全球最終電力需求的0.9%至1.3%,甚至超過(guò)了一些國(guó)家或地區(qū)全年的能耗。
許多數(shù)據(jù)中心的硬件組件通常以銅互連方式連接,而中心內(nèi)各機(jī)架之間則往往使用光纖連接。如今,短距離光連接技術(shù)已經(jīng)發(fā)展至爆發(fā)點(diǎn),使用光電子技術(shù)的光學(xué)I/O完成交換機(jī)、CPU、GPU等核心芯片的互連以及Die-to-Die互連,正在迅速崛起成為下一代數(shù)據(jù)中心不可或缺的解決方案。利用光的特性,光子集成電路可以實(shí)現(xiàn)和擴(kuò)展數(shù)據(jù)傳輸并提高傳輸效率。從物理學(xué)角度看,光電子技術(shù)在提高帶寬和速度、降低延遲和功耗方面遙遙領(lǐng)先,完全可以滿足數(shù)據(jù)中心以及AI聊天機(jī)器人的需求。
“我們致力于為醫(yī)療保健、金融、工業(yè)等行業(yè)打造優(yōu)化的AI和量子系統(tǒng),在這一過(guò)程中,光電子技術(shù)可大幅提升帶寬和速度,我們體驗(yàn)到了其優(yōu)勢(shì)所在。新思科技的光電子技術(shù)解決方案使我們以光速注入我們的技術(shù),幫助客戶提升業(yè)務(wù)成果。”
Nagendra Nagaraja博士
QpiAI創(chuàng)始人兼首席執(zhí)行官
02光電子技術(shù):分散式數(shù)據(jù)中心的光學(xué)高速線路
目前,數(shù)據(jù)中心架構(gòu)正轉(zhuǎn)向分散式設(shè)計(jì),將存儲(chǔ)、計(jì)算和網(wǎng)絡(luò)等同質(zhì)資源分別置于不同模塊,并以光學(xué)方式進(jìn)行連接。這種架構(gòu)不會(huì)造成資源浪費(fèi),中央智能單元負(fù)責(zé)確定并從每個(gè)模塊獲取所需的數(shù)據(jù),然后通過(guò)光互連傳輸數(shù)據(jù),而其余資源可用于處理其他工作負(fù)載。
除機(jī)架、房間和建筑間的配置外,光互連還有望成為CPU和GPU級(jí)別的主要連接方式,并通過(guò)光信號(hào)處理數(shù)據(jù)I/O。人們希望能夠以高帶寬光連接取代許多并行和高速串行電氣I/O通道,這推升了對(duì)近封裝光學(xué)器件和共封裝光學(xué)器件的需求。其中,近封裝光學(xué)器件在主控板上使用高性能PCB基板(中介層),而共封裝光學(xué)器件則將電芯片和光芯片集成在單個(gè)封裝中。雖然光電子技術(shù)在短期內(nèi)不太可能完全取代傳統(tǒng)的電子半導(dǎo)體組件,但其顯然能夠有效滿足帶寬和延遲要求。同時(shí),人們正在研究模擬和數(shù)字計(jì)算在光學(xué)領(lǐng)域中的價(jià)值。
03光電子技術(shù):利用光速突破帶寬壁壘
Future Market Insights的數(shù)據(jù)顯示,2022年至2032年,PIC市場(chǎng)的年復(fù)合增長(zhǎng)率將達(dá)到21.5%。顯然,憑借高速數(shù)據(jù)傳輸和低能耗特性,PIC開(kāi)辟了一條新途徑,能夠幫助開(kāi)發(fā)者突破帶寬障礙并盡可能降低能耗。
一些公司積極開(kāi)發(fā)新技術(shù)以滿足帶寬需求并降低環(huán)境影響,走在行業(yè)發(fā)展前沿,比如推出了光電子AI計(jì)算平臺(tái)的LightMatter和開(kāi)發(fā)了光互連小芯片的Ayar Labs。此外,還有一些公司正在設(shè)計(jì)使用光子而非電子作為算法核心的模擬和數(shù)字計(jì)算解決方案。光電子技術(shù)領(lǐng)域正在迎來(lái)持續(xù)的創(chuàng)新發(fā)展。
然而,PIC設(shè)計(jì)并不像傳統(tǒng)IC設(shè)計(jì)那樣簡(jiǎn)單直接,其電路的性能同材料和光學(xué)特性密切相關(guān),而光學(xué)特性又與幾何形狀有關(guān)。要想取得成功,需要了解最新的研究成果、工具和技術(shù),并熟練掌握量子光學(xué)和物理光學(xué)的相關(guān)知識(shí)。
新思科技是業(yè)界唯一提供光電子器件、系統(tǒng)和IC無(wú)縫設(shè)計(jì)流程的公司,助力開(kāi)發(fā)者成功完成光電子設(shè)計(jì)。新思科技還與各大代工廠密切合作,攜手推出簡(jiǎn)化PIC開(kāi)發(fā)的工藝設(shè)計(jì)套件(PDK),同時(shí)與政府組織合作開(kāi)展光電子技術(shù)教育項(xiàng)目。新思科技大力投資技術(shù),與瞻博網(wǎng)絡(luò)合資成立OpenLight,推出全球首個(gè)集成激光器的開(kāi)放式硅光子平臺(tái)。
從ChatGPT到物聯(lián)網(wǎng),高帶寬應(yīng)用催生了對(duì)更高數(shù)據(jù)傳輸速度的需求?;诠怆娮蛹夹g(shù)的芯片應(yīng)運(yùn)而生,利用光的速度提供更高的帶寬、更低的延遲和更低的功耗。隨著光子IC的持續(xù)發(fā)展,電子行業(yè)必將迎接光明的未來(lái)。
審核編輯:湯梓紅
-
光電子
+關(guān)注
關(guān)注
1文章
121瀏覽量
17313 -
AI
+關(guān)注
關(guān)注
87文章
31294瀏覽量
269652 -
新思科技
+關(guān)注
關(guān)注
5文章
802瀏覽量
50376 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1564瀏覽量
7865
原文標(biāo)題:光電子技術(shù)為下一代AI打開(kāi)超強(qiáng)算力格局
文章出處:【微信號(hào):Synopsys_CN,微信公眾號(hào):新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論