電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)最近,ChatGPT持續(xù)火爆,隨著微軟在其搜索引擎必應(yīng)中使用ChatGPT,谷歌、百度、阿里等都在計(jì)劃推出類似ChatGPT的聊天機(jī)器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天機(jī)器人“巴德(Bard)”;百度2月7日確認(rèn)正在研發(fā)“文心一言”;阿里2月9日透露類ChatGPT的對(duì)話機(jī)器人正在研發(fā)。
而無(wú)論是ChatGPT,還是巴德(Bard)、文心一言、阿里的對(duì)話機(jī)器人,它們要運(yùn)行,都需要大量的算力,數(shù)據(jù)中心、算力芯片業(yè)因此成為熱門(mén)。
對(duì)數(shù)據(jù)中心需求量大
ChatGPT背后有著巨額的算力成本,數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即每秒一千萬(wàn)億次計(jì)算,運(yùn)行3640個(gè)整日)。隨著更多ChatGPT同類產(chǎn)品出現(xiàn),且在相關(guān)服務(wù)不斷升級(jí)和更新的情況下,未來(lái)數(shù)據(jù)中心的負(fù)擔(dān)會(huì)越來(lái)越重,對(duì)數(shù)據(jù)中心數(shù)量的需求也更大。
另外,數(shù)據(jù)中心在龐大的增量面前也透露出一個(gè)問(wèn)題,便是網(wǎng)絡(luò)設(shè)備的巨額能耗。數(shù)據(jù)中心是耗能大戶。因此國(guó)家在去年11月1日在全國(guó)范圍內(nèi)強(qiáng)制實(shí)施了《數(shù)據(jù)中心能效限定值和能效等級(jí)》,決定在2025年實(shí)現(xiàn)節(jié)能量超過(guò)2143億千瓦時(shí)。
近日工信部等七部門(mén)同樣發(fā)布了《信息通信行業(yè)綠色低碳發(fā)展計(jì)劃(2022-2025年)》,按照最新的國(guó)標(biāo)要求到2025年,新建大型、超大型數(shù)據(jù)中心電能利用效率(PUE)降到1.3以下。
而在ChatGPT等AI技術(shù)發(fā)展的同時(shí),降低能耗成了數(shù)據(jù)中心產(chǎn)業(yè)的趨勢(shì)。對(duì)于數(shù)據(jù)中心而言,能耗主要來(lái)自三個(gè)方面:決定交換機(jī)性能的交換芯片、承載網(wǎng)絡(luò)通信帶寬的光模塊、提高傳輸速率的SerDes。因此相關(guān)技術(shù)和芯片將會(huì)成為需求的重點(diǎn)。
事實(shí)上,在數(shù)據(jù)中心能耗問(wèn)題方面,早在2020年,亞馬遜、微軟、谷歌等云計(jì)算巨頭,思科、IBM、英特爾、英偉達(dá)等網(wǎng)絡(luò)設(shè)備及芯片龍頭,就已在投入研發(fā)一項(xiàng)名為CPO的技術(shù)。CPO是通過(guò)將交換芯片和光模塊整合,形成芯片和模組的共封裝,可降低原來(lái)功耗的50%。
據(jù)LightCounting預(yù)測(cè),按照端口數(shù)量統(tǒng)計(jì),CPO的出貨量將從2023年的5萬(wàn)件增加到2027年的450萬(wàn)件,以800G和1.6T CPO為主。目前我國(guó)已有不少企業(yè)在進(jìn)行相關(guān)技術(shù)研發(fā),包括新易盛、銳捷網(wǎng)絡(luò)、聯(lián)特科技、光迅科技等。
帶動(dòng)AI芯片需求增長(zhǎng)
ChatGPT橫空出世,意味著一系列AI應(yīng)用進(jìn)入大規(guī)模的落地階段。業(yè)內(nèi)人士認(rèn)為,這將對(duì)AI芯片在訓(xùn)練和推理等環(huán)節(jié)支撐大量數(shù)據(jù)高效處理提出新的挑戰(zhàn),芯片算力、存儲(chǔ)容量、帶寬、軟件棧等多個(gè)維度上的技術(shù)要求將提高,并推動(dòng)AI芯片市場(chǎng)增長(zhǎng)。
首先是GPU,GPU可以支撐強(qiáng)大的算力需求。以ChatGPT為例,具體來(lái)看,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對(duì)性訓(xùn)練。而GPU由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用。
ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬(wàn)顆英偉達(dá)GPU,曾經(jīng)風(fēng)靡一時(shí)的AlphaGO也只需要8塊GPU。ChatGPT推理部分使用微軟的Azure云服務(wù),也需要GPU進(jìn)行運(yùn)作。所以,ChatGPT的火熱興起對(duì)GPU的需求可見(jiàn)一斑。
在ChatGPT火熱的浪潮中,英偉達(dá)是主要受益者。英偉達(dá)是全球GPU和AI計(jì)算平臺(tái)的領(lǐng)軍者,其高端GPU占據(jù)了AI算法訓(xùn)練市場(chǎng)絕大部分的份額,ChatGPT之前,AlphaGo、GPT-3等明星AI產(chǎn)品都在英偉達(dá)的硬件上運(yùn)行。花旗集團(tuán)預(yù)估,ChatGPT可能會(huì)在未來(lái)12個(gè)月內(nèi)為英偉達(dá)帶來(lái)30億美元至110億美元的銷(xiāo)售額。
英偉達(dá)之外,Intel和AMD也占據(jù)全球GPU主要市場(chǎng)。國(guó)內(nèi)市場(chǎng),目前在人工智能用GPU領(lǐng)域有所布局,包括摩爾線程、壁仞科技、沐曦、天數(shù)智芯、燧原科技等,不過(guò)整體產(chǎn)品應(yīng)用情況仍不及英偉達(dá)等國(guó)際廠商。
隨著AI應(yīng)用進(jìn)入大規(guī)模落地,可想而知除了GPU之外,其他AI訓(xùn)練、推理芯片也有很大的市場(chǎng)空間,像百度、阿里自己研發(fā)類ChatGPT的對(duì)話機(jī)器人,其本身也有在做訓(xùn)練芯片,另外還有寒武紀(jì)、鯤云科技、墨芯人工智能、瀚博半導(dǎo)體等廠商。
另外,從深度學(xué)習(xí)的角度來(lái)看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但 CPU和FPGA也能發(fā)揮其重要性。本身ChatGPT的運(yùn)行需要大量的服務(wù)器支撐,而其中少不了對(duì)CPU的需求。FPGA作為可編程芯片,可以針對(duì)特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。FPGA與CPU結(jié)合,也可以共同用于深度學(xué)習(xí)模型,實(shí)現(xiàn)對(duì)大算力的需求。
小結(jié)
ChatGPT的爆火預(yù)示著人工智能的大規(guī)模落地應(yīng)用成為可能,隨著微軟、谷歌、百度、阿里的入局,人工智能大模型的技術(shù)和應(yīng)用也將更快向前推進(jìn)。這必然造成對(duì)數(shù)據(jù)中心、服務(wù)器的大量需求,在“低碳”目標(biāo)下,低能耗數(shù)據(jù)中心建設(shè)將會(huì)是未來(lái)發(fā)展重點(diǎn)。
同時(shí),在ChatGPT等技術(shù)和應(yīng)用的加速發(fā)展下,AI訓(xùn)練芯片、推理芯片的市場(chǎng)需求也將大幅提升,相關(guān)企業(yè)需要做好準(zhǔn)備。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
機(jī)器人產(chǎn)業(yè)鏈企業(yè)IPO進(jìn)展
維智科技入選2025年泰伯智庫(kù)數(shù)字孿生城市產(chǎn)業(yè)鏈圖譜
福田汽車(chē)助力景德鎮(zhèn)汽車(chē)產(chǎn)業(yè)鏈協(xié)同發(fā)展
漢威科技亮相2024高端儀器儀表產(chǎn)業(yè)鏈創(chuàng)新發(fā)展大會(huì)
華為汽車(chē)產(chǎn)業(yè)鏈的技術(shù)解析與未來(lái)展望

解讀低空經(jīng)濟(jì)熱潮背后的產(chǎn)業(yè)鏈格局

58大新質(zhì)生產(chǎn)力產(chǎn)業(yè)鏈圖譜

2024秋季電機(jī)產(chǎn)業(yè)鏈交流會(huì)盛大舉行

碳化硅產(chǎn)業(yè)鏈成本大幅下降,市場(chǎng)迎來(lái)新變革
ChatGPT背后的AI背景、技術(shù)門(mén)道和商業(yè)應(yīng)用

新質(zhì)生產(chǎn)力之工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)鏈
鴻海強(qiáng)化北美AI服務(wù)器產(chǎn)能,深化產(chǎn)業(yè)鏈布局
兆馳股份一季度業(yè)績(jī)斐然,LED產(chǎn)業(yè)鏈貢獻(xiàn)首次超50%?
智芯公司榮獲第七屆“IC創(chuàng)新獎(jiǎng)”產(chǎn)業(yè)鏈合作獎(jiǎng)

評(píng)論