0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT爆火背后的硬件產(chǎn)業(yè)鏈

Carol Li ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-02-12 06:14 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)最近,ChatGPT持續(xù)火爆,隨著微軟在其搜索引擎必應(yīng)中使用ChatGPT,谷歌、百度、阿里等都在計(jì)劃推出類似ChatGPT的聊天機(jī)器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天機(jī)器人“巴德(Bard)”;百度2月7日確認(rèn)正在研發(fā)“文心一言”;阿里2月9日透露類ChatGPT的對(duì)話機(jī)器人正在研發(fā)。

而無(wú)論是ChatGPT,還是巴德(Bard)、文心一言、阿里的對(duì)話機(jī)器人,它們要運(yùn)行,都需要大量的算力,數(shù)據(jù)中心、算力芯片業(yè)因此成為熱門(mén)。

對(duì)數(shù)據(jù)中心需求量大

ChatGPT背后有著巨額的算力成本,數(shù)據(jù)顯示,ChatGPT的總算力消耗約為3640PF-days(即每秒一千萬(wàn)億次計(jì)算,運(yùn)行3640個(gè)整日)。隨著更多ChatGPT同類產(chǎn)品出現(xiàn),且在相關(guān)服務(wù)不斷升級(jí)和更新的情況下,未來(lái)數(shù)據(jù)中心的負(fù)擔(dān)會(huì)越來(lái)越重,對(duì)數(shù)據(jù)中心數(shù)量的需求也更大。

另外,數(shù)據(jù)中心在龐大的增量面前也透露出一個(gè)問(wèn)題,便是網(wǎng)絡(luò)設(shè)備的巨額能耗。數(shù)據(jù)中心是耗能大戶。因此國(guó)家在去年11月1日在全國(guó)范圍內(nèi)強(qiáng)制實(shí)施了《數(shù)據(jù)中心能效限定值和能效等級(jí)》,決定在2025年實(shí)現(xiàn)節(jié)能量超過(guò)2143億千瓦時(shí)。

近日工信部等七部門(mén)同樣發(fā)布了《信息通信行業(yè)綠色低碳發(fā)展計(jì)劃(2022-2025年)》,按照最新的國(guó)標(biāo)要求到2025年,新建大型、超大型數(shù)據(jù)中心電能利用效率(PUE)降到1.3以下。

而在ChatGPT等AI技術(shù)發(fā)展的同時(shí),降低能耗成了數(shù)據(jù)中心產(chǎn)業(yè)的趨勢(shì)。對(duì)于數(shù)據(jù)中心而言,能耗主要來(lái)自三個(gè)方面:決定交換機(jī)性能的交換芯片、承載網(wǎng)絡(luò)通信帶寬的光模塊、提高傳輸速率的SerDes。因此相關(guān)技術(shù)和芯片將會(huì)成為需求的重點(diǎn)。

事實(shí)上,在數(shù)據(jù)中心能耗問(wèn)題方面,早在2020年,亞馬遜、微軟、谷歌等云計(jì)算巨頭,思科、IBM、英特爾、英偉達(dá)等網(wǎng)絡(luò)設(shè)備及芯片龍頭,就已在投入研發(fā)一項(xiàng)名為CPO的技術(shù)。CPO是通過(guò)將交換芯片和光模塊整合,形成芯片和模組的共封裝,可降低原來(lái)功耗的50%。

據(jù)LightCounting預(yù)測(cè),按照端口數(shù)量統(tǒng)計(jì),CPO的出貨量將從2023年的5萬(wàn)件增加到2027年的450萬(wàn)件,以800G和1.6T CPO為主。目前我國(guó)已有不少企業(yè)在進(jìn)行相關(guān)技術(shù)研發(fā),包括新易盛、銳捷網(wǎng)絡(luò)、聯(lián)特科技、光迅科技等。

帶動(dòng)AI芯片需求增長(zhǎng)

ChatGPT橫空出世,意味著一系列AI應(yīng)用進(jìn)入大規(guī)模的落地階段。業(yè)內(nèi)人士認(rèn)為,這將對(duì)AI芯片在訓(xùn)練和推理等環(huán)節(jié)支撐大量數(shù)據(jù)高效處理提出新的挑戰(zhàn),芯片算力、存儲(chǔ)容量、帶寬、軟件棧等多個(gè)維度上的技術(shù)要求將提高,并推動(dòng)AI芯片市場(chǎng)增長(zhǎng)。

首先是GPU,GPU可以支撐強(qiáng)大的算力需求。以ChatGPT為例,具體來(lái)看,從AI模型構(gòu)建的角度:第一階段是用超大算力和數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型;第二階段是在預(yù)訓(xùn)練模型上進(jìn)行針對(duì)性訓(xùn)練。而GPU由于具備并行計(jì)算能力,可兼容訓(xùn)練和推理,所以目前被廣泛應(yīng)用。

ChatGPT訓(xùn)練模型中就已導(dǎo)入至少1萬(wàn)顆英偉達(dá)GPU,曾經(jīng)風(fēng)靡一時(shí)的AlphaGO也只需要8塊GPU。ChatGPT推理部分使用微軟的Azure云服務(wù),也需要GPU進(jìn)行運(yùn)作。所以,ChatGPT的火熱興起對(duì)GPU的需求可見(jiàn)一斑。

在ChatGPT火熱的浪潮中,英偉達(dá)是主要受益者。英偉達(dá)是全球GPU和AI計(jì)算平臺(tái)的領(lǐng)軍者,其高端GPU占據(jù)了AI算法訓(xùn)練市場(chǎng)絕大部分的份額,ChatGPT之前,AlphaGo、GPT-3等明星AI產(chǎn)品都在英偉達(dá)的硬件上運(yùn)行。花旗集團(tuán)預(yù)估,ChatGPT可能會(huì)在未來(lái)12個(gè)月內(nèi)為英偉達(dá)帶來(lái)30億美元至110億美元的銷(xiāo)售額。

英偉達(dá)之外,IntelAMD也占據(jù)全球GPU主要市場(chǎng)。國(guó)內(nèi)市場(chǎng),目前在人工智能用GPU領(lǐng)域有所布局,包括摩爾線程、壁仞科技、沐曦、天數(shù)智芯、燧原科技等,不過(guò)整體產(chǎn)品應(yīng)用情況仍不及英偉達(dá)等國(guó)際廠商。

隨著AI應(yīng)用進(jìn)入大規(guī)模落地,可想而知除了GPU之外,其他AI訓(xùn)練、推理芯片也有很大的市場(chǎng)空間,像百度、阿里自己研發(fā)類ChatGPT的對(duì)話機(jī)器人,其本身也有在做訓(xùn)練芯片,另外還有寒武紀(jì)、鯤云科技、墨芯人工智能、瀚博半導(dǎo)體等廠商。

另外,從深度學(xué)習(xí)的角度來(lái)看,雖然GPU是最適合深度學(xué)習(xí)應(yīng)用的芯片,但 CPUFPGA也能發(fā)揮其重要性。本身ChatGPT的運(yùn)行需要大量的服務(wù)器支撐,而其中少不了對(duì)CPU的需求。FPGA作為可編程芯片,可以針對(duì)特定功能進(jìn)行擴(kuò)展,在AI模型構(gòu)建第二階段具有一定的發(fā)揮空間。FPGA與CPU結(jié)合,也可以共同用于深度學(xué)習(xí)模型,實(shí)現(xiàn)對(duì)大算力的需求。

小結(jié)

ChatGPT的爆火預(yù)示著人工智能的大規(guī)模落地應(yīng)用成為可能,隨著微軟、谷歌、百度、阿里的入局,人工智能大模型的技術(shù)和應(yīng)用也將更快向前推進(jìn)。這必然造成對(duì)數(shù)據(jù)中心、服務(wù)器的大量需求,在“低碳”目標(biāo)下,低能耗數(shù)據(jù)中心建設(shè)將會(huì)是未來(lái)發(fā)展重點(diǎn)。

同時(shí),在ChatGPT等技術(shù)和應(yīng)用的加速發(fā)展下,AI訓(xùn)練芯片、推理芯片的市場(chǎng)需求也將大幅提升,相關(guān)企業(yè)需要做好準(zhǔn)備。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    機(jī)器人產(chǎn)業(yè)鏈企業(yè)IPO進(jìn)展

    自2024年以來(lái),點(diǎn)開(kāi)各大交易所的IPO項(xiàng)目動(dòng)態(tài),“終止”二字搶占了視線。據(jù)高工機(jī)器人不完全統(tǒng)計(jì),僅2024年,就約20家機(jī)器人產(chǎn)業(yè)鏈企業(yè)終止IPO。
    的頭像 發(fā)表于 02-13 09:58 ?1062次閱讀

    維智科技入選2025年泰伯智庫(kù)數(shù)字孿生城市產(chǎn)業(yè)鏈圖譜

    近日,泰伯智庫(kù)發(fā)布《數(shù)字孿生城市產(chǎn)業(yè)鏈圖譜(2025)》,從基礎(chǔ)設(shè)施層、技術(shù)平臺(tái)層到集成應(yīng)用層三大層面切入,勾畫(huà)最新版數(shù)字孿生城市產(chǎn)業(yè)格局。
    的頭像 發(fā)表于 01-17 11:28 ?334次閱讀

    福田汽車(chē)助力景德鎮(zhèn)汽車(chē)產(chǎn)業(yè)鏈協(xié)同發(fā)展

    近日,景德鎮(zhèn)市2024年裝備制造產(chǎn)業(yè)鏈-汽車(chē)子產(chǎn)業(yè)鏈供需對(duì)接會(huì)在福田汽車(chē)景德鎮(zhèn)工廠舉辦。
    的頭像 發(fā)表于 12-13 10:04 ?278次閱讀

    漢威科技亮相2024高端儀器儀表產(chǎn)業(yè)鏈創(chuàng)新發(fā)展大會(huì)

    近日,主題為“聚焦產(chǎn)創(chuàng)協(xié)同·賦能強(qiáng)基韌”的2024高端儀器儀表產(chǎn)業(yè)鏈創(chuàng)新發(fā)展大會(huì)于北京順利舉行。
    的頭像 發(fā)表于 12-10 16:35 ?507次閱讀

    華為汽車(chē)產(chǎn)業(yè)鏈的技術(shù)解析與未來(lái)展望

    編者語(yǔ): 「智駕最前沿」微信公眾號(hào)后臺(tái)回復(fù): C-0613 ,獲取本文參考報(bào)告:《華為汽車(chē)產(chǎn)業(yè)鏈深度:競(jìng)爭(zhēng)優(yōu)勢(shì)、產(chǎn)業(yè)機(jī)遇、產(chǎn)業(yè)鏈及相關(guān)企業(yè)深度梳理》pdf下載方式。 在全球汽車(chē)行業(yè)加速邁向智能化
    的頭像 發(fā)表于 12-05 12:28 ?1223次閱讀
    華為汽車(chē)<b class='flag-5'>產(chǎn)業(yè)鏈</b>的技術(shù)解析與未來(lái)展望

    解讀低空經(jīng)濟(jì)熱潮背后產(chǎn)業(yè)鏈格局

    的新引擎,這意味著低空經(jīng)濟(jì)未來(lái)巨大發(fā)展空間,不少產(chǎn)業(yè)鏈公司紛紛齊發(fā)力,讓低空經(jīng)濟(jì)更快“起飛”。       那么,什么是低空經(jīng)濟(jì)呢?低空經(jīng)濟(jì),簡(jiǎn)而言之,是以民用有人
    的頭像 發(fā)表于 11-28 13:46 ?571次閱讀
    解讀低空經(jīng)濟(jì)熱潮<b class='flag-5'>背后</b>的<b class='flag-5'>產(chǎn)業(yè)鏈</b>格局

    58大新質(zhì)生產(chǎn)力產(chǎn)業(yè)鏈圖譜

    大躍升 的先進(jìn)生產(chǎn)力。 58大新質(zhì)生產(chǎn)力產(chǎn)業(yè)鏈圖譜 01 元宇宙產(chǎn)業(yè)圖譜 02 算力產(chǎn)業(yè)圖譜 03 數(shù)商產(chǎn)業(yè)圖譜 04 人形機(jī)器人產(chǎn)業(yè)圖譜
    的頭像 發(fā)表于 11-09 10:16 ?541次閱讀
    58大新質(zhì)生產(chǎn)力<b class='flag-5'>產(chǎn)業(yè)鏈</b>圖譜

    2024秋季電機(jī)產(chǎn)業(yè)鏈交流會(huì)盛大舉行

    2024年11月1日,2024’中國(guó)(秋季)電機(jī)智造與創(chuàng)新應(yīng)用暨電機(jī)產(chǎn)業(yè)鏈交流會(huì)在深圳登喜路國(guó)際大酒店圓滿舉辦。 2024年11月1日,由Big-Bit商務(wù)網(wǎng)主辦,《半導(dǎo)體器件應(yīng)用》雜志承辦
    的頭像 發(fā)表于 11-05 09:18 ?615次閱讀
    2024秋季電機(jī)<b class='flag-5'>產(chǎn)業(yè)鏈</b>交流會(huì)盛大舉行

    碳化硅產(chǎn)業(yè)鏈成本大幅下降,市場(chǎng)迎來(lái)新變革

    近期市場(chǎng)消息指出,中國(guó)新能源汽車(chē)和光伏市場(chǎng)的快速發(fā)展,推動(dòng)了碳化硅(SiC)產(chǎn)業(yè)鏈在技術(shù)迭代和產(chǎn)能擴(kuò)充上的加速。這一趨勢(shì)導(dǎo)致SiC產(chǎn)業(yè)鏈中的多個(gè)環(huán)節(jié)成本顯著下降,特別是SiC襯底、外延以及SiC模塊的價(jià)格降幅明顯。
    的頭像 發(fā)表于 10-22 11:48 ?756次閱讀

    ChatGPT背后的AI背景、技術(shù)門(mén)道和商業(yè)應(yīng)用

    作者:京東科技 李俊兵 各位看官好,我是球神(江湖代號(hào))。 自去年11月30日ChatGPT問(wèn)世以來(lái),迅速出圈。 起初我依然以為這是和當(dāng)年Transformer, Bert一樣的“熱點(diǎn)”模型
    的頭像 發(fā)表于 10-18 15:42 ?2556次閱讀
    <b class='flag-5'>ChatGPT</b><b class='flag-5'>背后</b>的AI背景、技術(shù)門(mén)道和商業(yè)應(yīng)用

    新質(zhì)生產(chǎn)力之工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)鏈

    如何成為推動(dòng)工業(yè)4.0和智能制造的基石? 一、工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)鏈概述 工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)鏈是一個(gè)復(fù)雜的生態(tài)系統(tǒng),涵蓋了從硬件設(shè)備到軟件平臺(tái),再到服務(wù)和應(yīng)用的全方位技術(shù)與服務(wù)。它不僅包括傳統(tǒng)的制造業(yè),還融合了信息技術(shù)、通信技
    的頭像 發(fā)表于 06-06 10:41 ?553次閱讀

    鴻海強(qiáng)化北美AI服務(wù)器產(chǎn)能,深化產(chǎn)業(yè)鏈布局

    鴻海旗下負(fù)責(zé)服務(wù)器制造的工業(yè)富聯(lián)董事長(zhǎng)鄭弘孟曾表示,鴻海集團(tuán)已整合了AI產(chǎn)業(yè)鏈上下游,并在全球各大重要區(qū)域設(shè)有生產(chǎn)基地,這使其不僅能更好地滿足客戶需求,增強(qiáng)客戶粘性,同時(shí)也能在AI產(chǎn)業(yè)鏈中占據(jù)主導(dǎo)地位。
    的頭像 發(fā)表于 05-23 09:03 ?605次閱讀

    兆馳股份一季度業(yè)績(jī)斐然,LED產(chǎn)業(yè)鏈貢獻(xiàn)首次超50%?

    兆馳股份表示,得益于公司在2023年度針對(duì)Mini LED垂直產(chǎn)業(yè)鏈的戰(zhàn)略布局,其LED產(chǎn)業(yè)鏈各個(gè)環(huán)節(jié)的業(yè)績(jī)均有明顯提升。在2024年首個(gè)季度,LED產(chǎn)業(yè)鏈所帶來(lái)的利潤(rùn)貢獻(xiàn)首次超過(guò)了50%。
    的頭像 發(fā)表于 04-26 15:22 ?942次閱讀

    智芯公司榮獲第七屆“IC創(chuàng)新獎(jiǎng)”產(chǎn)業(yè)鏈合作獎(jiǎng)

    3月23日,2024集成電路產(chǎn)業(yè)鏈協(xié)同創(chuàng)新發(fā)展交流會(huì)暨中國(guó)集成電路創(chuàng)新聯(lián)盟大會(huì)在北京舉行,智芯公司“工業(yè)級(jí)高端電力控制芯片多尺度熱設(shè)計(jì)與制造技術(shù)及應(yīng)用”項(xiàng)目榮獲第七屆“IC創(chuàng)新獎(jiǎng)”。 智芯公司上臺(tái)
    的頭像 發(fā)表于 03-26 10:02 ?962次閱讀
    智芯公司榮獲第七屆“IC創(chuàng)新獎(jiǎng)”<b class='flag-5'>產(chǎn)業(yè)鏈</b>合作獎(jiǎng)

    鋰電產(chǎn)業(yè)鏈3月排產(chǎn)全線回升,各環(huán)節(jié)排產(chǎn)實(shí)現(xiàn)同環(huán)比俱增

    鋰電產(chǎn)業(yè)鏈排產(chǎn)恢復(fù)節(jié)點(diǎn)如期而至。
    的頭像 發(fā)表于 03-18 15:38 ?635次閱讀