0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT不止帶火了GPU,也盤活了網(wǎng)絡(luò)芯片

Leland ? 來源:電子發(fā)燒友網(wǎng)原創(chuàng) ? 作者:周凱揚(yáng) ? 2023-03-13 09:13 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))2022年下半年,服務(wù)器市場(chǎng)受到了經(jīng)濟(jì)下行的波及,也開始放慢了增長(zhǎng)速率。不少人認(rèn)為進(jìn)入2023年后,數(shù)據(jù)中心這幾年享受的紅利期也即將迎來終結(jié)。但隨著ChatGPT及同類型應(yīng)用的風(fēng)靡,服務(wù)器市場(chǎng)再度激活了新一輪的軍備競(jìng)賽。

直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達(dá)還是AMD,從開年以來股價(jià)就經(jīng)歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢(shì)得利。不過要說在云服務(wù)廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網(wǎng)絡(luò)芯片廠商。

高性能網(wǎng)絡(luò)也是生成式AI的硬需求

在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經(jīng)明白ChatGPT這類生成式AI并非曇花一現(xiàn),而是可以投入到現(xiàn)有產(chǎn)品中去并產(chǎn)生附加價(jià)值的爆款應(yīng)用。不過在他們現(xiàn)如今的AI集群中,不少都是和傳統(tǒng)的x86 CPU集群獨(dú)立的,所以他們要想建立新的互聯(lián)交換網(wǎng)絡(luò)滿足需求,就必須要購置新的基礎(chǔ)設(shè)施硬件。

所以搭建高性能數(shù)據(jù)中心網(wǎng)絡(luò)就成了他們發(fā)力的重點(diǎn)之一,需求指標(biāo)包括無損耗、低時(shí)延和高擴(kuò)展性等。像亞馬遜、谷歌這樣已經(jīng)開始自研高速網(wǎng)絡(luò)芯片的大廠還好,而沒有這方面技術(shù)積累的云服務(wù)廠商和企業(yè)就只能去購買第三方方案,諸如大帶寬交換機(jī)/路由器、DPU等。

網(wǎng)絡(luò)芯片廠商從中受益

正因如此,像博通、瑞昱之類的網(wǎng)絡(luò)芯片廠商也都從這股AI熱中受益。近日,博通發(fā)布了2023財(cái)年第一季度的財(cái)報(bào),該季度內(nèi)博通的總營(yíng)收達(dá)到了89.15億美元,同比增長(zhǎng)16%,凈利潤(rùn)達(dá)37.74億美元,同比增長(zhǎng)53%,其中半導(dǎo)體解決方案業(yè)務(wù)貢獻(xiàn)了71.07億美元的營(yíng)收,同比增長(zhǎng)了21%。
Tomahawk5以太網(wǎng)交換機(jī)芯片/ 博通

雖然其中一部分營(yíng)收來自無線消費(fèi)終端,但這樣的成績(jī)還是可以看出在服務(wù)器終端市場(chǎng),網(wǎng)絡(luò)芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內(nèi),單是用于AI的以太網(wǎng)交換機(jī)產(chǎn)品營(yíng)收就超過2億美元,而他們預(yù)計(jì)在2023年這個(gè)數(shù)值將達(dá)到8億美元,可見博通的Tomahawk以太網(wǎng)交換機(jī)芯片賣得有多好。

與此同時(shí),博通用于計(jì)算卸載的產(chǎn)品,也因?yàn)樯墒紸I的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業(yè)務(wù)上的營(yíng)收已經(jīng)超過20億美元,且今年的預(yù)計(jì)營(yíng)收將超過30億美元。另外就是無損數(shù)據(jù)中心以太網(wǎng)架構(gòu),博通也像華為等廠商一樣,開始在新一代無損低時(shí)延的以太網(wǎng)架構(gòu)上加大投入,且對(duì)數(shù)據(jù)與計(jì)算密集型的AI負(fù)載進(jìn)行了優(yōu)化設(shè)計(jì)。

小結(jié)

相對(duì)其他服務(wù)器硬件產(chǎn)品來說,網(wǎng)絡(luò)芯片的市場(chǎng)韌性確實(shí)要更高一些,而且總能順應(yīng)局勢(shì)迎來一波增長(zhǎng)。加之如今的以太網(wǎng)交換機(jī)芯片、SmartNIC和DPU都處于飛速創(chuàng)新的階段,相信即便在AI計(jì)算量逐年倍增的情況下,數(shù)據(jù)中心網(wǎng)絡(luò)也不會(huì)出現(xiàn)類似其他硬件一樣的性能瓶頸。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4768

    瀏覽量

    129317
  • 博通
    +關(guān)注

    關(guān)注

    35

    文章

    4328

    瀏覽量

    107052
  • 網(wǎng)絡(luò)芯片
    +關(guān)注

    關(guān)注

    0

    文章

    30

    瀏覽量

    12119
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    ASIC和GPU的原理和優(yōu)勢(shì)

    ? 本文介紹了ASIC和GPU兩種能夠用于AI計(jì)算的半導(dǎo)體芯片各自的原理和優(yōu)勢(shì)。 ASIC和GPU是什么 ASIC和GPU,都是用于計(jì)算功能的半導(dǎo)體
    的頭像 發(fā)表于 01-06 13:58 ?541次閱讀
    ASIC和<b class='flag-5'>GPU</b>的原理和優(yōu)勢(shì)

    如何構(gòu)建及優(yōu)化GPU網(wǎng)絡(luò)

    并從計(jì)算節(jié)點(diǎn)成本優(yōu)化、集群網(wǎng)絡(luò)與拓?fù)涞倪x擇等方面論述如何構(gòu)建及優(yōu)化GPU網(wǎng)絡(luò)
    的頭像 發(fā)表于 11-06 16:03 ?468次閱讀
    如何構(gòu)建及優(yōu)化<b class='flag-5'>GPU</b>云<b class='flag-5'>網(wǎng)絡(luò)</b>

    GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)

    眾所周知,在大型模型訓(xùn)練中,通常采用每臺(tái)服務(wù)器配備多個(gè)GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對(duì)GPU網(wǎng)絡(luò)
    的頭像 發(fā)表于 11-05 16:20 ?592次閱讀
    <b class='flag-5'>GPU</b>服務(wù)器AI<b class='flag-5'>網(wǎng)絡(luò)</b>架構(gòu)設(shè)計(jì)

    OpenAI推出ChatGPT搜索功能

    查找網(wǎng)絡(luò)信息時(shí),往往需要通過傳統(tǒng)的搜索引擎進(jìn)行檢索,然后從中篩選出有價(jià)值的內(nèi)容。而現(xiàn)在,有了ChatGPT搜索,用戶可以更加便捷地獲取所需信息。 OpenAI表示,ChatGPT搜索不僅能夠幫助用戶像在
    的頭像 發(fā)表于 11-04 10:34 ?399次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--了解算力芯片GPU

    本篇閱讀學(xué)習(xí)第七、八章,了解GPU架構(gòu)演進(jìn)及CPGPU存儲(chǔ)體系與線程管理 █從圖形到計(jì)算的GPU架構(gòu)演進(jìn) GPU圖像計(jì)算發(fā)展 ●從三角形開始的幾何階段 在現(xiàn)代圖形渲染中,三角形是最常用的基本圖形元素
    發(fā)表于 11-03 12:55

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對(duì)芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統(tǒng)全面進(jìn)行講解。下面目錄對(duì)全書
    發(fā)表于 10-15 22:08

    神經(jīng)網(wǎng)絡(luò)芯片和普通芯片區(qū)別

    處理神經(jīng)網(wǎng)絡(luò)算法的芯片。它通過模擬人腦神經(jīng)元的工作方式,實(shí)現(xiàn)了對(duì)大量數(shù)據(jù)的并行處理和快速學(xué)習(xí)。 普通芯片,又稱通用芯片,是指可以執(zhí)行各種計(jì)算任務(wù)的
    的頭像 發(fā)表于 07-04 09:30 ?1336次閱讀

    使用espbox lite進(jìn)行chatgpt_demo的燒錄報(bào)錯(cuò)是什么原因?

    我使用espbox lite進(jìn)行chatgpt_demo的燒錄 我的idf是v5.1release版本的,espbox是master版本的 在編譯時(shí)似乎沒有什么問題 在燒錄時(shí)報(bào)錯(cuò) 請(qǐng)問這是什么原因
    發(fā)表于 06-11 08:45

    OpenAI 深夜拋出王炸 “ChatGPT- 4o”, “她” 來了

    當(dāng)?shù)貢r(shí)間5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前邁出的一大步。在GPT-4turbo的強(qiáng)大基礎(chǔ)上,這種迭代擁有顯著的改進(jìn)。在發(fā)布會(huì)的演示中,OpenAI展示該模型的高級(jí)
    發(fā)表于 05-27 15:43

    AI訓(xùn)練,為什么需要GPU?

    隨著由ChatGPT引發(fā)的人工智能熱潮,GPU成為了AI大模型訓(xùn)練平臺(tái)的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱的主角呢?要回答這個(gè)問題,首先需要了解當(dāng)前人工智能(AI
    的頭像 發(fā)表于 04-24 08:05 ?1075次閱讀
    AI訓(xùn)練,為什么需要<b class='flag-5'>GPU</b>?

    GPU/TPU集群網(wǎng)絡(luò)組網(wǎng)間的連接方式

    用于連接 GPU 服務(wù)器中的 8 個(gè) GPU 的 NVLink 交換機(jī)可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2
    發(fā)表于 04-16 11:43 ?889次閱讀
    <b class='flag-5'>GPU</b>/TPU集群<b class='flag-5'>網(wǎng)絡(luò)</b>組網(wǎng)間的連接方式

    【Longan Pi 3H 開發(fā)板試用連載體驗(yàn)】給ChatGPT裝上眼睛,還可以語音對(duì)話

    個(gè)位置: 由于我沒有HDMI顯示器和鍵盤,因此無法像官方WIKI那樣使用桌面系統(tǒng)。因此首次開機(jī)我需要用無頭方式配置無線網(wǎng)絡(luò)。具體操作我們下期在評(píng)論區(qū)中再見。
    發(fā)表于 04-12 12:41

    在FPGA設(shè)計(jì)中是否可以應(yīng)用ChatGPT生成想要的程序呢

    當(dāng)下AI人工智能崛起,很多開發(fā)領(lǐng)域都可看到ChatGPT的身影,F(xiàn)PGA設(shè)計(jì)中,是否可以用ChatGPT輔助設(shè)計(jì)呢?
    發(fā)表于 03-28 23:41

    FPGA在深度學(xué)習(xí)應(yīng)用中或?qū)⑷〈?b class='flag-5'>GPU

    硬件公司供貨的不斷增加,GPU 在深度學(xué)習(xí)中的市場(chǎng)需求還催生了大量公共云服務(wù),這些服務(wù)為深度學(xué)習(xí)項(xiàng)目提供強(qiáng)大的 GPU 虛擬機(jī)。 但是顯卡受硬件和環(huán)境的限制。Larzul 解釋說:“神經(jīng)網(wǎng)
    發(fā)表于 03-21 15:19

    【國(guó)產(chǎn)FPGA+OMAPL138開發(fā)板體驗(yàn)】(原創(chuàng))6.FPGA連接ChatGPT 4

    的復(fù)雜系統(tǒng),然后將其映射到FPGA上運(yùn)行。FPGA通常與CPU、GPU等并行處理單元一起工作,通過網(wǎng)絡(luò)接口與后端服務(wù)器通信。然而,如果編寫一個(gè)FPGA配置以模擬與ChatGPT4 API通信的過程
    發(fā)表于 02-14 21:58