電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))2022年下半年,服務(wù)器市場(chǎng)受到了經(jīng)濟(jì)下行的波及,也開始放慢了增長(zhǎng)速率。不少人認(rèn)為進(jìn)入2023年后,數(shù)據(jù)中心這幾年享受的紅利期也即將迎來終結(jié)。但隨著ChatGPT及同類型應(yīng)用的風(fēng)靡,服務(wù)器市場(chǎng)再度激活了新一輪的軍備競(jìng)賽。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達(dá)還是AMD,從開年以來股價(jià)就經(jīng)歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢(shì)得利。不過要說在云服務(wù)廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網(wǎng)絡(luò)芯片廠商。
高性能網(wǎng)絡(luò)也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經(jīng)明白ChatGPT這類生成式AI并非曇花一現(xiàn),而是可以投入到現(xiàn)有產(chǎn)品中去并產(chǎn)生附加價(jià)值的爆款應(yīng)用。不過在他們現(xiàn)如今的AI集群中,不少都是和傳統(tǒng)的x86 CPU集群獨(dú)立的,所以他們要想建立新的互聯(lián)交換網(wǎng)絡(luò)滿足需求,就必須要購置新的基礎(chǔ)設(shè)施硬件。
所以搭建高性能數(shù)據(jù)中心網(wǎng)絡(luò)就成了他們發(fā)力的重點(diǎn)之一,需求指標(biāo)包括無損耗、低時(shí)延和高擴(kuò)展性等。像亞馬遜、谷歌這樣已經(jīng)開始自研高速網(wǎng)絡(luò)芯片的大廠還好,而沒有這方面技術(shù)積累的云服務(wù)廠商和企業(yè)就只能去購買第三方方案,諸如大帶寬交換機(jī)/路由器、DPU等。
網(wǎng)絡(luò)芯片廠商從中受益
正因如此,像博通、瑞昱之類的網(wǎng)絡(luò)芯片廠商也都從這股AI熱中受益。近日,博通發(fā)布了2023財(cái)年第一季度的財(cái)報(bào),該季度內(nèi)博通的總營(yíng)收達(dá)到了89.15億美元,同比增長(zhǎng)16%,凈利潤(rùn)達(dá)37.74億美元,同比增長(zhǎng)53%,其中半導(dǎo)體解決方案業(yè)務(wù)貢獻(xiàn)了71.07億美元的營(yíng)收,同比增長(zhǎng)了21%。
Tomahawk5以太網(wǎng)交換機(jī)芯片/ 博通
雖然其中一部分營(yíng)收來自無線消費(fèi)終端,但這樣的成績(jī)還是可以看出在服務(wù)器終端市場(chǎng),網(wǎng)絡(luò)芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內(nèi),單是用于AI的以太網(wǎng)交換機(jī)產(chǎn)品營(yíng)收就超過2億美元,而他們預(yù)計(jì)在2023年這個(gè)數(shù)值將達(dá)到8億美元,可見博通的Tomahawk以太網(wǎng)交換機(jī)芯片賣得有多好。
與此同時(shí),博通用于計(jì)算卸載的產(chǎn)品,也因?yàn)樯墒紸I的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業(yè)務(wù)上的營(yíng)收已經(jīng)超過20億美元,且今年的預(yù)計(jì)營(yíng)收將超過30億美元。另外就是無損數(shù)據(jù)中心以太網(wǎng)架構(gòu),博通也像華為等廠商一樣,開始在新一代無損低時(shí)延的以太網(wǎng)架構(gòu)上加大投入,且對(duì)數(shù)據(jù)與計(jì)算密集型的AI負(fù)載進(jìn)行了優(yōu)化設(shè)計(jì)。
小結(jié)
相對(duì)其他服務(wù)器硬件產(chǎn)品來說,網(wǎng)絡(luò)芯片的市場(chǎng)韌性確實(shí)要更高一些,而且總能順應(yīng)局勢(shì)迎來一波增長(zhǎng)。加之如今的以太網(wǎng)交換機(jī)芯片、SmartNIC和DPU都處于飛速創(chuàng)新的階段,相信即便在AI計(jì)算量逐年倍增的情況下,數(shù)據(jù)中心網(wǎng)絡(luò)也不會(huì)出現(xiàn)類似其他硬件一樣的性能瓶頸。
直接受益者自然是與算力掛鉤最為緊密的GPU廠商,無論是英偉達(dá)還是AMD,從開年以來股價(jià)就經(jīng)歷了一輪猛漲。CPU、AI加速器、FPGA廠商也順勢(shì)得利。不過要說在云服務(wù)廠商紛紛瘋狂下單下,還有哪些硬件廠商從中分了一杯羹,那肯定少不了網(wǎng)絡(luò)芯片廠商。
高性能網(wǎng)絡(luò)也是生成式AI的硬需求
在Meta、谷歌、亞馬遜這些Hyperscaler廠商的眼里,他們已經(jīng)明白ChatGPT這類生成式AI并非曇花一現(xiàn),而是可以投入到現(xiàn)有產(chǎn)品中去并產(chǎn)生附加價(jià)值的爆款應(yīng)用。不過在他們現(xiàn)如今的AI集群中,不少都是和傳統(tǒng)的x86 CPU集群獨(dú)立的,所以他們要想建立新的互聯(lián)交換網(wǎng)絡(luò)滿足需求,就必須要購置新的基礎(chǔ)設(shè)施硬件。
所以搭建高性能數(shù)據(jù)中心網(wǎng)絡(luò)就成了他們發(fā)力的重點(diǎn)之一,需求指標(biāo)包括無損耗、低時(shí)延和高擴(kuò)展性等。像亞馬遜、谷歌這樣已經(jīng)開始自研高速網(wǎng)絡(luò)芯片的大廠還好,而沒有這方面技術(shù)積累的云服務(wù)廠商和企業(yè)就只能去購買第三方方案,諸如大帶寬交換機(jī)/路由器、DPU等。
網(wǎng)絡(luò)芯片廠商從中受益
正因如此,像博通、瑞昱之類的網(wǎng)絡(luò)芯片廠商也都從這股AI熱中受益。近日,博通發(fā)布了2023財(cái)年第一季度的財(cái)報(bào),該季度內(nèi)博通的總營(yíng)收達(dá)到了89.15億美元,同比增長(zhǎng)16%,凈利潤(rùn)達(dá)37.74億美元,同比增長(zhǎng)53%,其中半導(dǎo)體解決方案業(yè)務(wù)貢獻(xiàn)了71.07億美元的營(yíng)收,同比增長(zhǎng)了21%。
雖然其中一部分營(yíng)收來自無線消費(fèi)終端,但這樣的成績(jī)還是可以看出在服務(wù)器終端市場(chǎng),網(wǎng)絡(luò)芯片的需求劇增,致使訂單飛漲。博通表示,在2022年內(nèi),單是用于AI的以太網(wǎng)交換機(jī)產(chǎn)品營(yíng)收就超過2億美元,而他們預(yù)計(jì)在2023年這個(gè)數(shù)值將達(dá)到8億美元,可見博通的Tomahawk以太網(wǎng)交換機(jī)芯片賣得有多好。
與此同時(shí),博通用于計(jì)算卸載的產(chǎn)品,也因?yàn)樯墒紸I的爆火而大賣,例如Stingray系列SmartNIC。博通去年在該類業(yè)務(wù)上的營(yíng)收已經(jīng)超過20億美元,且今年的預(yù)計(jì)營(yíng)收將超過30億美元。另外就是無損數(shù)據(jù)中心以太網(wǎng)架構(gòu),博通也像華為等廠商一樣,開始在新一代無損低時(shí)延的以太網(wǎng)架構(gòu)上加大投入,且對(duì)數(shù)據(jù)與計(jì)算密集型的AI負(fù)載進(jìn)行了優(yōu)化設(shè)計(jì)。
小結(jié)
相對(duì)其他服務(wù)器硬件產(chǎn)品來說,網(wǎng)絡(luò)芯片的市場(chǎng)韌性確實(shí)要更高一些,而且總能順應(yīng)局勢(shì)迎來一波增長(zhǎng)。加之如今的以太網(wǎng)交換機(jī)芯片、SmartNIC和DPU都處于飛速創(chuàng)新的階段,相信即便在AI計(jì)算量逐年倍增的情況下,數(shù)據(jù)中心網(wǎng)絡(luò)也不會(huì)出現(xiàn)類似其他硬件一樣的性能瓶頸。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
gpu
+關(guān)注
關(guān)注
28文章
4768瀏覽量
129317 -
博通
+關(guān)注
關(guān)注
35文章
4328瀏覽量
107052 -
網(wǎng)絡(luò)芯片
+關(guān)注
關(guān)注
0文章
30瀏覽量
12119
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
ASIC和GPU的原理和優(yōu)勢(shì)
? 本文介紹了ASIC和GPU兩種能夠用于AI計(jì)算的半導(dǎo)體芯片各自的原理和優(yōu)勢(shì)。 ASIC和GPU是什么 ASIC和GPU,都是用于計(jì)算功能的半導(dǎo)體
如何構(gòu)建及優(yōu)化GPU云網(wǎng)絡(luò)
并從計(jì)算節(jié)點(diǎn)成本優(yōu)化、集群網(wǎng)絡(luò)與拓?fù)涞倪x擇等方面論述如何構(gòu)建及優(yōu)化GPU云網(wǎng)絡(luò)。
GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)
眾所周知,在大型模型訓(xùn)練中,通常采用每臺(tái)服務(wù)器配備多個(gè)GPU的集群架構(gòu)。在上一篇文章《高性能GPU服務(wù)器AI網(wǎng)絡(luò)架構(gòu)(上篇)》中,我們對(duì)GPU網(wǎng)絡(luò)
OpenAI推出ChatGPT搜索功能
查找網(wǎng)絡(luò)信息時(shí),往往需要通過傳統(tǒng)的搜索引擎進(jìn)行檢索,然后從中篩選出有價(jià)值的內(nèi)容。而現(xiàn)在,有了ChatGPT搜索,用戶可以更加便捷地獲取所需信息。 OpenAI表示,ChatGPT搜索不僅能夠幫助用戶像在
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--了解算力芯片GPU
本篇閱讀學(xué)習(xí)第七、八章,了解GPU架構(gòu)演進(jìn)及CPGPU存儲(chǔ)體系與線程管理
█從圖形到計(jì)算的GPU架構(gòu)演進(jìn)
GPU圖像計(jì)算發(fā)展
●從三角形開始的幾何階段
在現(xiàn)代圖形渲染中,三角形是最常用的基本圖形元素
發(fā)表于 11-03 12:55
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽
、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對(duì)芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解算力芯片。
全書共11章,由淺入深,較系統(tǒng)全面進(jìn)行講解。下面目錄對(duì)全書
發(fā)表于 10-15 22:08
神經(jīng)網(wǎng)絡(luò)芯片和普通芯片區(qū)別
處理神經(jīng)網(wǎng)絡(luò)算法的芯片。它通過模擬人腦神經(jīng)元的工作方式,實(shí)現(xiàn)了對(duì)大量數(shù)據(jù)的并行處理和快速學(xué)習(xí)。 普通芯片,又稱通用芯片,是指可以執(zhí)行各種計(jì)算任務(wù)的芯
使用espbox lite進(jìn)行chatgpt_demo的燒錄報(bào)錯(cuò)是什么原因?
我使用espbox lite進(jìn)行chatgpt_demo的燒錄
我的idf是v5.1release版本的,espbox是master版本的
在編譯時(shí)似乎沒有什么問題
在燒錄時(shí)報(bào)錯(cuò)
請(qǐng)問這是什么原因
發(fā)表于 06-11 08:45
OpenAI 深夜拋出王炸 “ChatGPT- 4o”, “她” 來了
當(dāng)?shù)貢r(shí)間5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前邁出的一大步。在GPT-4turbo的強(qiáng)大基礎(chǔ)上,這種迭代擁有顯著的改進(jìn)。在發(fā)布會(huì)的演示中,OpenAI展示該模型的高級(jí)
發(fā)表于 05-27 15:43
AI訓(xùn)練,為什么需要GPU?
隨著由ChatGPT引發(fā)的人工智能熱潮,GPU成為了AI大模型訓(xùn)練平臺(tái)的基石,甚至是決定性的算力底座。為什么GPU能力壓CPU,成為炙手可熱的主角呢?要回答這個(gè)問題,首先需要了解當(dāng)前人工智能(AI
GPU/TPU集群網(wǎng)絡(luò)組網(wǎng)間的連接方式
用于連接 GPU 服務(wù)器中的 8 個(gè) GPU 的 NVLink 交換機(jī)也可以用于構(gòu)建連接 GPU 服務(wù)器之間的交換網(wǎng)絡(luò)。Nvidia 在 2
發(fā)表于 04-16 11:43
?889次閱讀
【Longan Pi 3H 開發(fā)板試用連載體驗(yàn)】給ChatGPT裝上眼睛,還可以語音對(duì)話
個(gè)位置:
由于我沒有HDMI顯示器和鍵盤,因此無法像官方WIKI那樣使用桌面系統(tǒng)。因此首次開機(jī)我也需要用無頭方式配置無線網(wǎng)絡(luò)。具體操作我們下期在評(píng)論區(qū)中再見。
發(fā)表于 04-12 12:41
在FPGA設(shè)計(jì)中是否可以應(yīng)用ChatGPT生成想要的程序呢
當(dāng)下AI人工智能崛起,很多開發(fā)領(lǐng)域都可看到ChatGPT的身影,F(xiàn)PGA設(shè)計(jì)中,是否也可以用ChatGPT輔助設(shè)計(jì)呢?
發(fā)表于 03-28 23:41
FPGA在深度學(xué)習(xí)應(yīng)用中或?qū)⑷〈?b class='flag-5'>GPU
硬件公司供貨的不斷增加,GPU 在深度學(xué)習(xí)中的市場(chǎng)需求還催生了大量公共云服務(wù),這些服務(wù)為深度學(xué)習(xí)項(xiàng)目提供強(qiáng)大的 GPU 虛擬機(jī)。
但是顯卡也受硬件和環(huán)境的限制。Larzul 解釋說:“神經(jīng)網(wǎng)
發(fā)表于 03-21 15:19
【國(guó)產(chǎn)FPGA+OMAPL138開發(fā)板體驗(yàn)】(原創(chuàng))6.FPGA連接ChatGPT 4
的復(fù)雜系統(tǒng),然后將其映射到FPGA上運(yùn)行。FPGA通常與CPU、GPU等并行處理單元一起工作,通過網(wǎng)絡(luò)接口與后端服務(wù)器通信。然而,如果編寫一個(gè)FPGA配置以模擬與ChatGPT4 API通信的過程
發(fā)表于 02-14 21:58
評(píng)論