電子發(fā)燒友網(wǎng)報道(文/周凱揚)在1G/10G的網(wǎng)絡(luò)發(fā)展階段,就已經(jīng)有了標準網(wǎng)卡NIC投入應(yīng)用,滿足基本的數(shù)據(jù)包傳輸和接收工作。但隨著云計算、虛擬化、機密計算等追求更高性能和更多功能的場景出現(xiàn),傳統(tǒng)的網(wǎng)卡已經(jīng)無法滿足大家的需求,CPU需要進一步減輕在網(wǎng)絡(luò)、存儲和安全負載,所以整個行業(yè)邁入了智能網(wǎng)卡階段。
在SmartNIC智能網(wǎng)卡階段,絕大多數(shù)產(chǎn)品都是基于FPGA打造的,但數(shù)據(jù)中心對IO性能要求越來越高,就連如今的這些網(wǎng)卡都需要參與更多的數(shù)據(jù)處理工作,也就慢慢轉(zhuǎn)向人們口中常說的DPU,在高速的NIC數(shù)據(jù)路徑上加入更多的處理器核心,靠軟件定義網(wǎng)絡(luò)。從2020年開始,DPU市場廣受資本市場追捧,不少廠商都在這個階段開啟了收購,然后紛紛將產(chǎn)品更名為xPU。
從技術(shù)路線上,DPU也被分成了三種,一種是NIC與FPGA或CPU核心依靠PCIe等技術(shù)相連的混合解決方案,另一種是NIC和處理器核心高度集成在一個SoC內(nèi)的方案,最后則是純粹的高度并行化FPGA方案。
然而到了2024年,DPU市場明顯達到了一個新的十字路口。首先DPU在超大規(guī)模云服務(wù)商的受歡迎程度越來越高,DPU也成了他們實現(xiàn)差異化最佳的方式之一。幾大DPU廠商仍在推陳出新,但由于產(chǎn)量、封閉等原因,我們還是沒能看到DPU以更大的規(guī)模在服務(wù)器上鋪開,即便是在應(yīng)用最多的超大規(guī)模云服務(wù)商的服務(wù)器上,其部署率也不過剛突破50%。
英偉達,DPU+SuperNIC
2019年3月,英偉達斥資69億美元收購了Mellanox,也因此收獲了其BlueField IP,并開始推行DPU的概念。GTC2020年上,英偉達很快就宣布了由他們打造的首個BlueField DPU卡BlueField-2,隨后又公開了將Ampere架構(gòu)的GPU集成在同一張卡上的BlueField-2X,利用GPU來提升其算力。
2021年,英偉達宣布了其最新的BlueField-3,集成了至多16個Arm A78核心,支持PCIe 5.0。但也就是從這一代開始,英偉達對于BlueField的定位出現(xiàn)了分支,也就是全新的SuperNIC。在英偉達的描述中SuperNIC又是一個用于提升網(wǎng)絡(luò)性能的設(shè)備,與SmartNIC、DPU和IPU聽起來好像也沒有什么不同。但SuperNIC專門針對AI加速網(wǎng)絡(luò)做了優(yōu)化。
BlueField DPU路線圖 / 英偉達
其中BlueField-3 DPU和過去的DPU產(chǎn)品定位保持一致,用于卸載和加速網(wǎng)絡(luò)、存儲、安全和管理功能。而BlueField-3 SuperNIC則主要用于網(wǎng)絡(luò)活動更密集、需要大量并行運算的場景,也就是AI服務(wù)器/GPU服務(wù)器。
在拓展效率上,SuperNIC也要更強一些。比如在單個系統(tǒng)中,往往只能容納1到2個BlueField-3 DPU,卻可以容納至多8個BlueField SuperNIC。而且單個系統(tǒng)中,GPU與SuperNIC 1:1的比例能夠進一步提升AI服務(wù)器的效率。
今年即將推出的BlueField 4將進一步增加晶體管規(guī)模的同時,網(wǎng)絡(luò)性能將用于支持800Gbps的數(shù)據(jù)中心網(wǎng)絡(luò)。不僅如此,英偉達決心在其算力上實現(xiàn)巨大提升,從BlueField-3的1.5TOPS,直接暴漲到1000TOPS。
AMD,SmartNIC+Pensando
為了在服務(wù)器市場搶占更多的市場份額,我們可以看到AMD這幾年不斷地在CPU和GPU的設(shè)計上推陳出新,一點點地蠶食英特爾的市場份額,除此之外在SmartNIC和DPU領(lǐng)域,AMD也有所布局。
首先是SmartNIC,作為FPGA大廠,Xilinx在被AMD收購前已經(jīng)有了優(yōu)秀的Alveo系列SmartNIC產(chǎn)品陣容,尤其是在對延遲極為敏感的金融電子交易領(lǐng)域,AMD Alveo系列加速卡可謂一騎絕塵。以最新的Alveo UL3524為例,其收發(fā)延遲可以降低至3ns以下。
在DPU上,AMD也欲與英偉達、英特爾同臺競爭。2022年4月,AMD宣布斥資19億美元購買DPU廠商Pensando。Pensando作為市面為數(shù)不多的DPU廠商,主要優(yōu)勢在于極高的性能。從其路線圖上來看,目前AMD已經(jīng)實現(xiàn)了第一代DPU Capri(200G)和第二代Elba(400G)兩大DPU的量產(chǎn)。AMD去年也發(fā)布了基于其P4 DPU管線結(jié)合16個Arm A72核心的Giglio,在第二代的Elba DPU的基礎(chǔ)上對功耗和性能進行了進一步優(yōu)化。
Pensando DPU路線圖 / AMD
AMD預(yù)計在今年會發(fā)布第三代Pensando DPU,Salina。Salina將采用5nm工藝打造,實現(xiàn)兩倍于上一代的性能,與英偉達的BlueField 4一樣支持800G網(wǎng)絡(luò)。而且AMD在Pensando DPU上做好了前向兼容,節(jié)省了應(yīng)用程序開發(fā)所需的時間。
也正是在收購后不久,AMD就宣布其Pensando卡成為首批支持由戴爾、HPE和聯(lián)想等頭部服務(wù)器供應(yīng)商提供的VMware vSphere 8的DPU解決方案之一,在vSphere 的支持下,服務(wù)器的CPU網(wǎng)絡(luò)服務(wù)負載將進一步降低。除了服務(wù)器廠商之外,AMD Pensando也已經(jīng)收獲了Azure、IBM Cloud和Oracle Cloud等云服務(wù)客戶。
在AMD去年Q1的財報會議上,AMD提到他們的Pensando DPU正在為微軟的Azure提供加速連接服務(wù)。在支持的實例中,每個設(shè)備都部署了六個高性能的AMD Pensando DPU,所有用戶程序的虛擬機都能訪問這些DPU。微軟的加速連接作為一項vNIC租賃業(yè)務(wù),用戶可以通過開啟該服務(wù)來改善網(wǎng)絡(luò)連接效率,相比傳統(tǒng)的SmartNIC而言,每秒連接數(shù)提升超過10倍。
大量普及卻“封閉”的DPU生態(tài)
要說市面上最為普及的DPU,那必定是亞馬遜的AWS Nitro系列產(chǎn)品,盡管亞馬遜并沒有用到DPU這個名字。2016年,亞馬遜收購了以色列公司Annapurna Labs,隨后就在內(nèi)部開啟了最早的自研服務(wù)器芯片計劃,Nitro。
截至今日,亞馬遜自研的AWS Nitro芯片已經(jīng)迭代了5個版本,AWS云服務(wù)上500多種實例都集成了AWS Nitro芯片??紤]到AWS全球第一大云服務(wù)商的規(guī)模,AWS Nitro可謂是名副其實的第一大DPU。
然而,AWS Nitro是并不對外出售的,屬于AWS獨占的自研產(chǎn)品。很明顯,自研的DPU更能節(jié)省成本,并針對自己的服務(wù)器架構(gòu)量體裁衣,這樣一個大幅提高競爭力的產(chǎn)品,亞馬遜自然不會選擇對外出售。
采取同樣策略的基本是云服務(wù)廠商,包括阿里巴巴和微軟。阿里云的MoC卡/神龍芯片CIPU也是類似的產(chǎn)品,從2016年起,阿里巴巴就開始自研相關(guān)的虛擬化芯片了,直到2018年MoC卡的正式落地。2021年云棲大會,阿里云發(fā)布了第四代神龍架構(gòu),實現(xiàn)了網(wǎng)絡(luò)和存儲操作的完全硬件卸載,進一步增強存儲IO和網(wǎng)絡(luò)IO性能,并率先支持大規(guī)模的彈性RDMA加速。
去年年初,微軟正式宣布收購DPU開發(fā)商Fungible。這家DPU廠商一度陷入市場競爭較大,但產(chǎn)品難產(chǎn)的局面,此前被傳出售給Meta失敗后,已經(jīng)在采取裁員和縮減產(chǎn)品組合。隨著微軟收購后,其團隊都將加入微軟的數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)開發(fā)團隊。盡管收購至今,微軟還沒有拿出對應(yīng)的產(chǎn)品,但可以想象其DPU方案必定會廣泛用于Azure云服務(wù)器,從而拋棄第三方的方案,或是為后者統(tǒng)一接口。
寫在最后
據(jù)市場研究公司Dell'Oro Group的預(yù)測,從DPU概念興起的2020年到2028年,市場總值將維持25%的年復(fù)合增長率,其中絕大多數(shù)市場份額來自排名前四的美國云服務(wù)廠商,其次才是來自中國的前四大云服務(wù)廠商。
排除掉自研的云服務(wù)廠商們,DPU市場并不算大,在20億美元左右,但持續(xù)增長的勢頭并沒有減弱。即便是第三方DPU方案商,比如英偉達、AMD、英特爾、Marvell、Achronix和云豹智能等,也有機會憑借著更高的性能和AI服務(wù)器的熱潮,打進頭部云服務(wù)商的服務(wù)器中。但對于更小規(guī)模的組織來說,他們依然面臨著選擇受限、部署困難的問題。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
DPU
+關(guān)注
關(guān)注
0文章
358瀏覽量
24182 -
AI服務(wù)器
+關(guān)注
關(guān)注
2文章
107瀏覽量
4901
發(fā)布評論請先 登錄
相關(guān)推薦
第三方檢測機構(gòu)該如何提升核心競爭力?
在國家“一帶一路”和“智能制造2025”等政策的引領(lǐng)下,面對競爭日益激烈的國際環(huán)境,作為全球最大的制造業(yè)國家,中國的檢測行業(yè)正經(jīng)歷著迅猛的發(fā)展,成為全球增長最快、潛力最大的市場之一。 第三方檢測逐漸
博世自研PM6 SiC功率模塊產(chǎn)品介紹
當今汽車行業(yè)正處于十字路口,全球汽車市場正快速轉(zhuǎn)向更加清潔、更為可持續(xù)的新能源交通解決方案,而汽車功率電子將在其中扮演關(guān)鍵角色。為了應(yīng)對這一趨勢,博世于近日推出了新一代SiC功率模塊(PM6),重新定義了車規(guī)級功率電子技術(shù)。
鴻蒙Flutter實戰(zhàn):05-使用第三方插件
# 鴻蒙Flutter 實戰(zhàn):使用第三方插件
在鴻蒙Flutter開發(fā)中,如果涉及到使用原生功能,就要使用插件。使用插件有兩種方式,一種是自己編寫原生ArkTS代碼,在Dart側(cè)調(diào)用。另外一種
發(fā)表于 10-22 21:54
三維天地低代碼開發(fā)平臺助力第三方質(zhì)檢行業(yè)數(shù)據(jù)可視化
第三方檢驗是由獨立于買賣雙方利益之外的第三方機構(gòu)(例如專業(yè)的監(jiān)督檢驗機構(gòu))執(zhí)行的,這些機構(gòu)以公正、公平、權(quán)威的非當事人身份,依據(jù)雙方共同認可的法律、標準和合同等進行商品的符合性檢驗和認證活動
是否有可能在支持gdb的第三方集成開發(fā)環(huán)境中使用DAS配置調(diào)試?
是否有可能在支持 gdb 的第三方集成開發(fā)環(huán)境中使用 DAS 配置調(diào)試?
發(fā)表于 07-02 07:29
微軟或?qū)㈤_放Xbox主機授權(quán)給第三方廠商
據(jù)悉,5 月 26 日,知名媒體 Windows Central 的編輯 Jez Corden 揭露了微軟即將遵循第三方手柄流程,允許在其 XBOX 主機上引入第三方產(chǎn)品。
MacPaw將在歐盟成員國推出第三方應(yīng)用商店Setapp
5月14日,MacPaw正式宣布將在今年5月14日在歐盟成員國面向蘋果iPhone推出第三方應(yīng)用商城Setapp。自今年2月起,MacPaw已著手籌備該平臺。S
谷歌開放ZenDeviceEffects API,助第三方應(yīng)用實現(xiàn)睡前屏幕管理
據(jù)報道,谷歌近日在安卓 15 開發(fā)者預(yù)覽版 2 中推出了全新 ZenDeviceEffects API,允許第三方應(yīng)用訪問數(shù)字健康的就寢模式功能。
Labview如何內(nèi)嵌操作第三方EXE程序!
自己在網(wǎng)上搜了下相關(guān)資料,能把第三方EXE內(nèi)嵌進入容器里,但是有個問題,這個第三方軟件必須手動拖到容器正中間,手動最大化。請問有什么方法可以自動實現(xiàn)嗎?
下圖是我內(nèi)嵌的POLL 軟件。如圖!
發(fā)表于 04-18 14:26
微軟或?qū)⒁?b class='flag-5'>第三方數(shù)字游戲商店至Xbox平臺
微軟選擇引入這些第三方游戲平臺,一方面可以增加自身擁有的硬件資源和服務(wù)優(yōu)勢;另一方面,也是為了吸引那些在電腦端能夠自由選擇游戲購買渠道的游戲用戶。據(jù)悉,此前的Xbox系列產(chǎn)品都是只內(nèi)置自家的商城。
Meta Quest頭顯將支持多款安卓第三方應(yīng)用并行
Meta已悄然啟動了與此相關(guān)的功能,意味著Quest頭顯可同時操作多個第三方Android應(yīng)用。在此之前,Quest對第三方Android應(yīng)用有嚴格限制,用戶每次僅能打開一個,無法實現(xiàn)同屏幕并行多個第三方應(yīng)用進程。
蘋果iOS 17.4版允許歐盟地區(qū)用戶使用第三方應(yīng)用商店下載應(yīng)用
3月6日,蘋果正式推出iOS 17.4版本,首次符合歐州《數(shù)字市場法》規(guī)定,引入“第三方應(yīng)用商店”選項,讓iPhone用戶能從非App Store處下載應(yīng)用程序。
MacPaw將于4月在歐洲市場推出Setapp第三方應(yīng)用商城
3月1日報道,知名廠商MacPaw于今日發(fā)表聲明,宣稱其自有的第三方應(yīng)用商城Setapp將進軍歐洲市場,發(fā)布會定于今年4月舉行,并且官網(wǎng)預(yù)告了可供用戶試用的候選頁面,以吸引更多人參與到Setapp移動版本Beta的測試中來。
評論