電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))隨著AI與HPC運(yùn)算的盛行,如今為了將算力繼續(xù)擴(kuò)展下去,CPU和GPU都在朝著多核的方向發(fā)展下去,計(jì)算密度也在大幅提升。此外,數(shù)據(jù)中心也越來越多地開始轉(zhuǎn)向異構(gòu)工作負(fù)載,對基礎(chǔ)架構(gòu)、性能和可用性提出了又一輪的要求,也在加速存儲(chǔ)產(chǎn)品的轉(zhuǎn)型,催生了CXL這樣的新技術(shù),但僅僅只靠CXL,是無法打破我們所說的內(nèi)存瓶頸的。
加速內(nèi)部流量成為服務(wù)器性能的新關(guān)鍵
100GbE模塊的出現(xiàn)后,在網(wǎng)絡(luò)交換與傳輸性能如此發(fā)達(dá)的當(dāng)下,遠(yuǎn)程存儲(chǔ)已經(jīng)成了越來越多企業(yè)的首選。但本地存儲(chǔ)也在經(jīng)歷一輪性能的革命,NVMe、NVDIMM等技術(shù)演進(jìn)進(jìn)一步降低了存儲(chǔ)的網(wǎng)絡(luò)延遲,解決了一路走高的內(nèi)部帶寬需求。
那么服務(wù)器內(nèi)部數(shù)據(jù)的移動(dòng)要如何跟上呢?在復(fù)雜的服務(wù)器基礎(chǔ)架構(gòu)中,內(nèi)部數(shù)據(jù)的交換往往由多個(gè)內(nèi)存緩沖拷貝組成,比如內(nèi)核到I/O、I/O到特定硬件,實(shí)現(xiàn)方式主要靠不同層級的軟件棧,但軟件到軟件間的數(shù)據(jù)交換仍靠的是CPU。
當(dāng)下的內(nèi)存數(shù)據(jù)移動(dòng)的軟件標(biāo)準(zhǔn)為memcpu,雖然已經(jīng)足夠穩(wěn)定,但也限制了應(yīng)用的性能。比如為了提供上下文隔離而招致更大的軟件開銷。所以大家開始嘗試DMA,這種用于卸載軟件復(fù)制循環(huán)的策略。雖說這樣做解放了CPU的部分負(fù)擔(dān),但這種方案與特定設(shè)備的接口綁定,只適合專門的特權(quán)軟件和I/O用例,更別提前向兼容了,尤其是在公有云這種多人功用的虛擬環(huán)境中。
SDXI,新的數(shù)據(jù)加速器接口標(biāo)準(zhǔn)
這就引出了一系列痛點(diǎn),比如既要從CPU執(zhí)行周期中將I/O解放出來,又要保證架構(gòu)的穩(wěn)定性。提供虛擬機(jī)加速的同時(shí),又能幫助開發(fā)者從已有軟件棧中遷移到新的方案上,還要考慮到當(dāng)下新的內(nèi)存互聯(lián)方案,比如CXL、Gen-Z等等。為了解決這些痛點(diǎn),2020年起,SNIA(全球網(wǎng)絡(luò)存儲(chǔ)工業(yè)協(xié)會(huì))成立了一個(gè)新的工作組并提出了SDXI(智能數(shù)據(jù)加速器接口)這一概念,為的就是提供一個(gè)可擴(kuò)展、虛擬化且前向兼容的內(nèi)存數(shù)據(jù)移動(dòng)與加速接口規(guī)范。
SDXI下的內(nèi)存間數(shù)據(jù)移動(dòng) / SNIA
SDXI作為一個(gè)標(biāo)準(zhǔn)化方案,不僅要兼容DRAM、SCM、MMIO、CXL和Gen-Z這些不同的內(nèi)存,也要為CPU、GPU、FPGA、智能I/O等提供標(biāo)準(zhǔn)的加速器接口。如此一來,SDXI可以在不同的地址空間實(shí)現(xiàn)數(shù)據(jù)移動(dòng),包括用戶地址空間和不同的虛擬機(jī)等。而且一旦連接建立,數(shù)據(jù)移動(dòng)再也不需要特權(quán)軟件作為中介。從戴爾在PCIe 3.0 FPGA上的原型測試上來安,改用SDXI可以實(shí)現(xiàn)超過memcpy兩倍以上的線性拷貝速度。
截至目前,不少內(nèi)存廠商和服務(wù)器廠商都已經(jīng)加入了對SDXI的貢獻(xiàn)行列中來,比如AMD、Arm、戴爾、HPE、IBM,以及美光、三星、SK海力士等。他們也在考慮在1.0標(biāo)準(zhǔn)之后,繼續(xù)從QoS、延遲、RAS上加以改進(jìn),在實(shí)現(xiàn)未來版本前向與后向兼容的同時(shí),一起推動(dòng)SDXI在CXL系統(tǒng)架構(gòu)中的普及。
小結(jié)
在ARM、RISC-V紛紛入局?jǐn)?shù)據(jù)中心,并推出百核、千核的CPU處理器后,更快的數(shù)據(jù)交換將成為一個(gè)必然的需求,未來的網(wǎng)絡(luò)與存儲(chǔ)技術(shù)也需要SDXI提供這樣的擴(kuò)展性。何況SDXI提供的不僅僅是加速,還是一個(gè)標(biāo)準(zhǔn)化接口,在滿足數(shù)據(jù)移動(dòng)性能的同時(shí),支持軟件愛你的重復(fù)利用和虛擬化。
加速內(nèi)部流量成為服務(wù)器性能的新關(guān)鍵
100GbE模塊的出現(xiàn)后,在網(wǎng)絡(luò)交換與傳輸性能如此發(fā)達(dá)的當(dāng)下,遠(yuǎn)程存儲(chǔ)已經(jīng)成了越來越多企業(yè)的首選。但本地存儲(chǔ)也在經(jīng)歷一輪性能的革命,NVMe、NVDIMM等技術(shù)演進(jìn)進(jìn)一步降低了存儲(chǔ)的網(wǎng)絡(luò)延遲,解決了一路走高的內(nèi)部帶寬需求。
那么服務(wù)器內(nèi)部數(shù)據(jù)的移動(dòng)要如何跟上呢?在復(fù)雜的服務(wù)器基礎(chǔ)架構(gòu)中,內(nèi)部數(shù)據(jù)的交換往往由多個(gè)內(nèi)存緩沖拷貝組成,比如內(nèi)核到I/O、I/O到特定硬件,實(shí)現(xiàn)方式主要靠不同層級的軟件棧,但軟件到軟件間的數(shù)據(jù)交換仍靠的是CPU。
當(dāng)下的內(nèi)存數(shù)據(jù)移動(dòng)的軟件標(biāo)準(zhǔn)為memcpu,雖然已經(jīng)足夠穩(wěn)定,但也限制了應(yīng)用的性能。比如為了提供上下文隔離而招致更大的軟件開銷。所以大家開始嘗試DMA,這種用于卸載軟件復(fù)制循環(huán)的策略。雖說這樣做解放了CPU的部分負(fù)擔(dān),但這種方案與特定設(shè)備的接口綁定,只適合專門的特權(quán)軟件和I/O用例,更別提前向兼容了,尤其是在公有云這種多人功用的虛擬環(huán)境中。
SDXI,新的數(shù)據(jù)加速器接口標(biāo)準(zhǔn)
這就引出了一系列痛點(diǎn),比如既要從CPU執(zhí)行周期中將I/O解放出來,又要保證架構(gòu)的穩(wěn)定性。提供虛擬機(jī)加速的同時(shí),又能幫助開發(fā)者從已有軟件棧中遷移到新的方案上,還要考慮到當(dāng)下新的內(nèi)存互聯(lián)方案,比如CXL、Gen-Z等等。為了解決這些痛點(diǎn),2020年起,SNIA(全球網(wǎng)絡(luò)存儲(chǔ)工業(yè)協(xié)會(huì))成立了一個(gè)新的工作組并提出了SDXI(智能數(shù)據(jù)加速器接口)這一概念,為的就是提供一個(gè)可擴(kuò)展、虛擬化且前向兼容的內(nèi)存數(shù)據(jù)移動(dòng)與加速接口規(guī)范。
SDXI下的內(nèi)存間數(shù)據(jù)移動(dòng) / SNIA
截至目前,不少內(nèi)存廠商和服務(wù)器廠商都已經(jīng)加入了對SDXI的貢獻(xiàn)行列中來,比如AMD、Arm、戴爾、HPE、IBM,以及美光、三星、SK海力士等。他們也在考慮在1.0標(biāo)準(zhǔn)之后,繼續(xù)從QoS、延遲、RAS上加以改進(jìn),在實(shí)現(xiàn)未來版本前向與后向兼容的同時(shí),一起推動(dòng)SDXI在CXL系統(tǒng)架構(gòu)中的普及。
小結(jié)
在ARM、RISC-V紛紛入局?jǐn)?shù)據(jù)中心,并推出百核、千核的CPU處理器后,更快的數(shù)據(jù)交換將成為一個(gè)必然的需求,未來的網(wǎng)絡(luò)與存儲(chǔ)技術(shù)也需要SDXI提供這樣的擴(kuò)展性。何況SDXI提供的不僅僅是加速,還是一個(gè)標(biāo)準(zhǔn)化接口,在滿足數(shù)據(jù)移動(dòng)性能的同時(shí),支持軟件愛你的重復(fù)利用和虛擬化。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
發(fā)布評論請先 登錄
相關(guān)推薦
內(nèi)存擴(kuò)展CXL加速發(fā)展,繁榮AI存儲(chǔ)
電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)CXL即Compute Express Link,是一種全新的互連協(xié)議,為各種處理器包括CPU、GPU、FPGA、加速器和存儲(chǔ)設(shè)備提供統(tǒng)一接口標(biāo)準(zhǔn),可以有
PCIe 6.0 互操作性PHY驗(yàn)證測試方案
最新的Chiplet標(biāo)準(zhǔn),也基于PCIe,支持可靠的數(shù)據(jù)傳輸和CXL緩存一致性。因此,PCIe 憑借其高速、低延遲和低功耗,成為
韓國無晶圓廠初創(chuàng)公司Panmnesia展示第一個(gè)支持CXL的AI集群
在2024?OCP全球峰會(huì)上,開發(fā)CXL交換機(jī)SoC和CXL IP的韓國無晶圓廠初創(chuàng)公司Panmnesia展示了第一個(gè)支持CXL的AI集群,該集群采用
鴻蒙生態(tài)發(fā)布統(tǒng)一互聯(lián)技術(shù)標(biāo)準(zhǔn)
期間,GIIC聯(lián)合拓維信息、開鴻智谷等多家企事業(yè)單位共同發(fā)布了《鴻蒙生態(tài)設(shè)備統(tǒng)一互聯(lián)系列技術(shù)標(biāo)準(zhǔn)》。這一標(biāo)準(zhǔn)的發(fā)布,旨在打破不同品牌和體系智能終端設(shè)備之間的壁壘,通過
研華科技推出SQRAM CXL 2.0 Type 3內(nèi)存模塊SQR-CX5N
10月15日最新消息,研華科技(Advantech)于昨日正式揭曉了其最新研發(fā)的SQRAM CXL 2.0 Type 3 內(nèi)存模塊——SQR-CX5N。該模塊遵循EDSFF E3.S 2T標(biāo)準(zhǔn),擁有
如何利用CXL協(xié)議實(shí)現(xiàn)高效能的計(jì)算架構(gòu)
構(gòu)建一個(gè)可橫向擴(kuò)展的可組合分離架構(gòu)。眾所周知,CXL協(xié)議涵蓋了type1、type2、type3三種設(shè)備類型,而目前學(xué)術(shù)界和工業(yè)界的研究主要集中在如何利用CXL技術(shù)擴(kuò)展系統(tǒng)的內(nèi)存容量。
ALVA AR技術(shù)助力數(shù)字化展示升級
隨著科技的發(fā)展,技術(shù)產(chǎn)品更新?lián)Q代的速度日益加快。要在激烈的市場競爭中脫穎而出,企業(yè)只靠技術(shù)實(shí)力還不夠,有效的營銷展示方式也成為重要抓手。
新思科技CXL 3.1驗(yàn)證解決方案
、內(nèi)存緩沖區(qū)、智能網(wǎng)絡(luò)接口卡、持久存儲(chǔ)器和固態(tài)驅(qū)動(dòng)器等設(shè)備之間的開放式行業(yè)標(biāo)準(zhǔn)互連接口。CXL基于PCIe靈活的數(shù)據(jù)帶寬提供了緩存一致性和存儲(chǔ)語義,同時(shí)實(shí)現(xiàn)比PCIe低得多的延時(shí)。
“云計(jì)算一哥”深夜放大招:幾分鐘,純靠Prompt打造一個(gè)App!
現(xiàn)在開發(fā)一個(gè)APP需要多久?“云計(jì)算一哥”亞馬遜云科技,深夜給出了一個(gè)新標(biāo)準(zhǔn)——只需三步,幾分鐘,純靠
蔚來與中國一汽達(dá)成充換電全面戰(zhàn)略合作,今年將新增1000座換電站
據(jù)了解,各車企將共同制定電池標(biāo)準(zhǔn)體系,研發(fā)換電乘用車及換電服務(wù)站點(diǎn),推廣使用統(tǒng)一標(biāo)準(zhǔn)化電池包的換電車型,并實(shí)現(xiàn)換電服務(wù)的站端解決方案。
bluenrg緩存不夠報(bào)錯(cuò)怎么解決?
有沒有人用過st的藍(lán)牙芯片啊?感覺太不好了,FAE也不給力,藍(lán)牙與手機(jī)連接后會(huì)斷開,數(shù)據(jù)在上傳時(shí)因?yàn)閎le buffer緩存不夠也會(huì)報(bào)錯(cuò),然后斷開連接,問FAE為什么修改連接間隔第
發(fā)表于 05-13 09:02
三星研發(fā)CXL混合存儲(chǔ)模組,實(shí)現(xiàn)閃存與CPU數(shù)據(jù)直傳
據(jù)三星展示的圖片顯示,此模組可以通過CXL接口在閃存部分及CPU之間進(jìn)行I/O塊傳輸,也可以運(yùn)用DRAM緩存和CXL接口達(dá)到64字節(jié)的內(nèi)存I/O傳輸。
利用CXL技術(shù)重構(gòu)基于RDMA的內(nèi)存解耦合
本文提出了一種基于RDMA和CXL的新型低延遲、高可擴(kuò)展性的內(nèi)存解耦合系統(tǒng)Rcmp。其顯著特點(diǎn)是通過CXL提高了基于RDMA系統(tǒng)的性能,并利用RDMA克服了CXL的距離限制。
發(fā)表于 02-29 10:05
?3235次閱讀
小米22.5W移動(dòng)電源靠譜嗎?
小米22.5W移動(dòng)電源靠譜嗎? 小米22.5W移動(dòng)電源是小米生態(tài)鏈公司推出的一款高容量、高功率的移動(dòng)電源產(chǎn)品,其標(biāo)稱容量為22.5W,實(shí)際容
什么是CXL技術(shù)?CXL的三種模式、類型、應(yīng)用
CXL的目標(biāo):解決CPU和設(shè)備、設(shè)備和設(shè)備之間的內(nèi)存鴻溝。服務(wù)器有巨大的內(nèi)存池和數(shù)量龐大的基于PCIe運(yùn)算加速器,每個(gè)上面都有很大的內(nèi)存。內(nèi)存的分割已經(jīng)造成巨大的浪費(fèi)、不便和性能下降。CXL就是為解決這個(gè)問題而誕生。
評論