內(nèi)存擴展CXL加速發(fā)展，繁榮AI存儲

電子發(fā)燒友網(wǎng)報道（文/黃晶晶）CXL即Compute Express Link，是一種全新的互連協(xié)議，為各種處理器包括CPU、GPU、FPGA、加速器和存儲設(shè)備提供統(tǒng)一接口標(biāo)準(zhǔn)，可以有效解決內(nèi)存墻和IO墻的瓶頸。它通過PCI Express的物理層，提供低延遲和高帶寬的連接，旨在支持下一代數(shù)據(jù)中心的高性能計算和內(nèi)存密集型工作負(fù)載。

CXL主要有CXL.io、CXL.cache和CXL.memory三個子協(xié)議，分別處理I/O、緩存一致性和內(nèi)存訪問。PCIe物理層為CXL高效的數(shù)據(jù)傳輸提供技術(shù)底座，CXL.cache和CXL.memory子協(xié)議協(xié)調(diào)處理單元的內(nèi)存一致性，內(nèi)存池化和熱插拔使得數(shù)據(jù)中心可以更靈活地分配和管理內(nèi)存資源。

2019年至今，CXL已經(jīng)發(fā)表了1.0/1.1、2.0、3.0/3.1五個不同的版本，主要針對內(nèi)存池化、內(nèi)存熱插拔、內(nèi)存共享和訪問、以及互連通信能力等進(jìn)行增強優(yōu)化。CXL可擴展內(nèi)存技術(shù)發(fā)展到3.1階段，CXL 3.1是對CXL 3.0版本的漸進(jìn)性的更新，新規(guī)范對橫向擴展 CXL 進(jìn)行了額外的結(jié)構(gòu)改進(jìn)、新的可信執(zhí)行環(huán)境 ehnahcments 以及對內(nèi)存擴展器的改進(jìn)。

面對AI大模型對數(shù)據(jù)處理速度和響應(yīng)時間的要求不斷增長，在處理器、存儲芯片、控制器、模組等廠商的推動下，CXL加速發(fā)展進(jìn)程。

利用CXL內(nèi)存擴展將DDR4 DIMMs“變廢為寶”

今年7月Marvell 宣布推出其突破性的Structura CXL產(chǎn)品系列。該系列是業(yè)界首款支持四個內(nèi)存通道、集成內(nèi)嵌壓縮并采用 5 納米制造工藝的產(chǎn)品。包括Structera A CXL 近內(nèi)存加速器，和 Structera X CXL 內(nèi)存擴展控制器。前者是一類新型設(shè)備，它們集成了服務(wù)器級處理器核心和多個內(nèi)存通道，以應(yīng)對高帶寬內(nèi)存應(yīng)用，例如深度學(xué)習(xí)推薦模型 (DLRM) 和機器學(xué)習(xí)。Structera X CXL 內(nèi)存擴展控制器可以為通用服務(wù)器添加數(shù)TB的超大容量內(nèi)存，應(yīng)對高容量內(nèi)存應(yīng)用的需要，例如內(nèi)存數(shù)據(jù)庫。

Structera A 加速器集成了 16 個 Arm Neoverse V2 核心，優(yōu)化了高內(nèi)存帶寬應(yīng)用的性能，例如 DLRM和ML/AI任務(wù)。DLRM 同時具有稀疏和密集內(nèi)存操作的特點。稀疏操作可能會遇到內(nèi)存墻困境，即內(nèi)存帶寬不足以滿足可用計算的需求。Structera A 2504 加速器是該系列的第一個產(chǎn)品，支持高達(dá) 200 GB/sec內(nèi)存帶寬和 4TB 的內(nèi)存容量。

隨著服務(wù)器的世代更替，預(yù)計在未來幾年內(nèi)，數(shù)百萬個仍然具備使用功能的 DDR4 DIMMs 將成為電子廢棄物，因為大部分客戶開始使用具備 DDR5 內(nèi)存模塊的新服務(wù)器替換現(xiàn)有的服務(wù)器。而The Structera X 2404 使客戶可以從退役的通用服務(wù)器中回收他們的 DDR4 DIMMs。

Marvell 表示，使用這些DDR4 DIMMs 來擴展這些服務(wù)器的內(nèi)存容量可以降低每臺通用服務(wù)器數(shù)千美元的資本支出。對退役的 DDR4 DIMMs 進(jìn)行再利用還有助于實現(xiàn)數(shù)據(jù)中心的綠色可持續(xù)性目標(biāo)。

Structera X 2404通過先進(jìn)的CXL技術(shù)不僅重新利用DDR4內(nèi)存條，還可幫助服務(wù)器制造商、數(shù)據(jù)中心運營們減少對更先進(jìn)內(nèi)存的依賴，既能降低采購成本又可擴充內(nèi)存容量。DDR4內(nèi)存再利用，也能夠在一定程度上緩解當(dāng)前DDR5內(nèi)存供不應(yīng)求的形勢。

CXL內(nèi)存模組陸續(xù)量產(chǎn)，有望下半年開始爆發(fā)

三星電子存儲部門新業(yè)務(wù)規(guī)劃團(tuán)隊董事總經(jīng)理 Choi Jang-seok近日表示，CXL市場預(yù)計將在今年下半年蓬勃發(fā)展，到2028年CXL市場將迅速增長，CXL將成為存儲器行業(yè)的主流。

早在2021年5月，三星電子開發(fā)出全球首款基于CXL的DRAM技術(shù)；2022年推出業(yè)界首款基于CXL 1.1的512GB CXL DRAM；2023年5月開發(fā)出支持CXL 2.0的128GB CXL DRAM；今年第二季度推出支持CXL 2.0的256GB CMM-D產(chǎn)品，計劃今年年底之前批量生產(chǎn)。

今年3月，三星電子透露正研發(fā) CMM-H 混合存儲 CXL模組。該模組同時包含DRAM 內(nèi)存和 NAND 閃存。原型 CMM-H 將配備基于 FPGA 的 CXL 1.1 控制器，采用 E3.L 2T 規(guī)格，最大容量 4TB，最大帶寬 8GB/s。另外，三星第一代CMM-D搭載支持CXL2.0的SoC的，計劃在2025年發(fā)布搭載第二代控制器、容量為128GB的新產(chǎn)品。

對AI服務(wù)器至關(guān)重要的技術(shù)是CXL，它能有效提升系統(tǒng)帶寬和處理能力。SK海力士通過CXL Memory Module-DDR5 4（CMM-DDR5）充分展示了CXL產(chǎn)品的強大優(yōu)勢。與僅采用DDR5的系統(tǒng)相比，它能給系統(tǒng)帶寬和容量帶來極為顯著的提升。

去年8月，美光宣布推出CZ120內(nèi)存擴展模塊，基于CXL2.0Type3標(biāo)準(zhǔn)，采用最新的PCIe5.0x8接口，并且外形符合E3.S2T規(guī)格。CZ120內(nèi)存擴展模塊內(nèi)部搭載了Microchip的SMC2000微控制器，并使用了1α工藝節(jié)點生產(chǎn)的DRAM芯片。提供128GB和256GB兩種容量選擇。CZ120內(nèi)存擴展模塊具備出色的帶寬性能，可以提供高達(dá)36GB/s的帶寬。在特定的工作負(fù)載中，如數(shù)據(jù)庫軟件，CZ120內(nèi)存擴展模塊的優(yōu)勢更加明顯。

另外，國內(nèi)廠商方面，今年江波龍展出一款基于Compute?Express?Link?(CXL)技術(shù)的創(chuàng)新內(nèi)存擴展設(shè)備——CXL?2.0?AIC內(nèi)存擴展卡。這款擴展卡采用非DRAM?on-board封裝設(shè)計，可兼容多種容量和規(guī)格的直插式內(nèi)存條。它不僅支持CXL1.1標(biāo)準(zhǔn)，實現(xiàn)單個計算節(jié)點服務(wù)器線纜直連的直插式內(nèi)存條擴展，還兼容CXL2.0標(biāo)準(zhǔn)，支持多個計算節(jié)點服務(wù)器集群與存儲池線纜直連的直插式內(nèi)存池化，從而滿足多樣化的應(yīng)用場景需求。

小結(jié)：

Yole統(tǒng)計顯示，全球CXL市場預(yù)計從2022年的170萬美元增長2028年的150億美元。處理器方面英特爾發(fā)布全新的至強6700E系列處理器，提供了對CXL 2.0技術(shù)的支持。CXL 2.0卻新增了一系列面向安全、合規(guī)、高可靠方面的特性，更適合應(yīng)用在數(shù)據(jù)中心。三星支持CXL 2.0的256GB CMM-D產(chǎn)品也將于今年底前量產(chǎn)。同時，各大廠商都在研發(fā)支持CXL3.0的處理器、CXL DRAM等產(chǎn)品，從而將內(nèi)存擴展內(nèi)存技術(shù)的更多特性帶入數(shù)據(jù)中心，加速CXL的應(yīng)用，畢竟AI對于存儲的需求已時不我待。