AI加持下的數(shù)據(jù)中心，需要怎樣的高速接口技術(shù)？

（電子發(fā)燒友網(wǎng) 文/黃晶晶）無疑生成式AI的火熱帶動(dòng)了互聯(lián)網(wǎng)廠商、運(yùn)營(yíng)商、云服務(wù)商以及各類應(yīng)用方等對(duì)數(shù)據(jù)中心、AI服務(wù)器的大力投入。同時(shí)，像中國(guó)的“東數(shù)西算”工程正構(gòu)筑著堅(jiān)實(shí)的算力基建。為了適應(yīng)大數(shù)據(jù)、人工智能的發(fā)展，必須要解決如何增強(qiáng)算力、存力和運(yùn)力的問題。那么高速的數(shù)據(jù)傳輸是不可缺少的核心環(huán)節(jié)。在此背景下，我們需要前瞻布局哪些數(shù)據(jù)傳輸?shù)?a target="_blank">接口技術(shù)來適應(yīng)發(fā)展呢？最近，Rambus 解決方案營(yíng)銷高級(jí)總監(jiān)Tim Messegee接受采訪，分享了他對(duì)于數(shù)據(jù)中心高速接口技術(shù)和市場(chǎng)的洞見。
圖：Rambus 解決方案營(yíng)銷高級(jí)總監(jiān)Tim Messegee

Tim Messegee表示，總體上，新數(shù)據(jù)中心的架構(gòu)設(shè)計(jì)應(yīng)考慮到性能、可擴(kuò)展性、可靠性和安全性，滿足生成式AI和大數(shù)據(jù)應(yīng)用的具體需求。新數(shù)據(jù)中心首先需要配備高性能計(jì)算（HPC）基礎(chǔ)設(shè)施來滿足生成式AI和大數(shù)據(jù)應(yīng)用的密集計(jì)算需求，比如使用功能強(qiáng)大的處理器、GPU、內(nèi)存、網(wǎng)絡(luò)、專用硬件加速器等高效處理大量數(shù)據(jù)并執(zhí)行復(fù)雜計(jì)算。

新數(shù)據(jù)中心架構(gòu)的設(shè)計(jì)應(yīng)該使內(nèi)存、存儲(chǔ)等易于擴(kuò)展。例如，CXL技術(shù)可以幫助建立內(nèi)存池，從架構(gòu)上將CPU和內(nèi)存分離，不僅能夠共享內(nèi)存，還能在性能需求日益增加的情況下更加輕松地增加內(nèi)存。

突破數(shù)據(jù)傳輸?shù)钠款i

業(yè)界一直都存在“內(nèi)存墻”的問題，其根源還是數(shù)據(jù)傳輸?shù)乃俾市阅芷款i。Tim Messegee說道，與“木桶定律”中的例子一樣，限制數(shù)據(jù)中心數(shù)據(jù)傳輸速率的元素不止一個(gè)，而是所有相關(guān)元素的性能。顯然，解決這一問題需要強(qiáng)大的 CPU、高速內(nèi)存、高帶寬網(wǎng)絡(luò)以及許多其他方面的支持。

實(shí)際上大家都不希望自己是最短板的那一塊。而以Rambus來看，其擅長(zhǎng)的是提供先進(jìn)內(nèi)存接口芯片和接口IP解決方案幫助滿足數(shù)據(jù)中心對(duì)帶寬不斷增長(zhǎng)的需求。對(duì)此，Tim Messegee進(jìn)行了解析。

具體來看，DDR5 DIMM芯片組：Rambus DDR5內(nèi)存接口芯片組由 DDR5 RCD、SPD Hub 和溫度傳感器組成，專為滿足最新一代DDR5內(nèi)存系統(tǒng)的大容量、高帶寬性能要求而量身定制。這些芯片使服務(wù)器和客戶端計(jì)算系統(tǒng)能夠處理最苛刻的工作負(fù)載和應(yīng)用。

CXL技術(shù)：CXL可使數(shù)據(jù)中心從原來每臺(tái)服務(wù)器擁有專用的處理和內(nèi)存以及網(wǎng)絡(luò)和加速器等其他資源的模式，轉(zhuǎn)變?yōu)槭褂霉蚕碣Y源池的分解模式，共享資源池可根據(jù)特定工作負(fù)載的需求進(jìn)行高效組合。

PCIe 6接口子系統(tǒng)IP：PCIe 接口是在 CPU、GPU、FPGA 和特定工作負(fù)載加速器等不同計(jì)算節(jié)點(diǎn)之間以高帶寬和低延遲傳輸數(shù)據(jù)的關(guān)鍵骨干。Rambus PCIe 6解決方案支持下一代數(shù)據(jù)中心的性能要求，具有延遲、功耗、面積和安全性方面的優(yōu)勢(shì)。

HBM內(nèi)存控制器：HBM是一種高性能內(nèi)存標(biāo)準(zhǔn)，具有功耗低、外形小的特點(diǎn)。Rambus HBM 3.0和2E/2控制器可為AI/ML、圖形和HPC應(yīng)用提供高帶寬、低延遲的內(nèi)存性能。

新的接口技術(shù)何時(shí)落地

以上列舉了幾種應(yīng)用于數(shù)據(jù)中心的先進(jìn)的接口技術(shù)，包括DDR5、PCIe 6.0、HBM、CXL等。然而它們有各自的應(yīng)用進(jìn)程。

首先是DDR5。Tim Messegee表示，DDR5內(nèi)存已于2021年進(jìn)入市場(chǎng)。我們現(xiàn)在看到服務(wù)器和PC市場(chǎng)都在使用DDR5內(nèi)存。根據(jù)IDC的預(yù)測(cè)，DDR5的跨越點(diǎn)，即DDR5位出貨量超過DDR4位出貨量的時(shí)刻將在2023年底出現(xiàn)。隨著時(shí)間的推移，DDR5有望在數(shù)據(jù)中心和消費(fèi)市場(chǎng)得到更廣泛的應(yīng)用。

其次，PCIe在服務(wù)器和PC之外也得到了廣泛應(yīng)用，其規(guī)模經(jīng)濟(jì)效益使其對(duì)物聯(lián)網(wǎng)、汽車等領(lǐng)域以數(shù)據(jù)為中心的應(yīng)用極具吸引力。盡管如此，PCIe 6.0的初期部署將針對(duì)需要盡可能高帶寬的應(yīng)用，這些應(yīng)用都是數(shù)據(jù)中心的核心，如AI/ML、HPC、云計(jì)算、網(wǎng)絡(luò)等。Tim Messegee預(yù)計(jì)第一代PCIe 6.0系統(tǒng)將在2026年問世。

再者，HBM正在成為超級(jí)計(jì)算機(jī)的首選內(nèi)存。市場(chǎng)對(duì)AI/ML的需求推動(dòng)了 HBM 在數(shù)據(jù)中心的廣泛應(yīng)用。如今，英偉達(dá)推出的H200 GPU以及GH200超級(jí)芯片開始配備141GB HBM3E。HBM的發(fā)展大致以兩年為一個(gè)周期，技術(shù)還在不斷演進(jìn)當(dāng)中。

此外，隨著CXL標(biāo)準(zhǔn)從1.0發(fā)展到 3.0，行業(yè)頭部廠商正在積極支持CXL。Tim Messegee說，要真正在市場(chǎng)上得到廣泛應(yīng)用，可能還需要一段時(shí)間。可以肯定的是，由于CXL的特性，最早采用這項(xiàng)技術(shù)的將是那些需要最高帶寬、最低延遲和多設(shè)備一致性的應(yīng)用。目前，我們預(yù)計(jì)CXL將于2026年在數(shù)據(jù)中心得到廣泛應(yīng)用。

誠(chéng)然，特定技術(shù)的應(yīng)用周期取決于多種因素，包括市場(chǎng)需求、軟硬件生態(tài)、成本和性能優(yōu)勢(shì)等。Tim Messegee指出，一般來說，內(nèi)存和總線技術(shù)升級(jí)通常需要更長(zhǎng)的時(shí)間，這是因?yàn)樗鼈冃枰c整個(gè)生態(tài)兼容，而且所有相互連接的軟硬件元素都需要時(shí)間來驗(yàn)證和檢驗(yàn)。因此，一項(xiàng)技術(shù)的采用情況會(huì)因技術(shù)特性、復(fù)雜程度和市場(chǎng)需求而異?？傊?，隨著數(shù)據(jù)中心建設(shè)的加速，DDR5、PCIe 6.0、HBM和CXL等高速連接技術(shù)將在未來幾年繼續(xù)發(fā)展和普及，但其采用率可能會(huì)因技術(shù)和細(xì)分市場(chǎng)的不同而有所差異。

觀察市場(chǎng)的反饋，Tim Messegee看到的趨勢(shì)是，許多為數(shù)據(jù)中心開發(fā)的技術(shù)正在向客戶端擴(kuò)散。AI推理向邊緣以及AI賦能的客戶端和終端系統(tǒng)轉(zhuǎn)移，這一趨勢(shì)將繼續(xù)加速。我們的IP解決方案可以集成到客戶端系統(tǒng)的芯片中，我們的產(chǎn)品路線圖上有支持未來客戶端平臺(tái)的Rambus芯片解決方案。

小結(jié)：

AI大模型的參數(shù)量越來越龐大，內(nèi)容形式也越來越豐富，隨著數(shù)據(jù)中心工作負(fù)載的增加，DDR、HBM、PCIe和CXL等內(nèi)存技術(shù)將繼續(xù)為數(shù)據(jù)中心提供更高容量、更低延遲和更高能效的數(shù)據(jù)傳輸速率以滿足不斷增長(zhǎng)的算力需求。同時(shí)，Rambus也希望通過內(nèi)存解決方案的不斷改進(jìn)總體上為提高數(shù)據(jù)中心的整體能效帶來真正的機(jī)會(huì)。