ChatGPT帶旺服務(wù)器需求，Rambus發(fā)布第三代DDR5 RCD芯片，提前卡位DDR5市場(chǎng)爆發(fā)

電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）隨著服務(wù)器CPU更多的開始支持DDR5，服務(wù)器的內(nèi)存也正向DDR5滲透，Rumbus公司預(yù)計(jì)服務(wù)器DDR5將在2023年出現(xiàn)強(qiáng)勁增長(zhǎng)。事實(shí)上，作為唯數(shù)不多的內(nèi)存接口芯片供應(yīng)商，Rumbus在第一代和第二代DDR5 RCD產(chǎn)品已經(jīng)取得先機(jī)。最近，Rumbus推出第三代DDR5 RCD產(chǎn)品，這也是為了順應(yīng)服務(wù)器CPU性能和數(shù)據(jù)傳輸速率不斷升級(jí)的趨勢(shì)。Rambus內(nèi)存互連芯片業(yè)務(wù)部門產(chǎn)品營(yíng)銷副總裁John Eble透露，從2022年第四季度開始，Rumbus第三代DDR5 RCD芯片已經(jīng)送樣給相關(guān)的客戶進(jìn)行使用。預(yù)計(jì)使用DDR5 RCD第三代的系統(tǒng)將在2024年開始出貨，并在2025年實(shí)現(xiàn)量產(chǎn)。

內(nèi)存接口芯片可以分為RCD寄存時(shí)鐘驅(qū)動(dòng)器和DB數(shù)據(jù)緩沖器。RCD用來緩沖來自內(nèi)存控制器的地址/命令/控制信號(hào)，DB用來緩沖來自內(nèi)存控制器或內(nèi)存顆粒的數(shù)據(jù)信號(hào)。目前服務(wù)器采用的內(nèi)存模組主要有RDIMM和LRDIMM兩種形式，服務(wù)器根據(jù)CPU的數(shù)量配置幾十個(gè)不等的內(nèi)存模組，每個(gè)內(nèi)存模組都需要搭載一顆RCD芯片，該芯片的市場(chǎng)需求非常可觀。

DDR5的新變化

從DDR4到DDR5的升級(jí)中DIMM發(fā)生了一些變化。John Eble分析，DDR4的RDIMM通常是單通道的，采用8位子通道傳輸數(shù)據(jù)，在兩側(cè)配備ECC，一共具備72位寬的數(shù)據(jù)通道，包括64位數(shù)據(jù)和8位ECC。DDR5 RDIMM采用16位的突發(fā)長(zhǎng)度，每個(gè)DIMM有兩個(gè)通道，每個(gè)子通道是40位，包括32位數(shù)據(jù)和8位 ECC，分別負(fù)責(zé)不同的任務(wù)。



DDR5相比DDR4帶寬有著顯著的上升，DDR4最高數(shù)據(jù)傳輸速率是3200MT/s，DDR5基本上對(duì)比DDR4實(shí)現(xiàn)了帶寬的翻倍，最高可達(dá)到8400MT/s以上。同時(shí)，DDR5比DDR4帶來更大容量的DIMM，從64GB提高到256GB，并且支持16-hi堆棧（對(duì)于64Gb內(nèi)存密度，CID支持僅限于8-hi堆棧）。在功耗上，DDR5列加優(yōu)化，DIMM運(yùn)行電壓降到1.1伏，同時(shí)CA總線升級(jí)，對(duì)引腳采用分組協(xié)議，每個(gè)通道達(dá)到10位DDR，并采用了PODL協(xié)議。



可以看到，每次DDR迭代并不僅僅在數(shù)據(jù)傳輸速率上得到巨大的升級(jí)，同時(shí)帶寬和容量也實(shí)現(xiàn)增加，時(shí)鐘頻率和技術(shù)也一直在進(jìn)步，進(jìn)一步降低客戶的總體擁有成本（TCO）。

第三代DDR5 RCD芯片的特性

RCD是DIMM非常重要的一個(gè)組件，Rumbus全新推出的DDR5RCD Gen3產(chǎn)品，在數(shù)據(jù)傳輸速率，以及帶寬和時(shí)鐘頻率等都得到了升級(jí)。例如與第一代相比數(shù)據(jù)傳輸速率和帶寬提高33%，DDR5 RCD Gen1速率為4800MT/s，DDR5 RCDGen2為5600MT/s，DDR5 RCD Gen3來到6400MT/s。



RCD將命令、地址信號(hào)和時(shí)鐘分配給DIMM上的DRAM設(shè)備。Rambus正在不斷提高其DDR5解決方案的性能，以滿足更高的帶寬需求。Rambus以其信號(hào)完整性（SI）/電源完整性（PI）方面的專業(yè)技術(shù)著稱。這種專長(zhǎng)大大有利于DDR5內(nèi)存接口芯片確保從主機(jī)內(nèi)存控制器發(fā)送到RDIMM的命令/地址和時(shí)鐘信號(hào)具有出色的信號(hào)完整性。

具體來看，John Eble解析，關(guān)于兩個(gè)關(guān)鍵接口的信號(hào)完整性問題，第一個(gè)接口是CPU到RCD的接口，這是一個(gè)DDR接口，通過DDR5 DIMM連接器運(yùn)行，在2個(gè)DIMM通道系統(tǒng)中可能有2個(gè)RCD負(fù)載。

第二個(gè)接口是從RCD到DRAM，這是在DIMM上。RCD到DRAM接口不管是從布線，還是到支持最高10個(gè)相關(guān)外插式設(shè)備的總線，還是像CA總線，這些也都是這個(gè)接口非常重要的考慮方向。當(dāng)我們解決這些挑戰(zhàn)的時(shí)候，同時(shí)也要管理功率和成本?；赗ambus的RCD、SPD集線器，以及溫度傳感器，Rambus推出的創(chuàng)新解決方案可以進(jìn)一步優(yōu)化信號(hào)完整性，幫助客戶進(jìn)一步控制功耗和成本。

隨著RCD產(chǎn)品的進(jìn)一步優(yōu)化以及迭代，它的信號(hào)完整性會(huì)變得更好，DIMM和CPU之間的信號(hào)完整性會(huì)更加優(yōu)秀，性能更加卓越，同時(shí)也可以進(jìn)一步降低DRAM的相關(guān)工作負(fù)載，為DIMM整體的電力輸送，系統(tǒng)管理和遙測(cè)技術(shù)提供支撐，這些都是RCD和DDR5的應(yīng)用方向。

ChatGPT需要怎樣的內(nèi)存解決方案？

對(duì)于如今大火的ChatGPT，Rambus也收到了非常多客戶的方案咨詢，它涉及到內(nèi)存如何更好地支持類ChatGPT的數(shù)據(jù)傳輸與算力能力。Rambus大中華區(qū)總經(jīng)理蘇雷表示，首先ChatGPT需要海量的數(shù)據(jù)進(jìn)行深度的機(jī)器學(xué)習(xí)，完成一個(gè)訓(xùn)練的模型和推理。因此它依賴于更高的算力，這方面的算力更多是趨向于矩陣類和卷積類的計(jì)算。它對(duì)內(nèi)存重要的需求體現(xiàn)在訓(xùn)練和推理AI芯片，或者是對(duì)加速模塊里的內(nèi)存帶寬有一定需求。Rambus有先進(jìn)的HBM技術(shù)和解決方案，繼DDR的技術(shù)之后，HBM也會(huì)是這個(gè)領(lǐng)域重要的推力。Rambus非常樂于助力國(guó)內(nèi)ChatGPT產(chǎn)品的發(fā)展。

隨著RCD產(chǎn)品的迭代和技術(shù)的進(jìn)步，能夠很大程度上幫助我們?nèi)タ朔F(xiàn)在像ChatGPT的應(yīng)用對(duì)服務(wù)器帶來的巨大挑戰(zhàn)。Rambus從事內(nèi)存創(chuàng)新的業(yè)務(wù)，以確保隨著計(jì)算引擎的擴(kuò)大，我們能夠從內(nèi)存中為這些計(jì)算引擎提供它所需要的數(shù)據(jù)。

John Eble認(rèn)為ChatGPT這樣的人工智能應(yīng)用將可能需要一種多管齊下的解決方案。首先是DDR5應(yīng)用的快速發(fā)展。因此，我們將擴(kuò)大在DDR5內(nèi)存接口芯片領(lǐng)域的領(lǐng)導(dǎo)地位，并定義下一代架構(gòu)，以低延遲和高可靠性繼續(xù)擴(kuò)大內(nèi)存、容量和帶寬。其次，CXL也是另外一項(xiàng)非常重要的配合性技術(shù)，在未來的服務(wù)器中具有許多潛在的優(yōu)勢(shì)，可以以有效和可擴(kuò)展的方式增加內(nèi)存、容量和帶寬。

小結(jié)：

根據(jù)IDC的調(diào)研數(shù)據(jù)表示，DDR5的拐點(diǎn)可能會(huì)在2024年上半年出現(xiàn)。顯然，Rambus已經(jīng)為市場(chǎng)的爆發(fā)提前部署了先進(jìn)的內(nèi)存接口方案。至于未來的技術(shù)發(fā)展，其中一個(gè)關(guān)注點(diǎn)是MCR DIMM，它有望為每個(gè)DIM插槽提供超越正常DRAM帶寬增長(zhǎng)節(jié)奏的加速。John Eble表示，這種類型的高帶寬解決方案確實(shí)需要修改RCD，它也需要一個(gè)修改的DB，這些也是Rambus的核心競(jìng)爭(zhēng)力所在。