最新HBM3內(nèi)存技術(shù)，速率可達(dá)8.4Gbps，Rambus從IP到系統(tǒng)再到封裝的全面優(yōu)化

電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）近幾年，數(shù)據(jù)中心、云服務(wù)以及物聯(lián)網(wǎng)設(shè)備保持需求的高速增長(zhǎng)。在大數(shù)據(jù)的處理方面，人工智能和機(jī)器學(xué)習(xí)（AI/ML）的使用率也將日益提升，預(yù)計(jì)到2025年，超過25%的服務(wù)器出貨將會(huì)專供于人工智能領(lǐng)域。在AI/ML當(dāng)中，內(nèi)存和I/O帶寬是影響系統(tǒng)性能至關(guān)重要的因素，這又促進(jìn)業(yè)界不斷提供最新的技術(shù)，去滿足內(nèi)存和I/O的帶寬性能需求。

在英偉達(dá)、AMD的GPU/CPU芯片封裝中，已經(jīng)應(yīng)用到了HBM內(nèi)存技術(shù)，通過在一個(gè)2.5D封裝中將GPU/CPU與HBM內(nèi)存進(jìn)行整合能夠提升內(nèi)存帶寬、加速數(shù)據(jù)存儲(chǔ)的速度，從而應(yīng)對(duì)神經(jīng)網(wǎng)絡(luò)、AI訓(xùn)練等的內(nèi)存帶寬需求。據(jù)了解，燧原科技也在其GPU芯片中使用了HBM2技術(shù)，由Rambus提供IP支持。

現(xiàn)在，Rambus公司率先在業(yè)界推出支持HBM3的內(nèi)存子系統(tǒng)，速率可達(dá)8.4Gbps，能夠提供超過1TB/s的內(nèi)存帶寬，它的參數(shù)指標(biāo)較HBM2實(shí)現(xiàn)了大幅的提升。

日前，Rambus IP核產(chǎn)品營(yíng)銷高級(jí)總監(jiān)Frank Ferro，以及Rambus大中華區(qū)總經(jīng)理蘇雷接受包括電子發(fā)燒友網(wǎng)在內(nèi)的媒體采訪時(shí)，詳解了Rambus HBM3-Ready內(nèi)存子系統(tǒng)的亮點(diǎn)和市場(chǎng)。

Rambus于2016年進(jìn)入HBM的市場(chǎng)，得益于之前在行業(yè)領(lǐng)域長(zhǎng)期的專業(yè)知識(shí)累積，提供包括高速接口、芯片以及2.5D等復(fù)雜IP，從而在HBM市場(chǎng)保持領(lǐng)先。

Rambus HBM3的數(shù)據(jù)傳輸速率高達(dá)8.4Gbps/pin，帶寬超過1TB/s，采用標(biāo)準(zhǔn)的16通道設(shè)置，可以達(dá)到1024位寬接口。能夠支持市面上所有主流的供應(yīng)商所提供的DRAM，并大幅提高整個(gè)產(chǎn)品的密度。除了針對(duì)AI/ML訓(xùn)練的市場(chǎng)之外，HBM3還可用于高性能計(jì)算及其他數(shù)據(jù)中心相關(guān)的主要應(yīng)用場(chǎng)景、圖形應(yīng)用程序和具體網(wǎng)絡(luò)應(yīng)用。

HBM3達(dá)到8.4Gbps，提供更寬的設(shè)計(jì)裕度

從HBM性能的歷史演進(jìn)來看，最開始的HBM1，數(shù)據(jù)傳輸速率大概可以達(dá)到1Gbps左右；2016年的HBM2，最高數(shù)據(jù)傳輸速率可以達(dá)到2Gbps；接下來是2018年的HBM2E，最高數(shù)據(jù)傳輸速率可以達(dá)到3.6Gbps。



今年海力士發(fā)布了HBM3產(chǎn)品，公開的最高數(shù)據(jù)傳輸速率達(dá)到5.2Gbps。盡管JEDEC尚未發(fā)布HBM3相關(guān)的標(biāo)準(zhǔn)，但是Rambus也推出了HBM3產(chǎn)品，并將最高的數(shù)據(jù)傳輸速率提升到8.4Gbps。

Frank Ferro表示，Rambus與美光、海力士、三星等廠商有著非常密切的合作，為這些DRAM廠商提供HBM PHY以及其他相關(guān)方面的支持。我們推出HBM3產(chǎn)品，目前為止在數(shù)據(jù)傳輸速率上比海力士更高，8.4Gbps的速率選擇是出于未來產(chǎn)品規(guī)劃的考量，同時(shí)也可以為客戶和設(shè)計(jì)師提供更高的設(shè)計(jì)裕度，為未來的產(chǎn)品開發(fā)做好后續(xù)準(zhǔn)備。

HBM3內(nèi)存子系統(tǒng)的主要架構(gòu)

如下圖所示，最上面有4塊DRAM內(nèi)存條，通過TSV堆疊的方式疊加在一起，下面是SoC，再往下是中介層，在中介層下面就是綠色的封裝。這些部分組成了整個(gè)2.5D的系統(tǒng)架構(gòu)。



作為一個(gè)完整的內(nèi)存子系統(tǒng)產(chǎn)品，Rambus提供的并不僅僅是IP，同時(shí)也提供泛IP，以及整個(gè)系統(tǒng)的具體設(shè)計(jì)，包括經(jīng)過驗(yàn)證的PHY以及數(shù)字控制器。此外，還會(huì)在中介層和封裝上給客戶提供更好的參考設(shè)計(jì)支持和框架，因?yàn)檫@些也是整個(gè)內(nèi)存子系統(tǒng)領(lǐng)域非常重要的環(huán)節(jié)。

Frank Ferro表示，得益于在HBM領(lǐng)域多年的經(jīng)驗(yàn)和專業(yè)知識(shí)，Rambus在市場(chǎng)份額上排名第一，同時(shí)已經(jīng)贏得了超過50個(gè)設(shè)計(jì)訂單，這些訂單來自數(shù)據(jù)中心、ASIC的設(shè)計(jì)方等。目前為止，我們的控制器已經(jīng)應(yīng)用在了HBM市場(chǎng)超過85%的產(chǎn)品當(dāng)中。

Rambus生產(chǎn)經(jīng)驗(yàn)的支持

Rambus有著對(duì)HBM生產(chǎn)經(jīng)驗(yàn)的支持，這里展示的一款測(cè)試芯片，集成了PHY和控制器，基于HBM2E的DRAM，數(shù)據(jù)傳輸速率可以達(dá)到4Gbps，到目前為止依舊是行業(yè)的最高水平。芯片開發(fā)一次成功，無需返工，支持臺(tái)積電等晶圓代工廠的多制程節(jié)點(diǎn)。



Rambus的PHY產(chǎn)品通過完全集成的硬核方式進(jìn)行交付，在交付之時(shí)已經(jīng)包括了完整的PHY、I/O以及Decap，方便客戶進(jìn)行系統(tǒng)集成。

對(duì)于I/O設(shè)備產(chǎn)品來說，客戶也需要廠商提供非常強(qiáng)大的技術(shù)以及相關(guān)的調(diào)試糾錯(cuò)支持，Rambus不僅可以將產(chǎn)品提供給客戶，還可提供針對(duì)ASIC power up的現(xiàn)場(chǎng)客戶支持，幫助客戶進(jìn)行現(xiàn)場(chǎng)糾錯(cuò)，實(shí)現(xiàn)更好的設(shè)備調(diào)試啟動(dòng)。

不同的提供商的生產(chǎn)2.5D流程本身也不一樣，是一個(gè)非常復(fù)雜的過程，不僅需要提供用于生產(chǎn)中介層的硅產(chǎn)品，還有根據(jù)廠商各有差異的封裝以及最后組裝。而Rambus可以同時(shí)支持OSAT和CoWoS生產(chǎn)2.5D流程。

此外，Rambus與各大DRAM供應(yīng)商有著非常密切的合作關(guān)系，測(cè)試芯片已經(jīng)過充分的雙向驗(yàn)證以及測(cè)試。

2.5D封裝的挑戰(zhàn)

當(dāng)前HBM采用2.5D封裝需要考慮兩個(gè)主要的挑戰(zhàn)：

Frank Ferro分析，第一，確保信號(hào)的完整性，包括與中介層之間信號(hào)的互聯(lián)，這是非常重要的環(huán)節(jié)，也是我們首要考慮的挑戰(zhàn)，這同時(shí)要求在整個(gè)封裝系統(tǒng)上具備非常良好的控制程序。

第二，2.5D封裝整體的尺寸非常小，所以必須考慮可能產(chǎn)生的散熱問題。不過HBM本身就是一個(gè)低功耗的解決方案，可以支持很大范圍內(nèi)的工作溫度。

另外，F(xiàn)rank Ferro還指出，盡管目前HBM3的速率已經(jīng)可以達(dá)到8.4Gbps，但對(duì)比GDDRDRAM已經(jīng)達(dá)到16或者18Gbps的速率，還是有差距的。簡(jiǎn)單來講，HBM發(fā)展的限制目前集中在中介層上。在HBM2的時(shí)代，中介層本身的技術(shù)是有限制的，即一代和二代的中介層最高只能做到兩層，它設(shè)計(jì)的線寬、金屬層的厚度都是非常有限的。HBM3的速率達(dá)到8.4Gbps，為此需要在中介層的設(shè)計(jì)上實(shí)現(xiàn)進(jìn)一步優(yōu)化。隨著中介層技術(shù)的發(fā)展，其本身的厚度、金屬層和線寬都有了一定的增加，這也推動(dòng)了HBM未來的發(fā)展。

HBM3面向哪些應(yīng)用領(lǐng)域

Frank Ferro解析，數(shù)據(jù)中心是HBM3最主要的應(yīng)用場(chǎng)景，但隨著設(shè)備越來越多的邊緣化，HBM3也可能被應(yīng)用在5G設(shè)備上，特別是那些對(duì)帶寬有更高要求的5G設(shè)備。

另一個(gè)應(yīng)用場(chǎng)景是AI/ML，現(xiàn)在AI/ML的數(shù)據(jù)很多時(shí)候需要上傳到云端進(jìn)行處理，然后再重新回到本地。所以HBM3未來在這個(gè)領(lǐng)域也有一定的應(yīng)用前景。

最后是HPC，它也可以充分發(fā)揮HBM在功耗以及性能上的強(qiáng)大優(yōu)勢(shì)。目前為止，已經(jīng)有一些客戶開始與Rambus進(jìn)行早期接洽，在這個(gè)領(lǐng)域展開具體的應(yīng)用嘗試。

Rambus在中國(guó)市場(chǎng)的動(dòng)作

當(dāng)前，中國(guó)在數(shù)據(jù)中心、云計(jì)算以及AI等領(lǐng)域都走在了世界前列，因此許多國(guó)外廠商更加重視中國(guó)市場(chǎng)。Rambus也不例外，蘇雷表示，從去年開始，Rambus年度的Design Summit除了總部以外，中國(guó)是全球唯一單獨(dú)舉辦的區(qū)域。圍繞中國(guó)市場(chǎng)，Rambus已經(jīng)規(guī)劃了一系列的活動(dòng)。例如，Rambus今年在全球范圍內(nèi)發(fā)布了CXL內(nèi)存互聯(lián)計(jì)劃，將和中國(guó)的云服務(wù)商、數(shù)據(jù)中心、服務(wù)器OEM、ODM和內(nèi)存公司等整個(gè)生態(tài)系統(tǒng)展開合作，以加快CXL內(nèi)存互聯(lián)計(jì)劃的開發(fā)和應(yīng)用、落地和發(fā)展。

據(jù)透露，Rambus的IP產(chǎn)品特別是HBM和GDDR6系列被業(yè)界廣泛采用，覆蓋一線的AI客戶。另外緩沖芯片、DDR5市場(chǎng)也會(huì)和內(nèi)存生態(tài)系統(tǒng)的合作伙伴開展合作。

Rambus在中國(guó)擁有強(qiáng)大的銷售、市場(chǎng)、FAE和AE團(tuán)隊(duì)，并且還將持續(xù)擴(kuò)大，做好長(zhǎng)期耕耘，未來將用更好的產(chǎn)品和服務(wù)來踐行Rambus“In China，for China”的承諾。

小結(jié)：

雖然目前JEDEC還沒有正式發(fā)布HBM3標(biāo)準(zhǔn)，也很難去推測(cè)下一代HBM（例如HBM4）的性能，不過，F(xiàn)rank Ferro表示，整個(gè)行業(yè)對(duì)帶寬的需求幾乎是無止境、并且快速上升的。這也是Rambus將要持續(xù)進(jìn)行的技術(shù)突破，以始終保持領(lǐng)先，從而不斷滿足市場(chǎng)的新需求。

本文為電子發(fā)燒友網(wǎng)原創(chuàng)文章，作者黃晶晶，微信號(hào)kittyhjj，轉(zhuǎn)載請(qǐng)注明以上來源。如需入群交流，請(qǐng)?zhí)砑游⑿舉lecfans999，投稿發(fā)郵件到huangjingjing@elecfans.com。