風(fēng)景獨(dú)好？12層HBM3E量產(chǎn)，16層HBM3E在研，產(chǎn)業(yè)鏈涌動(dòng)

電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）在早前的報(bào)道中，對(duì)于HBM產(chǎn)能是否即將過剩，業(yè)界有不同的聲音，但絲毫未影響存儲(chǔ)芯片廠商對(duì)HBM產(chǎn)品升級(jí)的步伐。

三大廠商12層HBM3E進(jìn)展

9月26日SK海力士宣布公司已開始量產(chǎn)12H HBM3E芯片，實(shí)現(xiàn)了現(xiàn)有HBM產(chǎn)品中最大的36GB容量。該產(chǎn)品堆疊12顆3GB DRAM芯片，實(shí)現(xiàn)與現(xiàn)有的8層產(chǎn)品相同的厚度，同時(shí)容量提升50%。運(yùn)行速度提高至9.6Gbps，這是在以搭載四個(gè)HBM的單個(gè)GPU運(yùn)行大型語言模型（LLM）“Llama 3 70B”時(shí)，每秒可讀取35次700億個(gè)整體參數(shù)的水平。SK海力士將在年內(nèi)向客戶提供12層HBM3E。


圖源：SK海力士

另外，SK海力士今年初曾公開單一堆疊的速度可達(dá)1280 GB/s的16層48GB HBM3E概念產(chǎn)品。據(jù)韓媒最新報(bào)道，SK海力士近期經(jīng)內(nèi)部檢驗(yàn)，已成功確保16層HBM3E性能特性。

今年9月，美光宣布推出12 層堆疊HBM3E。美光表示，隨著 AI 工作負(fù)載的不斷發(fā)展和擴(kuò)充，記憶體頻寬和容量對(duì)提升系統(tǒng)效能越來越關(guān)鍵。業(yè)界最新的 GPU 需要最高效能的高頻寬記憶體（HBM）、龐大的記憶體容量以及更高的功耗效率。為滿足這些需求，美光走在記憶體創(chuàng)新的最前線，目前正在向主要產(chǎn)業(yè)合作伙伴提供可量產(chǎn)的 HBM3E 12 層堆疊記憶體，并在整個(gè) AI 生態(tài)系統(tǒng)進(jìn)行認(rèn)證。

圖源：美光科技

美光領(lǐng)先的 1?（1-beta）記憶體技術(shù)和先進(jìn)的封裝技術(shù)確保資料流以最高效的方式進(jìn)出 GPU。美光的 8 層堆疊和 12 層堆疊 HBM3E 記憶體進(jìn)一步推動(dòng) AI 創(chuàng)新，功耗比競(jìng)爭(zhēng)對(duì)手低 30%。美光的 8 層堆疊 24GB HBM3E 已與 NVIDIA H200 Tensor Core GPU 一起出貨，并且可量產(chǎn)的 12 層堆疊 36GB HBM3E 也已上市。

美光提到，公司HBM3E 12 層堆疊 36GB 與競(jìng)爭(zhēng)對(duì)手的 8 層堆疊 24GB 產(chǎn)品相比，不僅功耗大幅降低，而且封裝中的DRAM容量增加了50%。可讓擁有 700 億個(gè)參數(shù)的大型 AI 模型（如 Llama 2）運(yùn)行于單個(gè)處理器上。容量的增加避免了 CPU 卸載和 GPU-GPU 通訊延遲，因此能更快地取得洞見。

美光 HBM3E 12 層堆疊 36GB 提供每秒超過 1.2 TB/s 的記憶體頻寬，Pin 速度超過每秒 9.2 Gb。美光 HBM3E 以最低的功耗提供最大的吞吐量。

此外，美光 HBM3E 12 層堆疊記憶體還整合了完全可編程 MBIST，能夠以全規(guī)格速度運(yùn)行系統(tǒng)典型流量，為加快驗(yàn)證提供了更大的測(cè)試覆蓋范圍，縮短了產(chǎn)品上市時(shí)間，并提高了系統(tǒng)可靠性。

美光在其最新財(cái)報(bào)中表示，已從第四財(cái)季(2024年6-8月)開始向主要行業(yè)合作伙伴交付可量產(chǎn)的12層HBM3E（36GB），預(yù)計(jì)將在2025年初提高12層HBM3E產(chǎn)量，并在2025年全年增加該產(chǎn)品出貨。

美光稱HBM在2024年和2025年均已售罄，且定價(jià)已確定。到2025年和2026年，將擁有更加多元化的HBM收入狀況，因?yàn)槊拦庖褢{借行業(yè)領(lǐng)先的HBM3E解決方案贏得了廣泛HBM客戶的業(yè)務(wù)。

韓媒此前報(bào)道，三星電子于今年2月首次推出了HBM3E 12H。在2024 年第 2 季度財(cái)報(bào)電話會(huì)議上，三星公司高管表示，已經(jīng)準(zhǔn)備好量產(chǎn) 12 層 HBM3E 芯片，我們將根據(jù)多家客戶的需求計(jì)劃，在今年下半年擴(kuò)大供應(yīng)。

同時(shí)，三星表示，第五代 8 層 HBM3E 產(chǎn)品已交付客戶評(píng)估，計(jì)劃 2024 年第 3 季度開始量產(chǎn)?？傊?，HBM3E 芯片在三星 HBM 中所占的份額預(yù)計(jì)將在第三季度超過 10%，并有望在第四季度迅速擴(kuò)大到 60%。

HBM PHY和控制器，上游IP不斷拓展

芯片IP廠商主要提供包括處理器核、內(nèi)存控制器、接口協(xié)議、圖形處理單元等集成電路設(shè)計(jì)中的知識(shí)產(chǎn)權(quán)組件。這些可復(fù)用的IP核能夠提高設(shè)計(jì)效率、降低成本、縮短產(chǎn)品上市時(shí)間?。目前包括新思、Rambus、創(chuàng)意電子、合見工軟、芯耀輝等等廠商都推出了HBM IP 解決方案。

Synopsys新思科技提供完整的 DesignWare HBM IP 解決方案，包括控制器、PHY 和驗(yàn)證 IP，以滿足高性能計(jì)算、AI 和圖形應(yīng)用領(lǐng)域的片上系統(tǒng) (SoC) 設(shè)計(jì)對(duì)高帶寬和低功耗內(nèi)存的強(qiáng)烈需求。該 IP 支持 HBM2、HBM2E 和 HBM3 規(guī)范所要求的功能，已經(jīng)過硅驗(yàn)證，可實(shí)現(xiàn)高達(dá) 921 GB/s 的高帶寬。

Rambus也積極布局HBM內(nèi)存市場(chǎng)，去年底推出數(shù)據(jù)傳輸速率高達(dá)9.6Gb/s的HBM3內(nèi)存控制器IP，可幫助大幅提高AI性能。Rambus的這一內(nèi)存控制器IP產(chǎn)品是經(jīng)過驗(yàn)證的，可支持所有HBM3產(chǎn)品，也包括最新的HBM3E內(nèi)存設(shè)備。

最近，創(chuàng)意電子宣布其3納米HBM3E控制器和實(shí)體層IP已獲云端服務(wù)供應(yīng)商（CSP）及多家高效運(yùn)算（HPC）解決方案供應(yīng)商采用。這款尖端ASIC預(yù)計(jì)將于2024年投片，并將采用最新的9.2Gbps HBM3E技術(shù)。此外，創(chuàng)意電子也積極與HBM供應(yīng)商（如美光）合作，為下一代AI ASIC 開發(fā)HBM4 IP。

創(chuàng)意電子的 HBM3E IP 已通過臺(tái)積電 N7 / N6、N5 / N4P、N3E / N3P 先進(jìn)工藝制程技術(shù)的驗(yàn)證，與所有主流 HBM3 廠商產(chǎn)品兼容，且在臺(tái)積電 CoWoS-S 及 CoWoS-R 先進(jìn)封裝技術(shù)上都進(jìn)行了流片驗(yàn)證。除人工智能應(yīng)用領(lǐng)域之外，創(chuàng)意也期待相關(guān)HBM IP可繼續(xù)為高效能運(yùn)算、網(wǎng)絡(luò)和汽車等各種應(yīng)用提供支持。

芯耀輝科技致力于為中國大算力產(chǎn)業(yè)提供高速接口IP解決方案。芯耀輝成功研發(fā)出全套自研接口IP，涵蓋了PCIe、Serdes、DDR、HBM、D2D、USB、MIPI、HDMI、SATA，SD/eMMC等最先進(jìn)協(xié)議標(biāo)準(zhǔn)，并構(gòu)建了一套全棧式完整IP解決方案。

前不久，合見工軟新品發(fā)布涵蓋有UniVista HBM3/E IP，該產(chǎn)品包括HBM3/E內(nèi)存控制器、物理層接口（PHY）和驗(yàn)證平臺(tái)，采用低功耗接口和創(chuàng)新的時(shí)鐘架構(gòu)，實(shí)現(xiàn)了更高的總體吞吐量和更優(yōu)的每瓦帶寬效率，可幫助芯片設(shè)計(jì)人員實(shí)現(xiàn)超小PHY面積的同時(shí)支持最高9.6 Gbps的數(shù)據(jù)速率，解決各類前沿應(yīng)用對(duì)數(shù)據(jù)吞吐量和訪問延遲要求嚴(yán)苛的場(chǎng)景需求問題，可廣泛應(yīng)用于以AI/機(jī)器學(xué)習(xí)應(yīng)用為代表的數(shù)據(jù)與計(jì)算密集型SoC等多類芯片設(shè)計(jì)中，已實(shí)現(xiàn)在AI/ML、數(shù)據(jù)中心和HPC等領(lǐng)域的國內(nèi)頭部IC企業(yè)中的成功部署應(yīng)用。

小結(jié)：

根據(jù)集邦咨詢的報(bào)告，HBM3e 12hi是2024年下半年市場(chǎng)關(guān)注的重點(diǎn)。預(yù)計(jì)于2025年英偉達(dá)推出的Blackwell Ultra將采用8顆HBM3e 12hi，GB200也有升級(jí)可能，再加上B200A的規(guī)劃，因此，預(yù)估2025年12hi產(chǎn)品在HBM3e當(dāng)中的比重將提升至40%，且有機(jī)會(huì)上升。英偉達(dá)是HBM市場(chǎng)的最大買家，在Blackwell Ultra、B200A等產(chǎn)品推出后，英偉達(dá)在HBM市場(chǎng)的采購比重將突破70%。

產(chǎn)能方面，CFM閃存市場(chǎng)數(shù)據(jù)顯示，預(yù)計(jì)至2024年底三星、SK海力士和美光合計(jì)達(dá)到30萬片的HBM月產(chǎn)能，其中三星HBM增產(chǎn)最為激進(jìn)。預(yù)計(jì)明年全球HBM市場(chǎng)規(guī)模將上望300億美元，HBM將占DRAM晶圓產(chǎn)能約15%至20%。