0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

存儲芯片巨頭,開啟AI算力爭霸賽

sakobpqhz ? 來源:芯東西 ? 2023-08-08 11:16 ? 次閱讀

巨頭排隊瘋搶、價格一路暴漲,HBM乘上生成式AI快車。

韓國存儲芯片巨頭們正在打一場翻身仗。

盡管從最新財報來看,存儲芯片復蘇未見好轉(zhuǎn),供應(yīng)過剩導致營業(yè)利潤大幅下降,但這些存儲芯片巨頭們的股價均在上周上漲。力挽狂瀾的核心功臣,便是逐漸成為數(shù)據(jù)中心AI訓練必備組件的AI相關(guān)內(nèi)存芯片——高帶寬內(nèi)存(HBM)

因生成式AI開發(fā)和商業(yè)化競爭加劇,第二季度對AI相關(guān)內(nèi)存的需求大幅增加。HBM的受關(guān)注程度,在上周SK海力士和三星發(fā)布最新財報后舉行的電話會議期間可見一斑,分析師們就HBM相關(guān)進展和后續(xù)規(guī)劃密集發(fā)問。

自去年英偉達發(fā)布世界首款采用HBM3的GPU H100以來,HBM3及更先進HBM芯片的熱度一直居高不下。據(jù)英國《金融時報》援引兩位接近SK海力士的消息人士報道,英偉達和AMD要求SK海力士提供尚未量產(chǎn)的下一代HBM3E芯片的樣品。英偉達已要求SK海力士盡快供應(yīng)HBM3E,并愿意支付“溢價”。

48ca27bc-3520-11ee-9e74-dac502259ad0.png

▲英偉達GPU及其他AI芯片HBM采用情況(圖源:SemiAnaysis)

雖說今年縮減開支是重頭戲,但存儲芯片巨頭們在HBM方向的投資仍相當舍得——合計掌控著全球90%HBM芯片市場的兩家大廠SK海力士和三星均表態(tài),計劃明年將HBM芯片產(chǎn)量提高一倍,并為了更好應(yīng)對HBM不斷增長的需求,而減少其他類別存儲芯片的投資。

01.英偉達AMD微軟亞馬遜排隊

坐等用上HBM3E

高帶寬內(nèi)存(HBM)屬于DRAM的一類分支,使用堆疊技術(shù)來提高圖形處理器(GPU)等計算芯片的帶寬和性能,相比傳統(tǒng)DRAM芯片產(chǎn)品具有尺寸更小、功耗更低、帶寬更高、處理數(shù)據(jù)速度更快等優(yōu)勢。

48f08bb4-3520-11ee-9e74-dac502259ad0.png

▲2015年AMD介紹新型存儲芯片HBM(圖源:AMD)

HBM最初用于高端游戲顯卡,目前在全球動態(tài)隨機存取存儲器(DRAM)市場中占有的市場份額較小,但潛力非常可觀。隨著云計算及生成式AI服務(wù)的發(fā)展,全球大型科技公司將越來越多地使用HBM,來快速處理快速增長的數(shù)據(jù)。

據(jù)芯片行業(yè)咨詢公司SemiAnalysis披露,HBM的價格大約是標準DRAM芯片的5倍,利潤豐厚,預計到HBM占全球內(nèi)存收入的比例將從目前的不到5%增長到2026年的20%以上。

自2013年開發(fā)全球首款HBM芯片以來,全球第二大存儲芯片巨頭SK海力士一直處于HBM領(lǐng)先地位。這也是SK海力士首次在內(nèi)存技術(shù)競賽中領(lǐng)先于三星。隨后兩家韓企進入激烈的HBM搶位賽,爭相開始量產(chǎn)HBM2、HBM2E等芯片。

2022年6月,SK海力士宣布開始量產(chǎn)業(yè)界首款HBM3內(nèi)存,與英偉達H100 GPU配合使用,預計將于2022年第三季度發(fā)貨。該內(nèi)存將為H100提供高達819GB/s的內(nèi)存帶寬。

4920a8d0-3520-11ee-9e74-dac502259ad0.jpg

▲歷代HBM性能演進(圖源:SK海力士和Rambus)

目前SK海力士是目前唯一一家批量出貨HBM3的供應(yīng)商,擁有超過95%的市場份額。它正在為AMD MI300X和英偉達H100生產(chǎn)數(shù)據(jù)速率為5.6GT/s的12層24GB HBM3。

今年一開年,HBM3便呈大熱之勢,訂單迅速增加。2月份有報道稱,據(jù)市場人士透露,HBM3價格近期上漲了5倍。

隨后在5月30日,SK海力士乘勝追擊推出最新的HBM3E,每個堆棧的帶寬從HBM3的819GB/s增加到1TB/s,將于明年上半年投入生產(chǎn),據(jù)說英偉達、AMD、微軟、亞馬遜等芯片大廠正排隊搶貨。這驅(qū)動HBM價格進一步大幅上漲。

據(jù)行研機構(gòu)TrendForce的數(shù)據(jù),SK海力士2022年在全球HBM市場占有50%的份額,三星以40%的份額緊隨其后,美國存儲芯片巨頭對手美光以10%的份額排名第三。

SK海力士披露,生成式AI市場的擴張已迅速推高對AI服務(wù)器內(nèi)存的需求。在AI相關(guān)需求激增的驅(qū)動下,上周三,SK海力士報告其今年第二季度同比由盈轉(zhuǎn)虧,營業(yè)虧損為2.88萬億韓元,其股價上周卻上漲了12%。

49361576-3520-11ee-9e74-dac502259ad0.png

▲過去半年SK海力士股價變化

次日,三星宣布第二季度營業(yè)利潤為6685億韓元,同比下降95%。受益于最新一代HBM3芯片在內(nèi)的高端內(nèi)存技術(shù)訂單激增,三星股價周四上漲了2.4%,然后又有所回落。

495f1688-3520-11ee-9e74-dac502259ad0.png

▲過去半年三星電子股價變化

TrendForce預測,2023年全球HBM芯片需求將增長60%,達到2.9億GB,明年將再增長30%,2025年整體市場有望達20億美元以上。預計明年SK海力士將占據(jù)HBM市場53%的份額,其次是三星(38%)和美光(9%)。

02.AI服務(wù)器使用的內(nèi)存

比傳統(tǒng)服務(wù)器至少多出1~8倍

在財報電話會議上,SK海力士首席財務(wù)官Kim Woohyun說:“與傳統(tǒng)服務(wù)器相比,AI服務(wù)器使用的內(nèi)存至少多出1~8倍,以實現(xiàn)更快的計算處理,并采用HBM等高性能內(nèi)存產(chǎn)品,這不僅會推動需求,而且對盈利能力產(chǎn)生了積極影響。

他談道,從今年年初開始,智能手機、個人電腦和服務(wù)器的需求一直疲軟。但從第二季度開始,AI服務(wù)器的需求急劇上升,抵消了其他產(chǎn)品需求的部分損失。自第二季度以來,生成式AI引發(fā)的對高端服務(wù)器的需求迅速增加。相應(yīng)地,高密度DDR5和HBM產(chǎn)品的需求也在快速增長。

三星內(nèi)存業(yè)務(wù)執(zhí)行副總裁Jaejune Kim在三星財報電話會議上談到第二季度在服務(wù)器方面的內(nèi)存需求,由于對生成式AI的強勁需求,數(shù)據(jù)中心領(lǐng)域的投資在有限的資本支出中集中在AI服務(wù)器上,對通用服務(wù)器和存儲的需求相對有限。

今年隨著企業(yè)投資水平的降低,存儲芯片客戶將重點放在昂貴的AI服務(wù)器上的投資,對傳統(tǒng)服務(wù)器的投資可能會暫時下降。不過,SK海力士分析預測,通用服務(wù)器仍將廣泛用于AI服務(wù)的開發(fā)、部署和運營,因此從長遠來看也將刺激通用服務(wù)器的需求增長。

據(jù)Kim Woohyun披露,SK海力士的圖形DRAM銷售額(包括HBM產(chǎn)品)此前僅占DRAM銷售額的個位數(shù)百分比。但自從去年第四季度達到DRAM銷售額的10%以來,這一比例迅速增長到第二季度超過20%。SK海力士用于AI服務(wù)器的HBM和高密度DDR5模塊的銷量大幅增長。該公司預計今年HBM的銷量預計將比去年增長兩倍以上,并預計明年將進一步增長。

03.今明HBM需求預計陡峭增漲

兩家大廠披露HBM最新路線圖

業(yè)內(nèi)專家表示,由于調(diào)整產(chǎn)能需要時間,未來兩年HBM供應(yīng)預計仍將緊張,而快速增加HBM產(chǎn)量也很困難,因為它需要專門的生產(chǎn)線。

SK海力士和三星給出了相近的產(chǎn)業(yè)趨勢解讀:內(nèi)存需求一直在從去年創(chuàng)紀錄的低增長水平中復蘇,當前復蘇尚不足以使全行業(yè)庫存水平恢復正常,上半年庫存水平仍較高,但庫存已經(jīng)見頂,并預測隨著減產(chǎn)效果進一步顯現(xiàn),下半年存儲芯片需求將較上半年有所改善。

為了進一步加速庫存正常化,兩家存儲芯片大廠都在選擇性地對DRAM和NAND的某些產(chǎn)品進行額外的生產(chǎn)調(diào)整,下半年重點抓盈利能力,專注于高附加值和高密度產(chǎn)品來優(yōu)化其產(chǎn)品組合,特別是加強銷售組合中HBM、DDR5等高價值前沿產(chǎn)品的份額的增長,減少庫存水平較高、盈利能力不及DRAM的NAND的產(chǎn)量。

SK海力士相信第三季度AI服務(wù)器需求將持續(xù)增漲,特別是高密度DDR模塊和HBM,這兩款產(chǎn)品的收入有望在下半年比上半年增速更高,HBM的需求將在明年保持相當健康的增長。

近期,特別是隨著超大規(guī)模企業(yè)對生成式AI服務(wù)的競爭加劇,三星收到了來自此類客戶的大量需求,預計今年和明年HBM的需求可能會出現(xiàn)相當陡峭的增長。

目前SK海力士的首要任務(wù)是投資增加HBM的大規(guī)模生產(chǎn)。該公司剛剛對今年年初制定的有關(guān)技術(shù)產(chǎn)能組合的規(guī)劃進行了調(diào)整,以應(yīng)對對高密度DDR5和HBM不斷增長的需求。

對于HBM路線圖來說,重要的是與GPU的發(fā)布或領(lǐng)先加速器市場的公司的時間表保持一致。SK海力士預計將在2026年某個時候轉(zhuǎn)向HBM Gen 4,并正為此做準備。

根據(jù)其路線圖,明年下半年將是HBM3E量產(chǎn)期,也是HBM3E的供應(yīng)擴大期。今年SK海力士的重點是增加HBM量產(chǎn)所需的1Z納米的比例,還準備增加1B納米產(chǎn)能和TSV產(chǎn)能,為明年上半年開始供貨的HBM3E做準備。

為了與市場增長預期保持一致,三星一直在擴展其HBM業(yè)務(wù),產(chǎn)品方面擁有向主要客戶獨家供應(yīng)HBM2的記錄,后續(xù)還就HBM2E開展業(yè)務(wù),計劃2023年下半年開始大規(guī)模生產(chǎn)HBM3。三星HBM3正在接受具有行業(yè)頂級性能和密度或容量的客戶資格認證,已開始向主要的AI SoC公司和云計算公司發(fā)貨8層16GB和12層24GB產(chǎn)品。具有更高性能和容量的三星下一代HBM3P芯片計劃于今年晚些時候發(fā)布。

49f3585c-3520-11ee-9e74-dac502259ad0.png

▲三星HBM3介紹(圖源:SemiAnalysis)

三星還一直投資HBM生產(chǎn)能力,基于此已經(jīng)預訂了大約10億或十億中值Gb級的客戶需求,大約是去年的兩倍,并正在通過提高生產(chǎn)力來進一步提高供應(yīng)能力,到2024年計劃將HBM產(chǎn)能增加至少是2023年水平的兩倍。另據(jù)此前報道,三星擬投資1萬億韓元擴產(chǎn)HBM。

對于三星來說,它雖然在HBM競爭的反應(yīng)比SK海力士慢半拍,但考慮到通常AI芯片與HBM存儲器一起集成到單個封裝中,三星擁有一個其他芯片企業(yè)所不具備的優(yōu)勢——兼具先進GAA工藝技術(shù)、HBM技術(shù)和先進封裝技術(shù)

如果未來三星能夠推出最大化發(fā)揮這三類關(guān)鍵技術(shù)協(xié)同效應(yīng)的解決方案,這有望成為未來三星在AI算力市場競爭中的關(guān)鍵壁壘。

04.結(jié)語:存儲芯片巨頭打響HBM爭霸賽

隨著云計算和生成式AI服務(wù)越來越受歡迎,對HBM等高性能內(nèi)存芯片的需求與日俱增。在HBM價格不斷上漲的情況下,英偉達等芯片巨頭仍在預訂更多HBM產(chǎn)能來滿足其GPU需求,這導致HBM3芯片的供給更加緊俏。

在今年資本支出大幅下降的情況下,在HBM市場領(lǐng)先的SK海力士正通過提高生產(chǎn)力、加快設(shè)備交付時間和削減其他領(lǐng)域的投資等努力,確保HBM3的產(chǎn)能和投資。穩(wěn)居全球存儲芯片第一的三星,自然不甘在HBM這一極具前景的細分市場屈居于SK海力士身后,亦加大馬力爭取新訂單并專注于HBM等高附加值產(chǎn)品的銷售。

全球排名第三的美國存儲芯片巨頭美光科技也在上周面向AI客戶發(fā)布了最新DRAM四年路線圖,包括用于AI和高性能計算應(yīng)用的HBMNext。到2024年,美光科技HBM3E預計將在第三季度/第四季度開始出貨。

4a3a89e8-3520-11ee-9e74-dac502259ad0.png

▲美光科技披露面向AI基礎(chǔ)設(shè)施需求的解決方案路線圖

存儲芯片巨頭們正在嚴陣以待,通過加大在先進技術(shù)突破和擴大產(chǎn)能方面的投資,為持續(xù)到來的HBM等支持大規(guī)模數(shù)據(jù)處理的高性能內(nèi)存產(chǎn)品的需求激增做好準備。SK海力士能否在HBM技術(shù)和市場保持領(lǐng)先身位、長期掌握議價權(quán),也是業(yè)界強烈關(guān)注的焦點。




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • DRAM芯片
    +關(guān)注

    關(guān)注

    1

    文章

    84

    瀏覽量

    18016
  • 存儲芯片
    +關(guān)注

    關(guān)注

    11

    文章

    897

    瀏覽量

    43147
  • 圖形處理器
    +關(guān)注

    關(guān)注

    0

    文章

    198

    瀏覽量

    25553
  • HBM
    HBM
    +關(guān)注

    關(guān)注

    0

    文章

    380

    瀏覽量

    14761
  • DDR5
    +關(guān)注

    關(guān)注

    1

    文章

    422

    瀏覽量

    24146

原文標題:存儲芯片巨頭,開啟AI算力爭霸賽

文章出處:【微信號:算力基建,微信公眾號:算力基建】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    英偉達加速認證三星新型AI存儲芯片

    近日,英偉達首席執(zhí)行官黃仁勛近日在接受采訪時透露,英偉達正在全力加速對三星最新推出的AI存儲芯片——HBM3E的認證進程。這一舉措標志著英偉達在AI存儲技術(shù)上的又一次重要布局。 據(jù)黃仁
    的頭像 發(fā)表于 11-26 10:22 ?199次閱讀

    一文帶你了解什么是SD NAND存儲芯片

    的市場份額,有著不可取代的地位。   隨著芯片的發(fā)展存儲芯片的趨勢也開始不甘落后,有著越來越多的新型的芯片問世,這里就要提起SD NAND芯片了,市面上主流的生產(chǎn)廠家就是雷龍。   S
    發(fā)表于 11-13 15:20

    ESP32應(yīng)用教程—SD NAND如何記錄飛控LOG#SDNAND #硬件 #存儲芯片

    存儲芯片
    深圳市雷龍發(fā)展有限公司
    發(fā)布于 :2024年10月09日 16:51:51

    韓企存儲芯片在華熱銷,營收翻倍增長

    2024年上半年,韓國存儲芯片巨頭三星電子與SK海力士在中國市場的表現(xiàn)極為亮眼,營收均實現(xiàn)了超過100%的顯著增長。這一驕人成績主要得益于全球存儲芯片市場需求的強勁復蘇以及產(chǎn)品價格的持續(xù)上揚。
    的頭像 發(fā)表于 09-09 17:58 ?765次閱讀

    SK海力士Q2業(yè)績創(chuàng)新高,AI存儲芯片銷售強勁

    全球領(lǐng)先的存儲芯片制造商之一,韓國SK海力士公司,近日宣布了其第二季度業(yè)績的顯著增長,成功實現(xiàn)扭虧為盈,并創(chuàng)下近六年來的新高。這一亮眼表現(xiàn)主要得益于高端人工智能(AI存儲芯片的強勁市場需求。
    的頭像 發(fā)表于 07-25 17:11 ?771次閱讀

    存儲芯片有哪些類型

    存儲芯片,又稱為半導體存儲器,是以半導體電路作為存儲媒介的存儲器,廣泛應(yīng)用于計算機、消費電子、智能終端、固態(tài)存儲硬盤等領(lǐng)域。按照不同的分類標
    的頭像 發(fā)表于 07-24 16:40 ?2444次閱讀

    存儲芯片漲勢強勁,利基存儲器需求有望提升

    近日,韓國存儲芯片行業(yè)的兩大巨頭三星電子和SK海力士的股價均呈現(xiàn)強勁走勢。其中,三星電子股價上漲0.62%,本月以來累計漲幅已超10%;而SK海力士更是上漲5.33%,距離其歷史新高僅一步之遙。這一趨勢背后,與存儲芯片市場價格的
    的頭像 發(fā)表于 06-28 14:36 ?616次閱讀

    三星電子存儲芯片漲價,AI需求激增提振業(yè)績預期

    在全球科技產(chǎn)業(yè)持續(xù)革新的背景下,人工智能(AI)技術(shù)的快速發(fā)展對存儲芯片行業(yè)產(chǎn)生了深遠的影響。隨著AI需求激增,存儲芯片領(lǐng)域的競爭進一步加劇,而三星電子作為行業(yè)領(lǐng)軍企業(yè),其業(yè)績預期也隨
    的頭像 發(fā)表于 06-27 14:36 ?749次閱讀

    科普EEPROM 科普 EVASH Ultra EEPROM?科普存儲芯片

    科普EEPROM 科普 EVASH Ultra EEPROM?科普存儲芯片
    的頭像 發(fā)表于 06-25 17:14 ?576次閱讀

    致真存儲芯片制造項目正式開工

    據(jù)致真存儲官方聲明,此次致真存儲芯片制造項目選址青島西海岸新區(qū)古鎮(zhèn)口,占地約50畝,旨在建立下一代磁性隨機存儲芯片生產(chǎn)流程,從而助力磁存儲芯片產(chǎn)業(yè)的快速發(fā)展。
    的頭像 發(fā)表于 05-20 15:26 ?1351次閱讀

    三星電子力推AI存儲芯片芯片競爭力提升

    AI 存儲芯片方面,慶桂顯示三星組建了以DRAM產(chǎn)品與技術(shù)掌門人Hwang Sang-joon為首的HBM內(nèi)存產(chǎn)能與質(zhì)素提升團隊,這是今年成立的第二支HBM專業(yè)隊伍。全力挽救因誤判市場導致業(yè)績下滑的局面。
    的頭像 發(fā)表于 04-01 10:34 ?676次閱讀

    2024年中國存儲芯片產(chǎn)業(yè)鏈圖譜研究分析

    存儲芯片,是嵌入式系統(tǒng)芯片的概念在存儲行業(yè)的具體應(yīng)用。受到大模型時代的高力、大存儲的現(xiàn)實需求推動,各大企業(yè)加大
    的頭像 發(fā)表于 03-13 14:18 ?2249次閱讀
    2024年中國<b class='flag-5'>存儲芯片</b>產(chǎn)業(yè)鏈圖譜研究分析

    什么是存儲芯片?有什么作用呢?

    存儲芯片是一種用于存儲數(shù)據(jù)的集成電路芯片,也被稱為存儲芯片。
    的頭像 發(fā)表于 02-29 09:09 ?3409次閱讀

    邏輯芯片存儲芯片的區(qū)別

    邏輯芯片存儲芯片是計算機系統(tǒng)中兩種不同類型的芯片,它們在功能和用途上有著明顯的區(qū)別。
    的頭像 發(fā)表于 01-17 18:26 ?2554次閱讀

    半導體芯片研究:中國存儲芯片行業(yè)概覽

    DRAM、NAND Flash、NOR Flash合計約占整體存儲芯片市場的97%;自2022年初起,下游需求市場的萎縮以及宏觀環(huán)境進一步惡化導致存儲芯片市場不斷承壓,存儲芯片價格持
    的頭像 發(fā)表于 01-14 09:47 ?2533次閱讀
    半導體<b class='flag-5'>芯片</b>研究:中國<b class='flag-5'>存儲芯片</b>行業(yè)概覽