0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達全球首發(fā)HBM3e 專為生成式AI時代打造

要長高 ? 來源:網(wǎng)絡整理 ? 作者:網(wǎng)絡整理 ? 2023-08-11 16:29 ? 次閱讀

2023年8月8日,NVIDIA創(chuàng)始人兼CEO黃仁勛在計算機圖形年會SIGGRAPH上發(fā)布了HBM3e內(nèi)存新一代GH200 Grace Hopper超級芯片。這款芯片被黃仁勛稱為“加速計算和生成式AI時代的處理器”,旨在用于任何大型語言模型,以降低推理成本。

與今年5月發(fā)布的GH200不同,新一代GH200芯片搭載了全球首款HBM3e內(nèi)存,內(nèi)存容量和帶寬都有顯著提高,專為加速計算和生成式AI時代而設計。

新版GH200芯片平臺基于72核Grace CPU,配備480GB ECC LPDDR5X內(nèi)存以及GH100計算GPU。此外,它還搭配著141GB的HBM3e內(nèi)存,分為六個24GB的堆棧,并采用了6,144位的內(nèi)存接口。盡管實際上NVIDIA安裝了144GB的內(nèi)存,但可用的內(nèi)存容量為141GB。

借助全球最快的HBM3e內(nèi)存,這款芯片的內(nèi)存容量高達141GB,帶寬每秒可達到5TB。每個GPU的容量比NVIDIA H100 GPU多出1.7倍,帶寬比H100高1.55倍。

NVIDIA強調(diào),新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片,因此無需推出新的軟件版本或步進。原版GH200和升級版GH200將共存于市場,后者將以更高的價格銷售,因為它具備更先進的內(nèi)存技術帶來的更高性能。

NVIDIA表示,新版GH200旨在處理世界上最復雜的生成式AI工作負載,包括大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫,并將提供多種配置。預計新版GH200將于2024年第二季度投產(chǎn)。

編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19286

    瀏覽量

    229808
  • NVIDIA
    +關注

    關注

    14

    文章

    4986

    瀏覽量

    103046
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4739

    瀏覽量

    128941
  • 內(nèi)存
    +關注

    關注

    8

    文章

    3025

    瀏覽量

    74042
  • AI
    AI
    +關注

    關注

    87

    文章

    30887

    瀏覽量

    269062
  • 生成式AI
    +關注

    關注

    0

    文章

    504

    瀏覽量

    474
  • HBM3
    +關注

    關注

    0

    文章

    74

    瀏覽量

    154
  • HBM3E
    +關注

    關注

    0

    文章

    78

    瀏覽量

    259
收藏 人收藏

    評論

    相關推薦

    三星電子HBM3E內(nèi)存獲英偉認證,加速AI GPU市場布局

    近日,知名市場研究機構TrendForce在最新發(fā)布的報告中宣布了一項重要進展:三星電子的HBM3E內(nèi)存產(chǎn)品已成功通過英偉驗證,并正式開啟出貨流程。具體而言,三星的HBM3E 8Hi
    的頭像 發(fā)表于 09-05 17:15 ?710次閱讀

    TrendForce:三星HBM3E內(nèi)存通過英偉驗證,8Hi版本正式出貨

    9月4日最新資訊,據(jù)TrendForce集邦咨詢的最新報告透露,三星電子已成功完成其HBM3E內(nèi)存產(chǎn)品的驗證流程,并正式啟動了HBM3E 8Hi(即24GB容量版本)的出貨,該產(chǎn)品主要面向英偉
    的頭像 發(fā)表于 09-04 15:57 ?596次閱讀

    三星HBM3E內(nèi)存挑戰(zhàn)英偉訂單,SK海力士霸主地位受撼動

    進入八月,市場傳言四起,韓國存儲芯片巨頭三星電子(簡稱“三星”)的8層HBM3E內(nèi)存(新一代高帶寬內(nèi)存產(chǎn)品)已順利通過英偉嚴格測試。然而,三星迅速澄清,表示這一報道與事實相去甚遠,強調(diào)目前質(zhì)量測試
    的頭像 發(fā)表于 08-23 15:02 ?710次閱讀

    三星否認HBM3E芯片通過英偉測試

    近日,有關三星的8層HBM3E芯片已通過英偉測試的報道引起了廣泛關注。然而,三星電子迅速對此傳聞進行了回應,明確表示該報道并不屬實。
    的頭像 發(fā)表于 08-08 10:06 ?617次閱讀

    三星HBM3e英偉認證,加速DRAM產(chǎn)能轉(zhuǎn)型

    近日,三星電子在半導體領域再傳捷報,其高頻寬內(nèi)存(HBM)產(chǎn)品HBM3e已成功通過全球圖形處理與AI計算巨頭英偉
    的頭像 發(fā)表于 07-18 09:36 ?730次閱讀

    三星電子否認HBM3e芯片通過英偉測試

    韓國新聞源NewDaily近日發(fā)布了一則報道,聲稱三星電子的HBM3e芯片已成功通過英偉的產(chǎn)品測試,預示著即將開啟大規(guī)模生產(chǎn)并向英偉供貨
    的頭像 發(fā)表于 07-05 16:09 ?598次閱讀

    三星否認HBM3E通過英偉測試傳聞

    近期,有媒體報道稱三星電子已成功通過英偉(NVIDIA)的HBM3E(高帶寬內(nèi)存)質(zhì)量測試,并預計很快將啟動量產(chǎn)流程,以滿足市場對高性能存儲解決方案的迫切需求。然而,這一消息迅速遭到了三星電子的官方否認。
    的頭像 發(fā)表于 07-05 15:08 ?732次閱讀

    英偉巨資預訂HBM3E,力拼上半年算力市場

    全球AI芯片領域的激烈競爭中,英偉以其卓越的技術實力和市場影響力,始終保持著領先地位。最近,這家AI芯片大廠再次展現(xiàn)出了其獨特的戰(zhàn)略眼光
    的頭像 發(fā)表于 06-22 16:46 ?974次閱讀

    傳三星HBM3E尚無法通過英偉認證

    三星電子近期正積極投入驗證工作,以確保其HBM3E產(chǎn)品能夠順利供應給英偉。然而,業(yè)界傳出消息,因臺積電在采用標準上存在的某些問題,導致8層HBM3E產(chǎn)品目前仍需要進一步的檢驗。
    的頭像 發(fā)表于 05-17 11:10 ?508次閱讀

    三星電子HBM存儲技術進展:12層HBM3E芯片,2TB/s帶寬HBM4即將上市

    據(jù)業(yè)內(nèi)透露,三星在HBM3E芯片研發(fā)方面遙遙領先其他公司,有能力在2024年9月實現(xiàn)對英偉的替代,這意味著它將成為英偉12層
    的頭像 發(fā)表于 03-27 09:30 ?862次閱讀

    三星獨家供貨英偉12層HBM3E內(nèi)存

    據(jù)最新消息透露,英偉即將從今年9月開始大規(guī)模采購12層HBM3E內(nèi)存,而這次供貨的重任將完全由三星電子承擔。這一消息無疑為業(yè)內(nèi)帶來了不小的震動。
    的頭像 發(fā)表于 03-26 10:59 ?645次閱讀

    美光量產(chǎn)行業(yè)領先的HBM3E解決方案,加速人工智能發(fā)展

    內(nèi)存解決方案。英偉 H200 Tensor Core GPU 將采用美光 8 層堆疊的 24GB 容量 HBM3E 內(nèi)存,并于 2024 年第二季度開始出貨。美光通過這一里程碑進展
    的頭像 發(fā)表于 03-04 18:51 ?1211次閱讀
    美光量產(chǎn)行業(yè)領先的<b class='flag-5'>HBM3E</b>解決方案,加速人工智能發(fā)展

    AMD發(fā)布HBM3e AI加速器升級版,2025年推新款Instinct MI

    目前,只有英偉的Hopper GH200芯片配備了HBM3e內(nèi)存。與現(xiàn)有的HBM3相比,HBM3e的速度提升了50%,單個平臺可以達到10
    的頭像 發(fā)表于 02-25 11:22 ?631次閱讀

    SK海力士預計3月量產(chǎn)HBM3E,供貨英偉

    近日,全球存儲解決方案領導者SK海力士宣布,他們已成功完成了高性能HBM3E(High-Bandwidth Memory 3rd Generation Enhanced)的開發(fā),并且已經(jīng)通過了
    的頭像 發(fā)表于 02-25 11:22 ?939次閱讀

    英偉大量訂購HBM3E內(nèi)存,搶占市場先機

    英偉(NVIDIA)近日宣布,已向SK海力士、美光等公司訂購大量HBM3E內(nèi)存,為其AI領域的下一代產(chǎn)品做準備。也預示著內(nèi)存市場將新一輪競爭。
    的頭像 發(fā)表于 12-29 16:32 ?1053次閱讀