2023年8月8日,NVIDIA創(chuàng)始人兼CEO黃仁勛在計算機圖形年會SIGGRAPH上發(fā)布了HBM3e內(nèi)存新一代GH200 Grace Hopper超級芯片。這款芯片被黃仁勛稱為“加速計算和生成式AI時代的處理器”,旨在用于任何大型語言模型,以降低推理成本。
與今年5月發(fā)布的GH200不同,新一代GH200芯片搭載了全球首款HBM3e內(nèi)存,內(nèi)存容量和帶寬都有顯著提高,專為加速計算和生成式AI時代而設計。
新版GH200芯片平臺基于72核Grace CPU,配備480GB ECC LPDDR5X內(nèi)存以及GH100計算GPU。此外,它還搭配著141GB的HBM3e內(nèi)存,分為六個24GB的堆棧,并采用了6,144位的內(nèi)存接口。盡管實際上NVIDIA安裝了144GB的內(nèi)存,但可用的內(nèi)存容量為141GB。
借助全球最快的HBM3e內(nèi)存,這款芯片的內(nèi)存容量高達141GB,帶寬每秒可達到5TB。每個GPU的容量比NVIDIA H100 GPU多出1.7倍,帶寬比H100高1.55倍。
NVIDIA強調(diào),新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片,因此無需推出新的軟件版本或步進。原版GH200和升級版GH200將共存于市場,后者將以更高的價格銷售,因為它具備更先進的內(nèi)存技術帶來的更高性能。
NVIDIA表示,新版GH200旨在處理世界上最復雜的生成式AI工作負載,包括大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫,并將提供多種配置。預計新版GH200將于2024年第二季度投產(chǎn)。
編輯:黃飛
-
處理器
+關注
關注
68文章
19286瀏覽量
229808 -
NVIDIA
+關注
關注
14文章
4986瀏覽量
103046 -
gpu
+關注
關注
28文章
4739瀏覽量
128941 -
內(nèi)存
+關注
關注
8文章
3025瀏覽量
74042 -
AI
+關注
關注
87文章
30887瀏覽量
269062 -
生成式AI
+關注
關注
0文章
504瀏覽量
474 -
HBM3
+關注
關注
0文章
74瀏覽量
154 -
HBM3E
+關注
關注
0文章
78瀏覽量
259
發(fā)布評論請先 登錄
相關推薦
評論