GTC23 | 節(jié)能提速：NVIDIA Grace CPU 為每個數(shù)據(jù)中心鋪設(shè)節(jié)能計算快車道

主流應(yīng)用在運行微服務(wù)、分析、模擬等工作時的能耗相比 X86 減少了 2 倍。

各項結(jié)果都表明，一個節(jié)能計算的新時代正在到來。

在真實工作負(fù)載測試中，NVIDIA Grace CPU 超級芯片在相同的功率范圍內(nèi)運行主流數(shù)據(jù)中心 CPU 應(yīng)用的性能比 X86 處理器提高了 2 倍，這將帶來許多新的可能性。

這意味著數(shù)據(jù)中心可以處理兩倍的峰值流量并減少多達(dá)一半的電費。它們還可以在空間有限的網(wǎng)絡(luò)邊緣實現(xiàn)更大的性能，甚至可以同時實現(xiàn)上述優(yōu)勢。

節(jié)能已成為數(shù)據(jù)中心的優(yōu)先事項

數(shù)據(jù)中心經(jīng)理需要依靠這些方案在當(dāng)今這個節(jié)能時代中快速發(fā)展。

摩爾定律實際上已經(jīng)過時。物理學(xué)不再允許工程師在保持空間和功耗不變的情況下加入更多的晶體管。

這就是為什么新一代 X86 CPU 的性能提升相比前一代產(chǎn)品還不到 30%”，這也是為什么越來越多的數(shù)據(jù)中心設(shè)置了功率上限。

再加上全球氣候變暖的威脅，數(shù)據(jù)中心電力供應(yīng)已經(jīng)沒有增容的余地，但它們?nèi)匀恍枰獫M足不斷增長的算力需求。

在保持功耗不變的情況下提高性能

麥肯錫的一項研究顯示，美國的計算需求每年增長 10%，并將在 2022 至 2030 年的八年內(nèi)翻倍。

麥肯錫表示：“因此，確保數(shù)據(jù)中心可持續(xù)性的壓力很大，一些監(jiān)管機(jī)構(gòu)和政府正在對新建的數(shù)據(jù)中心推行可持續(xù)性標(biāo)準(zhǔn)。”

根據(jù)麥肯錫所引用的一項調(diào)查，隨著摩爾定律的終結(jié)，數(shù)據(jù)中心在計算效率上的進(jìn)展已停滯不前（見下圖）。

在當(dāng)今的環(huán)境下，NVIDIA Grace 所實現(xiàn)的 2 倍提升等于實現(xiàn)了驚人的多代飛躍，符合當(dāng)今數(shù)據(jù)中心高管的需求。

全球服務(wù)商 Equinix 管理著 240 多座數(shù)據(jù)中心。該公司的邊緣基礎(chǔ)設(shè)施負(fù)責(zé)人 Zac Smith 在一篇關(guān)于節(jié)能計算的文章中描述了這些需求。

“我們需要在減少碳排放的前提下提高性能。”Zac 表示：“我們有 1 萬家客戶指望我們在這個過程中提供幫助。他們需要更多的數(shù)據(jù)和更高的智能化水平，而且往往要求使用 AI。另外，他們希望以可持續(xù)的方式來實現(xiàn)這一目標(biāo)?！?/p>

三項 CPU 創(chuàng)新

得益于三項創(chuàng)新，Grace CPU 提供了高效性能。

它在一塊對分帶寬（一項吞吐量指標(biāo)）為 3.2 TB/s 的裸芯片中使用一種超快的結(jié)構(gòu)將 72 個 Arm Neoverse V2 核心連接在一起，然后使用 NVIDIA NVLink-C2C 互連技術(shù)在一個超級芯片封裝中連接其中的兩塊裸片，實現(xiàn) 900GB/s 的帶寬。

最后，它是第一個使用服務(wù)器級 LPDDR5X 內(nèi)存的數(shù)據(jù)中心 CPU。這幫助它在成本相仿的情況下增加了高達(dá) 50%的內(nèi)存帶寬，且功耗只有常規(guī)服務(wù)器內(nèi)存的八分之一。緊湊的尺寸使其密度比典型的卡式內(nèi)存設(shè)計增加了 2 倍。

與現(xiàn)有的 x86 CPU 相比，NVIDIA Grace 的設(shè)計更加簡單，提供更高的帶寬，而且能耗更低。

首批結(jié)果揭曉

現(xiàn)今，NVIDIA 工程師在 Grace 上運行了真實的數(shù)據(jù)中心工作負(fù)載。

他們發(fā)現(xiàn)，在相同的功率下，相比數(shù)據(jù)中心現(xiàn)有的 x86 CPU，Grace 更具優(yōu)勢：

• 運行微服務(wù)的速度快 2.3 倍

• 內(nèi)存密集型數(shù)據(jù)處理性能快 2 倍

• 在多個技術(shù)計算應(yīng)用上運行流體力學(xué)計算工作時，速度快 1.9 倍

如下圖所示，數(shù)據(jù)中心通常需要等到兩代或兩代以上的 CPU 才能獲得以上優(yōu)勢。

凈提升（淺綠色）來自于服務(wù)器間的性能提升（深綠色）以及附加的 Grace 服務(wù)器。憑借節(jié)能性，Grace 服務(wù)器適用于這一 x86 功率范圍（中間條）。

甚至在這些 CPU 工作結(jié)果出爐之前，用戶就對 Grace 的創(chuàng)新做出了反應(yīng)。

美國洛斯阿拉莫斯國家實驗室在 5 月宣布將在 Venado 中使用 Grace。這臺 10 EXAFLOP AI 超級計算機(jī)將推動該實驗室在材料科學(xué)和可再生能源等領(lǐng)域的工作。同時，歐洲和亞洲的數(shù)據(jù)中心正在評估 Grace 的工作負(fù)載。

NVIDIA Grace 目前正在提供樣品，將在下半年投入生產(chǎn)。華碩、Atos、技嘉、慧與、高通、超微、緯創(chuàng)和 ZT Systems 正在建造使用該產(chǎn)品的服務(wù)器。

深入了解可持續(xù)計算

想要深入了解細(xì)節(jié)，掃描二維碼閱讀關(guān)于 Grace 架構(gòu)的白皮書。

? ? ?

3 月 24 日 下午 14：00-16：00，繼續(xù)鎖定 GTC23，加入在線觀看（Watch Party） 派對，從黃仁勛與 OpenAI 創(chuàng)始人兼首席科學(xué)家高能對話中，看 AI 的現(xiàn)狀和未來！

Watch Party 觀看指南

會議開始前 15 分鐘，

點擊下方出現(xiàn)的“JOIN WATCH PARTY NOW"

進(jìn)入 Teams 會議室觀看

3 月 24 日 熱門觀看派對推薦： 【爐邊談話：看 AI 的現(xiàn)狀和未來】 會議時間：14：00 - 16：00 會議代碼：【W(wǎng)P52092】點擊下方鏈接了解會議詳情： GTC23 | 黃仁勛與 Ilya Sutskever 的爐邊談話重磅來襲！— 看 AI 的現(xiàn)狀和未來 【通過 AI 職業(yè)生涯改變世界】 會議時間：19:30 - 21:30 會議代碼：【W(wǎng)P52162】 點擊下方鏈接了解會議詳情 ： GTC23 | 科學(xué)計算精選論壇中文解讀誠邀您的到來！