高性能計算 (HPC) 已成為我們現(xiàn)代世界的重要組成部分,執(zhí)行對科學(xué)研究、工程、安全和其他領(lǐng)域至關(guān)重要的復(fù)雜模擬和計算。然而,隨著對HPC的需求不斷增長,通常是在超級計算機(jī)和大型數(shù)據(jù)中心,對其環(huán)境影響的擔(dān)憂也在增加。近年來,鑒于對總擁有成本和氣候問題的影響,人們越來越關(guān)注數(shù)據(jù)中心的可持續(xù)性。在這篇博文中,我們將探討有關(guān)數(shù)據(jù)中心能效的一些關(guān)鍵問題,并討論 AMD 幫助減少 HPC 對環(huán)境的影響的一些策略。
數(shù)據(jù)中心面臨的最大挑戰(zhàn)之一是當(dāng)您擴(kuò)展到百萬兆次級及更高規(guī)模時,它們的能耗。服務(wù)器節(jié)點消耗大量能量,HPC 需要更多能量,其所有 CPU 和加速器,這使得提高效率成為重要優(yōu)先事項。隨著對 HPC 計算需求的不斷增加,我們遇到了能耗是一個門控因素的情況。這種能源消耗不僅給環(huán)境帶來了壓力,也給數(shù)據(jù)中心運營商的底線帶來了壓力,因為行業(yè)需要更多的計算性能。因此,隨著行業(yè)邁向下一個里程碑,需要大幅提高每瓦性能。
由于 AMD 是尖端服務(wù)器 CPU 和 GPU 的設(shè)計者,我們認(rèn)識到我們在解決這些關(guān)鍵優(yōu)先事項方面的重要作用。我們專注于提高服務(wù)器能效,降低數(shù)據(jù)中心總擁有成本 (TCO),并提供高性能計算 (HPC),以幫助應(yīng)對世界上一些最嚴(yán)峻的挑戰(zhàn)。早在 2021 年 2 月,AMD 就宣布了一個雄心勃勃的目標(biāo),即提高運行處理器的能效......要實現(xiàn)這一目標(biāo),AMD 需要以比過去五年中全行業(yè)總體改進(jìn)快 5.<> 倍以上的速度提高計算節(jié)點的能效。
AMD Instinct? 加速器通過在設(shè)備和系統(tǒng)級別提供卓越的每瓦性能,從而實現(xiàn)高能效的 HPC 和 AI,從而提高計算的能效。要實現(xiàn) AMD HPC 和 AI 能效目標(biāo),需要圍繞架構(gòu)、內(nèi)存和互連進(jìn)行更高水平的思考,這些架構(gòu)、內(nèi)存和互連相結(jié)合,可加速系統(tǒng)級改進(jìn)。對于我們的 AMD Instinct MI200 系列加速器,我們從多方面的角度看待它,我們將在下面更詳細(xì)地解釋一些關(guān)鍵技術(shù),以實現(xiàn)每瓦特和效率的領(lǐng)先性能。
架構(gòu)技術(shù) – MI2 系列中的 AMD CDNA? 200 架構(gòu)通過增強(qiáng)面向 HPC 和 AI 的矩陣核心技術(shù),推動雙精度浮點數(shù)據(jù)和各種矩陣乘法基元的計算能力,代表了與上一代產(chǎn)品相比的重大飛躍。一個特別強(qiáng)調(diào)的是使用FP64矩陣和矢量數(shù)據(jù)的科學(xué)計算,以便在橡樹嶺國家實驗室前沿超級計算機(jī)等大型系統(tǒng)中擴(kuò)展時實現(xiàn)百萬兆次級的性能,性能為1.1 exaflops。與上一代 MI4 CDNA 架構(gòu)相比,這些改進(jìn)使 FP64 矢量 TFLOP/s 和 2.5 倍 FP64 TFLOPS/瓦特相應(yīng)提高了 100 倍,從而提高了每瓦性能。
封裝技術(shù) – 小芯片和先進(jìn)的封裝技術(shù)是提高性能和整體效率的巨大杠桿。它們允許您將不同的技術(shù)用于不同的功能,組合多個加速器芯片,并使加速器更接近內(nèi)存等?;ミB密度越密集,解決方案的效率就越高,并有助于降低昂貴的數(shù)據(jù)傳輸能耗。
MCM - 全球首款多芯片 GPU,旨在通過單個封裝最大限度地提高計算和數(shù)據(jù)吞吐量。MI250 和 MI250X 在單個封裝中使用兩個 AMD CDNA 2 圖形內(nèi)核芯片 (GCD),在高度精簡的封裝中提供 58 億個晶體管,與 AMD 上一代加速器相比,內(nèi)核數(shù)量增加了 1.8 倍,內(nèi)存帶寬提高了 2.6 倍 。兩個GCD通過高速接口連接在一起,用于芯片到芯片的通信。
高架扇出橋 – 將 AMD CDNA 芯片連接到基板上各自的 HBM2E 內(nèi)存堆棧,這可以降低復(fù)雜性并提高可擴(kuò)展性,同時降低成本。傳統(tǒng)上,硅中介層部署有微凸塊以支持高密度互連。這種方法需要一個大的硅襯底來支撐上面的整個硅加HBM組件。
通信技術(shù) – 在開發(fā)高性能計算機(jī)時,通信是處理大量數(shù)據(jù)的關(guān)鍵。在處理器和外部世界之間高效移動數(shù)據(jù)的能力對于向上和向外擴(kuò)展的系統(tǒng)性能也至關(guān)重要。將硅芯片在物理和電氣上更緊密地結(jié)合在一起,可以大大降低通信能量,同時提供更高的吞吐量潛力。AMD Infinity 架構(gòu)是我們在 CPU 和 GPU 以及 GPU 到 GPU 之間的高速通信高速公路,我們將在加速器中討論提高通信效率的兩個領(lǐng)域。
芯片到芯片互連 - 封裝內(nèi) AMD 無限結(jié)構(gòu)?接口是 AMD CDNA 2 系列的關(guān)鍵創(chuàng)新之一,可連接 MI2 或 MI250X 中的 250 個 GCD。它利用封裝內(nèi) GCD 之間的極短距離,以 25 Gbps 和極低的功耗運行,在 GCD 之間提供高達(dá) 400 GB/s 的理論最大雙向帶寬。
Infinity Architecture – 最新的 AMD Instinct 產(chǎn)品使用我們的第 3 代 Infinity Fabric,與上一代產(chǎn)品相比有了顯著的改進(jìn)。MI200 系列為 AMD Instinct? MI8(或 MI2X)加速器上的 GPU P250P 或 I/O 提供多達(dá) 250 個外部無限結(jié)構(gòu)?鏈路,提供高達(dá) 800 GB/s 的總理論帶寬,提供高達(dá) 235% 的 GPU P2P(或 I/O)理論帶寬性能,是上一代產(chǎn)品 (3)。
結(jié)論
如今,AMD 使用我們當(dāng)前的 EPYC(霄龍)和本能處理器和加速器為一些最高效的超級計算機(jī)提供支持。Green500 是超級計算機(jī)的行業(yè)排名,每年兩次通過測量每瓦性能按能效排名。AMD 在最新的 2 年 7 月 Green2023 名單上保持著 #500 到 #<> 的位置,這證明了 AMD CPU 和 GPU 技術(shù)不僅提供了一些最強(qiáng)大的超級計算機(jī),而且還提供了名單上一些最節(jié)能的超級計算機(jī)。
為了推動Zetascale的未來計算里程碑,需要圍繞架構(gòu)、內(nèi)存和互連進(jìn)行更高水平的思考,這些架構(gòu)、內(nèi)存和互連相結(jié)合,以加速系統(tǒng)級改進(jìn)。AMD 已經(jīng)邁出了第一步,將關(guān)鍵部分組合成一個新的加速器,其中包括最好的 AMD EPYC(霄龍)? CPU 和 AMD 本能?加速器,旨在實現(xiàn)比之前的 MI250 設(shè)計更高的代際效率和性能提升。這款名為 MI300 的全新 AMD Instinct 加速器將成為全球首款結(jié)合 CPU + GPU + 共享 HBM 的集成數(shù)據(jù)中心 APU,并提供突破性的架構(gòu),為未來的百萬兆次級 AI 和 HPC 超級計算機(jī)提供動力。正是 MI300 上的單片集成利用了剛才討論的所有方法,實現(xiàn)了比之前的 MI250 設(shè)計更大的代際效率提升。
總之,長期提高計算機(jī)能效對于降低運營成本和推進(jìn)高性能計算機(jī)、超級計算機(jī)和數(shù)據(jù)中心的可持續(xù)發(fā)展目標(biāo)非常重要。AMD Instinct 團(tuán)隊致力于解決設(shè)備和系統(tǒng)級別的每瓦性能問題,從而提高計算效率并推進(jìn)數(shù)據(jù)中心對 HPC 和 AI 的可持續(xù)性。
審核編輯:郭婷
-
cpu
+關(guān)注
關(guān)注
68文章
10891瀏覽量
212446 -
加速器
+關(guān)注
關(guān)注
2文章
804瀏覽量
37980 -
服務(wù)器
+關(guān)注
關(guān)注
12文章
9262瀏覽量
85780
發(fā)布評論請先 登錄
相關(guān)推薦
評論