AMD披露高效數(shù)據(jù)中心策略，預(yù)計至2027年能效提升超百倍

AMD首席執(zhí)行官蘇姿豐出席imec ITF World 2024大會并榮獲創(chuàng)新獎，此項榮譽旨在肯定其卓越創(chuàng)新及引領(lǐng)行業(yè)發(fā)展之貢獻。先前同樣獲得該獎項的還有戈登·摩爾和比爾·蓋茨。

會議期間，蘇姿豐談?wù)摿薃MD如何通過實施30x25戰(zhàn)略推動2025年計算節(jié)點能效提升30倍的目標。她進一步透露，AMD已找到2026年至2027年間將能效提升100倍以上的解決方案。

隨著生成式AI LLM如ChatGPT的崛起，AI功耗問題日益凸顯。AMD早在2021年便洞察到AI龐大功耗需求所引發(fā)的挑戰(zhàn)，并以此為契機啟動30x25戰(zhàn)略，致力于提升數(shù)據(jù)中心計算節(jié)點能效，尤其針對AI和HPC的高能耗問題。

隨著訓練模型所需算力不斷攀升，AI功耗問題愈發(fā)嚴峻。蘇姿豐指出，早期圖像和語音識別AI模型體積每兩年翻番，與過去十年計算能力提升速度相當。然而，生成式AI模型規(guī)模現(xiàn)今正以每年20倍的速度擴張，遠超計算和存儲進步速度。盡管當前最大模型需借助數(shù)萬個GPU進行訓練，耗費數(shù)萬兆瓦時電力，但未來模型規(guī)模迅速擴大后，或需動用數(shù)十萬個GPU，甚至數(shù)吉瓦時電力進行訓練。

為了提升能效，AMD采取了全方位策略，涵蓋硅架構(gòu)升級、先進封裝策略、AI專用架構(gòu)設(shè)計、系統(tǒng)及數(shù)據(jù)中心級調(diào)整，以及軟硬件協(xié)同設(shè)計等多個層面。

硅材料無疑是基礎(chǔ)。蘇姿豐強調(diào)，AMD正在推進3nm GAA晶體管研發(fā)，旨在提升功率效率和性能，同時持續(xù)關(guān)注先進封裝和互聯(lián)技術(shù)，以實現(xiàn)更高效、經(jīng)濟的模塊化設(shè)計。先進封裝在突破單芯片封裝性能瓶頸方面具有重要意義，AMD采用2.5D和3D封裝混合技術(shù)，最大化每平方毫米數(shù)據(jù)中心硅片的計算能力。

在服務(wù)器節(jié)點與服務(wù)器機架間傳輸數(shù)據(jù)因距離過長導致額外電力消耗，優(yōu)化數(shù)據(jù)局部性可大幅節(jié)約能源。AMD MI300X展示了大規(guī)模芯片封裝所帶來的效率優(yōu)勢——該芯片包含1530億個晶體管，分布在12個芯片上，配備24個HBM3芯片，提供192GB存儲容量，均可作為本地內(nèi)存供GPU使用。此外，封裝內(nèi)單元間經(jīng)功率和性能優(yōu)化的Infinity Fabric互連，使得極高的計算和存儲密度能夠?qū)⒏鄶?shù)據(jù)保存在接近處理核心的位置，從而降低數(shù)據(jù)傳輸所需能量。