大模型非GPU專屬 AMD EPYC秀出CPU AI實(shí)力

12月6日，amd在加利福尼亞州圣何塞舉行的“advancing ai”活動(dòng)中發(fā)布了一系列創(chuàng)新產(chǎn)品，包括mi300、Ryzen ai pc處理器。作為amd未來發(fā)展的關(guān)鍵，amd試圖在所有產(chǎn)品線上實(shí)現(xiàn)ai功能，從大規(guī)模數(shù)據(jù)中心訓(xùn)練和推理解決方案到面向消費(fèi)者的電腦和游戲體驗(yàn)。

amd在高性能計(jì)算（hpc）和數(shù)據(jù)中心領(lǐng)域顯示出持續(xù)的領(lǐng)導(dǎo)能力。amd epyc處理器和amd instinct加速器仍然是世界上許多最創(chuàng)新、最節(jié)能、最快的超級(jí)計(jì)算機(jī)的基本解決方案。

根據(jù)世界超級(jí)計(jì)算機(jī)排名第62屆top500，全體500個(gè)超級(jí)電腦套裝的amd平臺(tái)為140個(gè)，比前年增加了39%。此外，amd根據(jù)green500的最新名單，為世界上能源效率最高的10臺(tái)超級(jí)計(jì)算機(jī)中的8臺(tái)提供了電力。

目前，橡樹國家實(shí)驗(yàn)室使用amd epyc處理器和安裝加速器驅(qū)動(dòng)最先進(jìn)的超級(jí)計(jì)算機(jī)，勞倫斯利弗莫爾國家實(shí)驗(yàn)室也開始安裝超大型超級(jí)計(jì)算機(jī)el capitan。

今天amd發(fā)布了第一個(gè)ai/hpc數(shù)據(jù)中心apu——mi300a，并將zen3 cpu和cdna3 gpu整合到一個(gè)芯片中，使用了hbm3內(nèi)存和第四代infinity fabric高速總線的相互連接。這樣可以簡化結(jié)構(gòu)，簡化程序設(shè)計(jì)。

據(jù)amd介紹，apu具有充分利用集成架構(gòu)優(yōu)勢(shì)的性能潛力。統(tǒng)一內(nèi)存，統(tǒng)一內(nèi)存，共享的infinity母線技術(shù)，動(dòng)態(tài)功耗分布及程序設(shè)計(jì)上的便利性等。

由于這些優(yōu)點(diǎn)，mi300a在openfoam上的工作效率是h100的4倍。peakhpc每瓦的性能比gh200高出2倍。

在hpc等性能上也與h100相似或領(lǐng)先。隨著mi300a的增加，El Capitan將成為世界上第一臺(tái)具備2 exaplop（100億次）分配密度的超級(jí)電腦，同時(shí)也將成為世界上最快的超級(jí)計(jì)算機(jī)。

此外，EPYC本身也能夠具備強(qiáng)大的AI能力。在今年6月份舉辦的“數(shù)據(jù)中心與AI技術(shù)首映”上，AMD針對(duì)云原生負(fù)載進(jìn)行了優(yōu)化，帶來了以吞吐量為導(dǎo)向，擁有最高終端密度和效率的AMD EPYC 9704處理器“Bergamo”，以及面向技術(shù)計(jì)算領(lǐng)域的Genoa-X。其中，Genoa-X的亮點(diǎn)包括領(lǐng)先的5nm工藝節(jié)點(diǎn)技術(shù)、高達(dá)96個(gè)高性能Zen4核心、高達(dá)1.1GB的L3 Cache，兼容SP5插槽等，可以在Ansys CFX中每天完成更多的設(shè)計(jì)任務(wù)，從而大幅加速產(chǎn)品開發(fā)。

在今日活動(dòng)的演示現(xiàn)場，記者看到采用 AMD EPYC 9654處理器運(yùn)行Llama 2大語言模型的展示，在同競品Xeon Platinum 8480的對(duì)比中，處理運(yùn)行速度提升36%。這意味著，在某些場景下，依靠CPU提供的AI算力也能夠進(jìn)行大模型處理，而非僅依靠GPU，這對(duì)于具有較少GPU資源的企業(yè)而言非常具有吸引力，也帶來了成本上的節(jié)省。