讓x86處理器也有AI智能，解讀AMD Ryzen AI引擎

在移動(dòng)處理器市場，AMD銳龍系列處理器憑借更高的性能功耗比、更出色的性能和更好的性價(jià)比，深受不少玩家的喜愛。特別是AMD今年推出的銳龍7040系列移動(dòng)處理器，它集高能效、高性能和4nm先進(jìn)工藝于一身，受到用戶廣泛青睞。實(shí)際上，銳龍7040系列移動(dòng)處理器還有一個(gè)“大殺器”—Ryzen AI引擎。那么，AMD Ryzen AI引擎究竟是什么？它有什么獨(dú)特之處呢？今天我們就來解讀一下。

來自賽靈思的AI引擎：AMD為什么要集成AI引擎？

AMD在AI產(chǎn)業(yè)布局已久，在云端，無論是EPYC系列處理器，還是GPU系列產(chǎn)品，這些面向企業(yè)級(jí)用戶的產(chǎn)品都得到了AI產(chǎn)業(yè)的廣泛認(rèn)可。而在消費(fèi)級(jí)市場，雖然多年以來AI已經(jīng)在手機(jī)等移動(dòng)終端設(shè)備上應(yīng)用的紅紅火火，但是在x86領(lǐng)域，AI應(yīng)用方面的進(jìn)展似乎并不太多。事情的轉(zhuǎn)變發(fā)生在2020年，AMD在這一年宣布以大約500億美元的價(jià)格收購當(dāng)時(shí)FPGA行業(yè)的巨頭賽靈思，也正是這次收購，為AMD在x86領(lǐng)域帶來AI創(chuàng)新的能力和機(jī)會(huì)。

▲AMD收購賽靈思后，不但擁有了FPGA產(chǎn)業(yè)，還快速切入了AI賽道。

在完成收購賽靈思不久之后，AMD就成功地將賽靈思的AI模塊集成到銳龍?zhí)幚砥髦校簿褪俏覀兘裉炜吹降匿J龍7040系列移動(dòng)處理器中的Ryzen AI引擎。這樣的改變，其實(shí)和AMD對(duì)AI行業(yè)發(fā)展的思考有關(guān)。AMD董事會(huì)主席兼CEO蘇姿豐博士就表示，AI是未來十年最重要的事情，可以提高生產(chǎn)力并帶來更多的優(yōu)勢。AMD公司副總裁David McAfee也提到，AI將成為其未來處理器發(fā)展的重要組成部分。由于AI將極大地提高人們的工作效率和生產(chǎn)力，AMD希望其產(chǎn)品能涵蓋從邊緣AI到中間市場，再到云端AI的一切，這就意味著AMD要為所有市場的AI應(yīng)用和AI客戶提供對(duì)應(yīng)的產(chǎn)品。David McAfee認(rèn)為，未來無論你是游戲玩家、創(chuàng)作者還是兩者兼而有之，AI都將在未來幾年不斷深入各種不同的負(fù)載，重塑或者改變這些行業(yè)現(xiàn)有的生態(tài)。

David McAfee還帶來了一些案例，比如游戲中用于更智能NPC的生成式AI，創(chuàng)作者利用AI來自動(dòng)化工作流程并降低復(fù)雜的開發(fā)包的使用門檻，包括但不限于建模、Adobe套件和編程操作等，生成式AI的加入都將極大地改變整個(gè)工作流程。近日，微軟宣布將全面擁抱AI，更為緊密地結(jié)合AI和操作系統(tǒng)，比如微軟的Copilot（副駕駛）系統(tǒng)將帶來操作系統(tǒng)使用上的變革。微軟甚至還將AI視為和鼠標(biāo)被發(fā)明一樣等級(jí)的重要技術(shù)發(fā)明或技術(shù)進(jìn)展。這雖然令人驚訝，但并不意外。

▲微軟通過Copilot大幅度加強(qiáng)了AI在操作系統(tǒng)中的地位

看起來微軟非常激進(jìn)，不過這也說明隨著時(shí)間的推移，人們才能持續(xù)看到AI如何影響所有人的工作流程。AI無疑具有極為驚人的潛能，將改變我們和數(shù)字空間交互的方式，并為每個(gè)人創(chuàng)造一種單獨(dú)、定制化的個(gè)人數(shù)字助手，從而大大改變我們的使用體驗(yàn)。

正是因?yàn)锳I如此的重要，AMD才下決心為自己的處理器加入AI相關(guān)的加速引擎，使得人們在執(zhí)行相關(guān)任務(wù)時(shí)擁有更好的體驗(yàn)。筆記本平臺(tái)擁有專用的AI引擎之后，將帶來三個(gè)方面的優(yōu)勢。一是推理計(jì)算不再需要在云端完成后才給出結(jié)果，延遲更低，體驗(yàn)效果會(huì)更好。二是數(shù)據(jù)安全方面，數(shù)據(jù)不用上傳至云端，而是在本地完成操作，因此數(shù)據(jù)泄露的風(fēng)險(xiǎn)更低。三是未來云資源將越來越昂貴，AMD認(rèn)為本地資源將更為便宜好用，性價(jià)比更高。

▲AMD Ryzen AI引擎擁有三個(gè)獨(dú)特的優(yōu)勢

▲AMD在銳龍7040系列處理器中集成Ryzen AI引擎后帶來了諸多應(yīng)用方面的優(yōu)勢

在集成Ryzen AI引擎之后，AMD銳龍系列移動(dòng)處理器因此擁有諸多優(yōu)勢。首先是它是現(xiàn)有市場上唯一一個(gè)擁有專用AI引擎的x86處理器系列產(chǎn)品，這將很大程度上保證AMD處理器的競爭力。其次微軟在即將到來的操作系統(tǒng)中將加入更多AI方面的應(yīng)用，AMD銳龍系列移動(dòng)處理器將獲得先機(jī)。另外，AI引擎的使用將帶來用戶體驗(yàn)的持續(xù)提升，不斷加入的各類AI應(yīng)用將帶給用戶更多全新、獨(dú)特的體驗(yàn)。

Ryzen AI如何運(yùn)作？AMD統(tǒng)一AI棧 支持XDNA和CPU

由于AI已經(jīng)成為AMD在處理器上的戰(zhàn)略級(jí)功能，因此AMD也在不遺余力地推廣AI相關(guān)的內(nèi)容，并給出了Ryzen AI引擎的一些技術(shù)細(xì)節(jié)，我們一起來看看。

首先是AI相關(guān)的性能。AMD在代號(hào)為Phoenix的銳龍7040系列處理器中集成了Ryzen AI引擎。AMD宣稱Ryzen AI引擎可以執(zhí)行最多4個(gè)實(shí)時(shí)的AI工作流，由于采用專用的硬件模塊，所以還能帶來更好的效率。

▲AMD解釋AI計(jì)算在專用單元上運(yùn)行和傳統(tǒng)CPU上運(yùn)行的差異。

AMD進(jìn)一步解釋，Ryzen AI引擎處理AI相關(guān)任務(wù)是采用神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算的，和傳統(tǒng)計(jì)算在架構(gòu)和模式上都存在巨大的差異。我們知道人工智能最初是由傳統(tǒng)的硬編碼算法創(chuàng)造，并由人類編程完成，而現(xiàn)代的人工智能大多基于神經(jīng)網(wǎng)絡(luò)，數(shù)據(jù)以不同的權(quán)重從一個(gè)神經(jīng)元“流轉(zhuǎn)”至另一個(gè)神經(jīng)元，并通過機(jī)器學(xué)習(xí)進(jìn)行訓(xùn)練，所以采用神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算是更現(xiàn)代、更高效的選擇。

目前AMD在Ryzen AI引擎中使用的硬件部分是賽靈思XDNA架構(gòu)的AI加速模塊，這個(gè)加速模塊的特點(diǎn)在于，其整體采用Mesh架構(gòu)完成，所有的結(jié)構(gòu)單元都互聯(lián)且采用非阻塞分布式架構(gòu)，存儲(chǔ)單元和計(jì)算單元緊密結(jié)合，因此擁有更大的帶寬并且所需容量更低。從AMD給出的示意圖來看，XDNA架構(gòu)最大的特點(diǎn)是AI引擎的計(jì)算部分和存儲(chǔ)部分是綁定在一起的，然后掛接到Mesh網(wǎng)絡(luò)上。這種去中心化的設(shè)計(jì)避開了傳統(tǒng)計(jì)算架構(gòu)的存儲(chǔ)瓶頸，使得神經(jīng)網(wǎng)絡(luò)計(jì)算能夠以更高的效率運(yùn)行。

▲AMD介紹了XDNA架構(gòu)在計(jì)算模式上的優(yōu)化

相比之下，AMD對(duì)比了傳統(tǒng)的基于緩存的計(jì)算架構(gòu)。數(shù)據(jù)通過DRAM、L2緩存、L1緩存后再進(jìn)入不同計(jì)算模塊的不同核心中，從宏觀上來說，這是一個(gè)固定的、共享的互聯(lián)架構(gòu)，內(nèi)存帶寬和速率將成為整個(gè)計(jì)算的瓶頸，數(shù)據(jù)帶寬和延遲將影響整個(gè)計(jì)算的效率。

AMD還介紹了XDNA架構(gòu)在計(jì)算模式上的優(yōu)化。由于神經(jīng)網(wǎng)絡(luò)需要一層一層的計(jì)算，整體路徑和方向在計(jì)算中可能都是無序的，這就意味著計(jì)算架構(gòu)也必須有相應(yīng)的優(yōu)化。XDNA架構(gòu)在互聯(lián)模型上采用了Mesh的全向互聯(lián)架構(gòu)，因此可以進(jìn)行自適應(yīng)配置，實(shí)現(xiàn)自適應(yīng)互聯(lián)，比如案例中L1、L2、L3、L4等針對(duì)的是神經(jīng)網(wǎng)絡(luò)的每一層計(jì)算，在自適應(yīng)互聯(lián)中就可以實(shí)現(xiàn)計(jì)算根據(jù)硬件情況的自適應(yīng)化，從而實(shí)現(xiàn)更高的效率。

▲AMD介紹Ryzen AI引擎的基本架構(gòu)和技術(shù)特性

在相關(guān)計(jì)算能力方面，AMD給出的數(shù)據(jù)顯示，XDNA核心目前可以支持CNN、RNN和LSTM相關(guān)的模型，支持INT8、16、32和BF16格式的數(shù)據(jù)，支持細(xì)粒度時(shí)鐘門控技術(shù)以實(shí)現(xiàn)更出色的能效控制，并支持4個(gè)并發(fā)流同時(shí)進(jìn)行。AMD宣稱Ryzen AI引擎的算力高達(dá)10TOPS。

在基本架構(gòu)方面，AMD給出的示意圖顯示XDNA支持最多4個(gè)DDR內(nèi)存控制器，并通過數(shù)據(jù)總線連接至DMA和NOC。XDNA的內(nèi)部會(huì)被分成一個(gè)個(gè)區(qū)塊，包括20個(gè)AIE區(qū)塊和5個(gè)內(nèi)存區(qū)塊，所有的區(qū)塊都掛接在Mesh總線上形成內(nèi)部的共享、互聯(lián)、非阻塞架構(gòu)。

▲通過AMD Ryzen AI實(shí)時(shí)處理，視頻人物背景被虛化。

AMD給出了在Windows 11中使用Ryzen AI引擎的相關(guān)案例。比如在Windows相機(jī)中，目前操作系統(tǒng)可以調(diào)用Ryzen AI引擎來識(shí)別前景、人物和背景，并進(jìn)行背景虛化、自動(dòng)取景和眼神交流。AMD只是給出了一個(gè)非常簡單的案例，未來微軟和更多其他應(yīng)用還將會(huì)進(jìn)一步調(diào)用AMD Ryzen AI引擎，尤其是微軟在引入了Copilot之后。

▲AMD Ryzen AI引擎的軟件堆棧情況

AMD還提到了有關(guān)AI平臺(tái)軟件方面的內(nèi)容。剛發(fā)布時(shí)，AMD尚未完成有關(guān)XDNA架構(gòu)在軟件方面的全部支持工作，接口只支持CPU和有限的XDNA。不過AMD已經(jīng)構(gòu)建完成了從應(yīng)用到硬件的全部層：從應(yīng)用開始，分別是微軟或者早期開發(fā)人員的一些應(yīng)用服務(wù)，采用ONNX格式和TensorFlow模型，構(gòu)建在AMD統(tǒng)一AI棧上，支持CPU和XDNA進(jìn)行計(jì)算。2023年夏天，AMD通過臨時(shí)版本增加了對(duì)運(yùn)行在IPU上的新操作符的支持，并提供了對(duì)ONNX、PyTorch和TensorFlow模型的量化支持。AMD還承諾，作為在各個(gè)層面簡化人工智能戰(zhàn)略的一部分，2023年晚些時(shí)候，將發(fā)布更多的工具鏈、庫和指南，以簡化人工智能開發(fā)，從訓(xùn)練模型到在由Ryzen AI驅(qū)動(dòng)的系統(tǒng)上對(duì)其進(jìn)行本地部署。另外，AMD還計(jì)劃增加對(duì)Generative AI模型的支持。

硬件支持：大部分AMD銳龍7040系列移動(dòng)處理器具備Ryzen AI引擎

最后我們再來看看AMD Ryzen AI引擎的硬件支持情況。根據(jù)AMD的官方數(shù)據(jù)，目前大部分銳龍7040系列處理器都已經(jīng)配備Ryzen AI引擎。具體說銳龍9 7940HS/H、銳龍7 7840HS/H、銳龍5 7640HS/H等6款處理器都支持Ryzen AI，而銳龍7040U系列只有銳龍7 7840U和銳龍5 7640U兩款處理器支持Ryzen AI。另外，聯(lián)想和AMD合作定制了一款銳龍7 7840S處理器，這款處理器的整體規(guī)格和銳龍7 7840HS/H相當(dāng)，它也支持Ryzen AI。其他的銳龍5 7540U、銳龍5 7545U、銳龍3 7440U等處理器則不支持Ryzen AI引擎。

總的來說，AMD根據(jù)AI產(chǎn)業(yè)發(fā)展以及行業(yè)技術(shù)發(fā)展趨勢迅速將AI相關(guān)技術(shù)整合到銳龍7040系列移動(dòng)處理器中，實(shí)現(xiàn)了處理器發(fā)展和AI產(chǎn)業(yè)發(fā)展的深度融合，使得AMD相關(guān)產(chǎn)品成為目前市場上唯一一個(gè)能夠?qū)崿F(xiàn)AI硬件加速的x86平臺(tái)，為消費(fèi)者帶來了x86平臺(tái)獨(dú)家的AI加速體驗(yàn)，也為未來軟件和操作系統(tǒng)的進(jìn)一步發(fā)展打好了基礎(chǔ)，值得消費(fèi)者嘗試和體驗(yàn)。