輕薄本AI應(yīng)用深度測(cè)試，銳龍7 7840S大戰(zhàn)酷睿i7-13700H

AI，特別是生成式AI已經(jīng)成為科技圈最熱門的話題之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智腦、通義千問(wèn)……你就算沒(méi)有用過(guò)這些熱門的AI工具，至少也在朋友圈、微博以及其它互聯(lián)網(wǎng)平臺(tái)看到過(guò)關(guān)于它們的資訊。目前生成式AI已經(jīng)在全球范圍內(nèi)引起了廣泛且熱烈的關(guān)注和討論，各行各業(yè)的未來(lái)，幾乎都在向著AI領(lǐng)域前進(jìn)。

對(duì)于x86陣營(yíng)的筆記本電腦來(lái)說(shuō)，AMD今年率先推出Ryzen AI引擎，也率先帶領(lǐng)銳龍筆記本電腦進(jìn)入AI時(shí)代。那么問(wèn)題來(lái)了，和普通筆記本相比，AI筆記本能帶來(lái)怎樣的體驗(yàn)?zāi)兀?/p>

Ryzen AI：AI筆記本的性能基石

從廣義上來(lái)講，AI涵蓋了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等多個(gè)領(lǐng)域，實(shí)現(xiàn)它們的手段主要是依靠機(jī)器學(xué)習(xí)訓(xùn)練和推理。一般來(lái)講，很多機(jī)器學(xué)習(xí)引擎和模型都能在CPU和GPU上運(yùn)行，但對(duì)于筆記本平臺(tái)來(lái)說(shuō)，如果讓CPU或者GPU來(lái)處理機(jī)器學(xué)習(xí)訓(xùn)練和推理任務(wù)，那么CPU或者GPU就會(huì)長(zhǎng)期處于高負(fù)載狀態(tài)，這樣一來(lái)筆記本將更費(fèi)電，而且效率也很低。因此把機(jī)器學(xué)習(xí)訓(xùn)練和推理交給更專業(yè)的“角色”來(lái)做會(huì)是一個(gè)更合理的解決方案，而這個(gè)“角色”就是獨(dú)立的AI引擎。

AMD率先邁出第一步，它在今年1月份就為x86處理器首次帶來(lái)了Ryzen AI，這個(gè)集成在銳龍7040系列移動(dòng)處理器中的AI引擎專為AI運(yùn)算而生。英特爾要在第14代筆記本酷睿Meteor Lake處理器中才會(huì)內(nèi)置一個(gè)神經(jīng)網(wǎng)絡(luò)計(jì)算引擎NPU，也就是要等到下一代才會(huì)有類似的設(shè)計(jì)。

Ryzen AI基于專門設(shè)計(jì)的AMD XDNA AI架構(gòu)，其核心是多個(gè)獨(dú)立的AIE單元，而且與傳統(tǒng)的CPU多核運(yùn)算相比，XDNA AI架構(gòu)有多個(gè)獨(dú)立的內(nèi)存電壓?jiǎn)卧?、?duì)應(yīng)的內(nèi)存控制器并擁有獨(dú)立的高速互連通道，所以它在進(jìn)行AI推理時(shí)更加靈活，效率更高，性能也更強(qiáng)。

Ryzen AI支持不同的AI神經(jīng)網(wǎng)絡(luò)，比如CNN（卷積神經(jīng)網(wǎng)絡(luò)）、RNN（循環(huán)神經(jīng)網(wǎng)）、LSTM（長(zhǎng)短時(shí)記憶）等。此外，它還支持Int8/16/32、BFloat16等各種高級(jí)數(shù)據(jù)類型，同時(shí)它還具備實(shí)時(shí)多任務(wù)能力，可處理最多4條并發(fā)空間流，這意味著它能夠同時(shí)處理多個(gè)AI任務(wù)，提供更高的處理效率。

Ryzen AI是AMD銳龍筆記本的AI性能基石，它在筆記本平臺(tái)主要負(fù)責(zé)輕量級(jí)的AI推理工作負(fù)載，包括音頻、視頻和圖像處理等任務(wù)，能夠比CPU或GPU更高效地執(zhí)行這些任務(wù)，并顯著降低延遲。要知道目前很多AI計(jì)算和應(yīng)用都是通過(guò)云端AI服務(wù)器或者本地GPU來(lái)實(shí)現(xiàn)的，而現(xiàn)在有了x86處理器專屬的Ryzen AI，意味著很多AI計(jì)算可以在非獨(dú)顯筆記本的端側(cè)就能完成。對(duì)于筆記本平臺(tái)來(lái)說(shuō)，Ryzen AI有著出色的能效比和高算力，它能夠?yàn)镃PU或者GPU分憂，發(fā)揮自己高能效的優(yōu)勢(shì)。

輕薄本AI應(yīng)用體驗(yàn)對(duì)比

在筆記本中加入Ryzen AI有什么用？實(shí)際上Ryzen AI主要的任務(wù)是處理AI推理與運(yùn)算，所以在不少專用的場(chǎng)景以及常見的應(yīng)用場(chǎng)景中，它能夠發(fā)揮自己的優(yōu)勢(shì)。比如，Ryzen AI能夠進(jìn)行自然語(yǔ)言處理，使筆記本能夠解讀、處理和理解人類語(yǔ)言。在圖像和視頻處理方面，Ryzen AI也能快速高效地處理圖像和視頻數(shù)據(jù)，完成諸如更換背景、消除噪音、人臉識(shí)別、圖像分類、圖像修復(fù)等任務(wù)。

目前，AMD已經(jīng)和微軟進(jìn)行合作，借助Windows Studio Effects來(lái)提升Windows系統(tǒng)中關(guān)于攝像頭的體驗(yàn)。具體來(lái)說(shuō)，Windows Studio Effects可讓用戶將某些濾鏡和效果應(yīng)用到系統(tǒng)底層的攝像頭和麥克風(fēng)上，以改善用戶在視頻通話期間的外觀和聲音，它們需要神經(jīng)處理單元提供支持。

▲Ryzen AI筆記本支持Windows Studio Effects（左）和不支持該效果的普通筆記本（右）。

在支持Ryzen AI的筆記本上，我們可以快速啟用Windows Studio Effects。最簡(jiǎn)單的方法就是單擊通知區(qū)域圖標(biāo)組打開快捷設(shè)置，選擇“工作室效果”。在默認(rèn)情況下，你會(huì)先看到相機(jī)效果。此時(shí)你可以方便地對(duì)相機(jī)效果（背景虛化、眼神交流、自動(dòng)取景）進(jìn)行設(shè)置。當(dāng)然，你也可以直接在系統(tǒng)的相機(jī)設(shè)置中啟用Windows Studio Effects，這里的設(shè)置項(xiàng)目更加豐富、細(xì)致。我們對(duì)比一下其他沒(méi)有配備Ryzen AI的筆記本就能看到，它的相機(jī)設(shè)置中沒(méi)有背景虛化、眼神交流、自動(dòng)取景等功能，這類筆記本如果要使用這些功能，或許只有借助第三方軟件才行——而這無(wú)疑會(huì)增加系統(tǒng)負(fù)載，并影響續(xù)航。

有了系統(tǒng)底層上的功能支持，就算原生不支持任何視頻效果的軟件（比如TIM）也能在系統(tǒng)開啟相應(yīng)功能之后，得到背景模糊、眼神接觸、自動(dòng)取景等效果。這些基于Windows的高級(jí)功能可以在搭載AMD銳龍7040系列處理器和Ryzen AI的筆記本電腦上直接使用，但目前的酷睿筆記本上則不能使用。

輕薄本AI性能對(duì)比測(cè)試

除了AI應(yīng)用上的不同體驗(yàn)之外，普通筆記本和具有Ryzen AI功能的筆記本在AI性能上有多大的差距呢？我們通過(guò)兩臺(tái)集顯輕薄本來(lái)簡(jiǎn)單對(duì)比一下。AMD平臺(tái)方面，我們選擇聯(lián)想YOGA Air 14s 2023來(lái)測(cè)試，這臺(tái)機(jī)器搭載聯(lián)想定制的AMD銳龍7 7840S處理器。這款處理器基于Zen 4架構(gòu)，采用4nm先進(jìn)制造工藝，配備8核心16線程，最大加速頻率達(dá)到5.1GHz，內(nèi)置Ryzen AI。同時(shí)，這款處理器還內(nèi)置采用RDNA 3架構(gòu)的Radeon 780M顯卡。

聯(lián)想YOGA Air 14s 2023是一款14.5英寸的輕盈本，機(jī)身采用輕薄化設(shè)計(jì)，薄約13.9mm，輕至1.28kg。這臺(tái)機(jī)器采用2944×1840分辨率的PureSight超感OLED屏幕（支持觸控），屏幕刷新率達(dá)到90Hz，并支持100% DCI-P3色域。此外，這臺(tái)機(jī)器還配備70Wh電池，電池續(xù)航支持全天候辦公9.5小時(shí)。接口方面，這臺(tái)機(jī)器也十分齊全，它配備兩個(gè)全能的USB4接口、一個(gè)全功能USB-C 3.2接口以及一個(gè)3.5mm二合一音頻接口，不管是外接多臺(tái)顯示器還是鼠標(biāo)鍵盤，都能滿足用戶的需求。

對(duì)比的英特爾平臺(tái)，我們選擇一款搭載酷睿i7-13700H的14英寸輕薄本，酷睿i7-13700H處理器采用混合架構(gòu)，采用Intel 7生產(chǎn)工藝，配備14核心20線程，最大睿頻頻率達(dá)到5.0GHz，這款處理器內(nèi)置頻率為1.5GHz的英特爾銳炬Xe核顯，其配備96個(gè)EU執(zhí)行單元?？犷7-13700H與銳龍7 7840S處理器最大的不同在于酷睿處理器沒(méi)有專門的AI引擎。此外，對(duì)比的兩個(gè)平臺(tái)都采用32GB雙通道內(nèi)存以及1TB PCIe 4.0 SSD。

理論AI性能方面，我們主要通過(guò)UL AI Inference Benchmark來(lái)測(cè)試，該軟件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神經(jīng)網(wǎng)絡(luò)模型，支持Microsoft Windows ML、Qualcomm SNPE、英特爾OpenVINO和NVIDIA TensorRT等4種SDK，非常權(quán)威和專業(yè)。

從測(cè)試成績(jī)統(tǒng)計(jì)圖可以看到，在Microsoft Windows ML測(cè)試場(chǎng)景下，Ryzen AI加持的銳龍7 7840S平臺(tái)在Float32精度下的CPU測(cè)試分?jǐn)?shù)為107分，相對(duì)于酷睿i7-13700H平臺(tái)的99分，領(lǐng)先大約8%。我們知道GPU也能進(jìn)行AI推理和運(yùn)算，所以再來(lái)看看這兩款處理器內(nèi)置的集顯的表現(xiàn)。用集顯來(lái)進(jìn)行測(cè)試的話，可以看到銳龍7 7840S內(nèi)置的Radeon 780M顯卡得到227分，這樣的成績(jī)領(lǐng)先酷睿i7-13700H內(nèi)置的銳炬Xe集顯大約104%，Radeon 780M顯卡在AI推理和運(yùn)算中的表現(xiàn)可以說(shuō)非常出色。從這個(gè)測(cè)試其實(shí)也能看到，無(wú)論是CPU還是集顯，有著Ryzen AI加成的銳龍7 7840S的AI性能都全面領(lǐng)先于酷睿i7-13700H。

最后再來(lái)看看兩個(gè)平臺(tái)在實(shí)際應(yīng)用中的表現(xiàn)。知名AI應(yīng)用廠商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等軟件已經(jīng)加入了對(duì)Ryzen AI的支持，我們本次通過(guò)Topaz Photo AI來(lái)測(cè)試，Topaz Photo AI主要使用AI技術(shù)來(lái)分析和增強(qiáng)圖像，它可以消除照片噪點(diǎn)、放大照片并提高整體質(zhì)量。

Topaz Photo AI軟件已經(jīng)加入了對(duì)Ryzen AI的支持，不過(guò)由于Ryzen AI集成在CPU中，不會(huì)被軟件單獨(dú)識(shí)別出來(lái)，所以本次對(duì)比測(cè)試時(shí)我們統(tǒng)一在軟件中設(shè)置為使用CPU加速，然后將一張3840×2466分辨率的圖片進(jìn)行放大6倍并用AI來(lái)清除照片噪點(diǎn)，最后來(lái)看兩個(gè)平臺(tái)進(jìn)行這兩項(xiàng)操作的總耗時(shí)，耗時(shí)越短表明其越高效。

可以說(shuō)最終的測(cè)試結(jié)果令人大吃一驚。將一張3840×2466分辨率的圖片放大6倍并清除照片噪點(diǎn)，有著Ryzen AI加成的銳龍7 7840S平臺(tái)僅耗時(shí)10秒就完成了操作，速度非常之快。要知道原始圖片僅1.65MB大小，放大之后的圖片達(dá)到40.9MB，分辨率達(dá)到23040×14796。對(duì)于如此龐大的工作量，銳龍7 7840S平臺(tái)幾乎眨眼間就完成了。相反，沒(méi)有任何AI引擎加成的酷睿i7-13700H平臺(tái)，完成這個(gè)操作需要98秒，妥妥的是純CPU在干活，效率非常低。

Stable Diffusion WebUI繪圖測(cè)試

要說(shuō)目前最火的AI應(yīng)用，除了各種在線的大模型生成式對(duì)話工具之外，以Stable Diffusion為代表的生成式AIGC工具更是受到大家的廣泛追捧。與各類在線AI出圖的工具相比，Stable Diffusion擁有出色的高自由度，同時(shí)也擁有大量免費(fèi)的資源，部署在筆記本本地的話，在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出圖加速方面，GPU相比CPU有著更大的優(yōu)勢(shì)，對(duì)于搭載集顯的輕薄本而言，這主要考驗(yàn)不同平臺(tái)的集顯性能。那么對(duì)于Stable Diffusion本地AI出圖，銳龍7 7840S輕薄本和酷睿i7-13700H輕薄本誰(shuí)的效率更高呢？我們來(lái)實(shí)戰(zhàn)比拼一下。

AUTOMATIC1111的Stable Diffusion WebUI支持通過(guò)DirectML調(diào)用集顯來(lái)加速，因此我們用秋葉aaaki的Stable Diffusion 4.4整合包來(lái)測(cè)試。在整合包的啟動(dòng)器中，我們可以單獨(dú)選擇Radeon 780M和銳炬Xe顯卡進(jìn)行加速。在測(cè)試中，我們采用墨幽1050 2G模型，具體設(shè)置為迭代步數(shù)：20、采樣器：DPM++ 2M Karras、CFG scale：7、圖片分辨率：512×512。

▲Radeon 780M只用57秒就完成了一個(gè)批次單圖的生成。

從測(cè)試結(jié)果來(lái)看，銳龍7 7840S處理器內(nèi)置的Radeon 780M顯卡有著出色的表現(xiàn)，用它進(jìn)行加速，Stable Diffusion WebUI完成一批次單張圖片的生成只用了57秒，而酷睿i7-13700H處理器內(nèi)置的銳炬Xe顯卡則需要3分鐘9秒才能完成，差距非常大，大大出乎我們的預(yù)料。由此可見Radeon 780M在Stable Diffusion WebUI中的表現(xiàn)十分出色。另外，如果我們?cè)O(shè)置為一個(gè)批次連續(xù)生成5張圖的話，Radeon 780M僅耗時(shí)4分鐘51秒就完成了任務(wù)，而銳炬Xe平臺(tái)則根本無(wú)法完成任務(wù)，因?yàn)闇y(cè)試時(shí)程序直接報(bào)錯(cuò)崩潰了。由此可見，在Stable Diffusion本地出圖應(yīng)用中，Radeon 780M的效率遠(yuǎn)高于銳炬Xe，而且它還有更好的穩(wěn)定性和可靠性。對(duì)于集顯輕薄本用戶來(lái)說(shuō)，如果你在平時(shí)或者工作中需要使用Stable Diffusion，又或者想要嘗嘗鮮，那么銳龍本才是更好的選擇。

雙管齊下 輕薄本的AI體驗(yàn)還得看銳龍

今年以來(lái)，大模型和生成式AI已經(jīng)成為科技領(lǐng)域最新的風(fēng)口！科技公司如果不談AI，就像落后了幾個(gè)時(shí)代?；氐絇C領(lǐng)域，此前可能很多人認(rèn)為筆記本，特別是輕薄本無(wú)法勝任AI方面的工作。

▲Topaz Photo AI軟件支持調(diào)用Ryzen AI引擎來(lái)完成AI工作

隨著Ryzen AI的到來(lái)，AMD為我們打開了AI筆記本新世界的大門。在Ryzen AI的加成下，銳龍AI筆記本已經(jīng)能在視頻會(huì)議方面帶來(lái)更出色的體驗(yàn)，也能在Topaz Photo AI、Topaz Video AI等AI應(yīng)用中帶來(lái)更高的效率，相信在未來(lái)也會(huì)有越來(lái)越多的應(yīng)用加入AI功能，并加入對(duì)Ryzen AI的支持。

另一方面，從我們的Stable Diffusion WebUI測(cè)試也能看到，銳龍7040系列移動(dòng)處理器內(nèi)置的RDNA 3顯卡同樣能提供出色的本地AI加速性能，它在Stable Diffusion WebUI中的出圖效率遠(yuǎn)遠(yuǎn)領(lǐng)先于銳炬Xe顯卡，而且連續(xù)出圖的穩(wěn)定性和可靠性也更好。這就是說(shuō)除了專用于AI加速的Ryzen AI，AMD在輕薄本上還有性能強(qiáng)大的RDNA 3 GPU。這個(gè)組合讓銳龍輕薄本具備了全面AI加速的能力。

如果說(shuō)AI是筆記本發(fā)展的未來(lái)，那么從兼容下一代軟件的角度以及AI實(shí)際體驗(yàn)的角度來(lái)看，雙管齊下的銳龍AI筆記本已經(jīng)擁有很好的先發(fā)優(yōu)勢(shì)，這是競(jìng)爭(zhēng)對(duì)手目前還無(wú)法與之相比的。可以說(shuō)，現(xiàn)階段的輕薄本AI體驗(yàn)，還得看銳龍！