我們普通人和大模型的距離有多遠(yuǎn)?AI發(fā)展到2024年,已經(jīng)附著在各種智能硬件上了,什么AI PC,AI手機(jī),AI藍(lán)牙音箱,AI學(xué)習(xí)機(jī),AI鼠標(biāo)等等,但其實(shí)雖然很多產(chǎn)品加上了個(gè)AI的名頭,但用起來(lái)總讓人想罵一句“人工智障”。手機(jī)、音箱里的“小藝小愛(ài)”們,只能做些約定俗成框架里的事,目前用起來(lái)是沒(méi)感覺(jué)他能學(xué)習(xí)的。但AI PC貌似可以走完我與大模型的“最后一公里”,讓每一個(gè)普通人都能夠擁有昂貴的大模型。
主流AI PC芯片盤(pán)點(diǎn)及應(yīng)用情況
2023年9月,AI PC的概念被首次提出,到2024年2月,英特爾在 MWC 2024 上表示,將會(huì)和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超過(guò) 100 款搭載英特爾最新AI PC芯片的商用筆記本電腦、臺(tái)式機(jī)、一體機(jī)和入門(mén)工作站。在AI PC概念逐漸被市場(chǎng)認(rèn)可后,各大老牌芯片巨頭都緊跟推出新品。10 月,AMD Ryzen 7040系列筆記本電腦配備了基于Xilinx IP的專(zhuān)用AI引擎,名為“Ryzen AI”,可以加速 PyTorch和TensorFlow等機(jī)器學(xué)習(xí)框架的運(yùn)行;同為10月,高通針對(duì)AI PC發(fā)布X Elite芯片;2024年1月,NVIDIA推出三款裝載額外裝置的全新顯卡,稱(chēng)用戶可以在“AI PC”上使用AI功能。目前,英特爾、高通、AMD、蘋(píng)果等芯片處理器廠商已推出針對(duì)AI PC的處理器,聯(lián)想、華碩、戴爾、榮耀等品牌廠商也在積極推動(dòng)AI PC的發(fā)展。
雖然有各種各樣的AI PC的處理器,但基本上各廠商通用計(jì)算架構(gòu)都采用了“CPU+GPU+NPU”的異構(gòu)方案。
圖注:高通、英特爾、AMD的AI PC處理器
大模型的本地運(yùn)行需要強(qiáng)大的AI算力,因此,在傳統(tǒng)的CPU+GPU方案里加多了一個(gè)嵌入式神經(jīng)網(wǎng)絡(luò)處理器—NPU。NPU是一種專(zhuān)門(mén)用于處理人工神經(jīng)網(wǎng)絡(luò)計(jì)算的計(jì)算機(jī)微處理器,用于深度學(xué)習(xí),對(duì)神經(jīng)網(wǎng)絡(luò)工作負(fù)責(zé)進(jìn)行憂化。CPU做主控、GPU 做渲染、NPU 做 AI 加速,三種芯片結(jié)合,能實(shí)現(xiàn)更快速、更高效率的邊緣AI模型推理。
高通用驍龍X Elite殺進(jìn)PC領(lǐng)域,英特爾占領(lǐng)AI PC市場(chǎng)氣勢(shì)很足
微軟宣布其AI PC的最低算力為40 TOPS,目前市場(chǎng)上的英特爾酷睿Ultra (34 TOS) 和AMD 銳龍 8040 (39 TOPS)都不能滿足這一標(biāo)準(zhǔn)。除了裝有AI專(zhuān)用顯卡的筆記本之外,目前只有高通的驍龍X Elite(45 TOPS)能達(dá)到這性能要求。據(jù)預(yù)期,2024年下半年推出的AMD 銳龍8050和英特爾Ultra 200這兩款處理器也將符合微軟規(guī)定的40 TOPS。
從算力來(lái)看,高通確實(shí)是領(lǐng)先于目前其他AI PC處理器一步,但英特爾在PC芯片上的生態(tài)地位難以撼動(dòng),而在驍龍X Elite之前,高通在PC領(lǐng)域一直沒(méi)有太大聲響。然而在驍龍X Elite的發(fā)布會(huì)上,高通很狂,拉出蘋(píng)果和AMD出來(lái)比較,喊話“我們單線程性能超越了蘋(píng)果 M2 Max!并且同性能功耗比蘋(píng)果還低 30%!” “英特爾也是一樣”“比 AMD 的核顯還強(qiáng) 80%!”
圖注:高通發(fā)布會(huì)上拿英特爾i9-13980HX進(jìn)行對(duì)比功耗
圖注:高通發(fā)布會(huì)上拿AMD Ryzen 9-7940HS進(jìn)行對(duì)比GPU性能
PPT數(shù)據(jù)很強(qiáng)大,也有很多PC OEM廠商會(huì)搭載,微軟、聯(lián)想、惠普、宏碁、華碩、三星等筆記本傳統(tǒng)玩家,還有小米和榮耀。
同樣有許多PC OEM站臺(tái)的還有英特爾,英特爾在 MWC 2024 上推出全新的 vPro 平臺(tái),涵蓋新款酷睿 Ultra 和第 14 代處理器,介紹 是一個(gè)商業(yè)計(jì)算平臺(tái),主要面向企業(yè)用戶,將會(huì)和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超過(guò) 100 款搭載英特爾最新芯片的商用筆記本電腦、臺(tái)式機(jī)、一體機(jī)和入門(mén)工作站。這羅列的商家和數(shù)據(jù),頗有一種占領(lǐng)PC市場(chǎng)的野心和氣勢(shì)。
AMD Ryzen AI產(chǎn)品已經(jīng)開(kāi)始出貨
AMD的AI產(chǎn)品組合涵蓋云端、高性能計(jì)算、企業(yè)級(jí)、PC、嵌入式等應(yīng)用,其AI 戰(zhàn)略基于三個(gè)關(guān)鍵要素:產(chǎn)品、架構(gòu)和開(kāi)放生態(tài)系統(tǒng)。
集成AI引擎的Ryzen 7040、8040、8045等移動(dòng)系列CPU是產(chǎn)品組合中的一部分,其中,Ryzen 8040系列已經(jīng)開(kāi)始出貨,相關(guān)終端會(huì)在Q1上市。此外,AMD還有Ryzen 8000G系列桌面APU產(chǎn)品,同樣基于臺(tái)積電4nm制程,均提供最多8個(gè)Zen4架構(gòu)的CPU核心,集成有最高768SP配置的RDNA3架構(gòu)核顯,可支持硬件光追和AFMF技術(shù)。
目前,基于Ryzen AI技術(shù)的產(chǎn)品已經(jīng)被用于聯(lián)想、華碩、宏碁等品牌電腦中,這些AI PC通過(guò)Ryzen系列產(chǎn)品內(nèi)置的神經(jīng)處理單元(NPU)提供低功耗、高效率的AI計(jì)算能力,加快圖片和視頻處理、語(yǔ)音識(shí)別、文字轉(zhuǎn)錄等AI相關(guān)的本地應(yīng)用處理速度,從而提升用戶的生產(chǎn)力和娛樂(lè)體驗(yàn)。
Arm架構(gòu)或受益于AI PC浪潮
相比x86架構(gòu),Arm的優(yōu)勢(shì)在于低成本、低功耗、日益加強(qiáng)的性能和系統(tǒng)通用性以及海量終端設(shè)備生態(tài),這些優(yōu)勢(shì)有望在移動(dòng)終端AI PC上得到發(fā)揮。Counterpoint Research預(yù)測(cè),隨著Arm芯片迭代及性能持續(xù)提升,蘋(píng)果、三星、聯(lián)發(fā)科等國(guó)際大廠紛紛試水基于Arm架構(gòu)的PC芯片,未來(lái)Arm有望于2027年占據(jù)全球Notebook CPU/SoC出貨量25%的市場(chǎng)份額。前文提到的高通驍龍X Elite處理器,其內(nèi)部的Oryon CPU是由高通公司開(kāi)發(fā)的基于Arm指令集的完全定制化設(shè)計(jì)的處理器核心。不同于傳統(tǒng)的Arm Cortex公版架構(gòu),Oryon是高通在收購(gòu)NUVIA后推出的全新CPU內(nèi)核,專(zhuān)為提升移動(dòng)計(jì)算和筆記本電腦等設(shè)備的性能及能效而打造。另外有消息稱(chēng),NVIDIA和AMD已經(jīng)開(kāi)始設(shè)計(jì)基于Arm的PC芯片,并將運(yùn)行Windows操作系統(tǒng),并最早在2025年推出。而在此之前,微軟首款Surface平板電腦Surface RT采用了NVIDIA基于Arm的Tegra處理器,但Windows RT未能產(chǎn)生太大市場(chǎng)反響。根據(jù)外媒Windows Central的一份報(bào)告顯示,Microsoft正準(zhǔn)備使用新的AI功能升級(jí)其Surface產(chǎn)品線,或于2024年發(fā)布的 Surface Pro 10 和 Surface Laptop 6 將配備下一代神經(jīng)處理單元 (NPU),并具有英特爾和Arm處理器兩種選項(xiàng)。在更遠(yuǎn)的2025年還可能會(huì)有更新的 Surface Laptop Studio。微軟很早就在其產(chǎn)品中支持Arm架構(gòu)處理器,Windows RT是微軟最早嘗試在Arm架構(gòu)上運(yùn)行Windows的一個(gè)版本,最新的Windows 11繼續(xù)支持Arm架構(gòu),并且在兼容性、性能和用戶體驗(yàn)上進(jìn)行了改進(jìn),支持更多應(yīng)用程序原生運(yùn)行在Arm設(shè)備上,同時(shí)通過(guò)模擬技術(shù)讓更多x64應(yīng)用可以在Arm設(shè)備上運(yùn)行。微軟還與高通、三星等硬件制造商合作,推出了多款搭載Arm處理器并運(yùn)行Windows 10 on ARM系統(tǒng)的設(shè)備,如搭載高通驍龍系列處理器的始終連接PC(Always Connected PCs),這些設(shè)備結(jié)合了智能手機(jī)的長(zhǎng)久續(xù)航和始終在線的特點(diǎn)與PC生產(chǎn)力工具屬性。微軟在AI PC生態(tài)中除了廣泛硬件兼容,還具有一個(gè)比較重要的產(chǎn)品,也就是AI助手Copilot,其賦予了用戶全新的交互方式,讓AI更加緊密地融入個(gè)人電腦的操作和使用過(guò)程中,使得AI不再是抽象的概念,而是實(shí)實(shí)在在提升生產(chǎn)力和便利性的工具。
小結(jié)
AI PC為處理器芯片廠商和PC廠商創(chuàng)造了機(jī)遇,比較顯著的革新趨勢(shì)之一是通過(guò)在CPU、GPU或?qū)S肗PU中集成AI加速單元,提供更高的計(jì)算效率和更低的能耗,各主要處理器廠商均有產(chǎn)品落地,本文對(duì)這些處理器做了介紹。AI應(yīng)用場(chǎng)景比較豐富,因此處理器的另一個(gè)趨勢(shì)是定制化,這需要處理器廠商與操作系統(tǒng)開(kāi)發(fā)商、AI框架開(kāi)發(fā)者、ODM/OEM廠商緊密合作,共同推廣AI應(yīng)用和服務(wù),打造獨(dú)特賣(mài)點(diǎn),提高產(chǎn)品附加值。
審核編輯 黃宇
-
ARM
+關(guān)注
關(guān)注
134文章
9097瀏覽量
367581 -
英特爾
+關(guān)注
關(guān)注
61文章
9964瀏覽量
171784 -
PC
+關(guān)注
關(guān)注
9文章
2082瀏覽量
154216 -
AI
+關(guān)注
關(guān)注
87文章
30896瀏覽量
269107 -
MWC
+關(guān)注
關(guān)注
1文章
570瀏覽量
46003 -
AI PC
+關(guān)注
關(guān)注
0文章
123瀏覽量
247
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論