實測NPU“空轉”，AI PC首個落地應用只調用GPU？

電子發(fā)燒友網(wǎng)報道（文/梁浩斌）去年開始，整個PC產業(yè)鏈，自上而下地都在為AI PC造勢。從處理器端的英特爾、AMD、高通等開始，到下游終端廠商，宣傳上清一色的AI PC概念。

從概念上看，硬件上AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎上，增加NPU加強AI 算力。不過有意思的是，最近某品牌PC機型上的AI助手率先落地，支持云端和本地運算兩種模式，確實能夠完成宣傳上的很多功能。然而在實測本地大模型時，卻沒有調用NPU算力，完全是使用GPU進行運算。

所以實際上，NPU目前為止依然是“空轉”的狀態(tài)，過去的“傳統(tǒng)”PC，理論上似乎也能夠使用“AI PC”上的最新功能。那么AI PC中NPU還是一個必要存在嗎？

AI PC發(fā)展的三個階段

確實，GPU在AI大模型上有很強的適配性，一直以來，很多開源大模型都能夠在家用電腦上部署，利用GPU的算力進行推理。在AI PC的大模型剛剛落地時，使用GPU算力是最為穩(wěn)妥以及最快的方式。

此前聯(lián)想集團副總裁張華在發(fā)布會上提到，成熟的AI PC需要包括五大條件。其中包括標配CPU+GPU+NPU的本地混合AI算力；內嵌由本地大模型和個性化本地知識庫構成的個人大模型；配備本地化個人數(shù)據(jù)和隱私保護方案；開放的AI 應用生態(tài)；內嵌個人Agent（模擬人類行為或指揮的AI程序），多模態(tài)自然語言成為主要的交互方式。

他還認為AI PC會有三個發(fā)展階段，第一階段是從2023年12月到2024年4月，這個階段被稱為“AI Ready”階段，這個階段特點是硬件平臺的支持CPU+GPU+NPU的混合AI算力，滿足終端廠商和第三方應用開發(fā)者進行終端AI體驗創(chuàng)新。說白了，就是硬件要滿足AI需求，軟件先畫餅。

第二階段是2024年4月到2024年9月的AI Explore階段。在這個階段中，AI Ready的硬件，能夠用上個人Agent、個人大模型嵌入AIPC、首批第三方AI應用接入AI小程序平臺等，并能夠運用CPU+GPU+NPU的混合AI算力，提供基于自然語言交互的個人AI助理服務。

第三階段是24年9月之后的AI Master/AI Advanced階段。在這個階段，首先硬件的混合AI算力持續(xù)提升，同時個人大模型的能力進一步提升，AI應用生態(tài)大為豐富、商業(yè)模式進一步多樣化，個人Agent的場景服務范圍進一步擴大、服務體驗進一步升級，個人AI助理進入隨用戶使用和體驗反饋而快速進階之路。

所以，AI PC新增的NPU，只是混合算力中的一部分。從算力來看，NPU可以算得上是“戰(zhàn)未來”的硬件，而實際AI能夠帶來哪些顛覆性的體驗，才是AI PC的關鍵。

AI PC有哪些應用了？

目前的AI大模型，普遍是采用云端推理，這很大程度上是由于大模型數(shù)據(jù)體量巨大，無法部署在本地。而AI PC的概念中，本地大模型就是與目前常見的云端大模型有很大差異的地方。

從個人隱私的角度來看，本地大模型由于數(shù)據(jù)不上云，所以數(shù)據(jù)安全性更高，對于一些有保密需求的工作來說可以說是提高工作效率的剛需。

比如用戶可以通過本地大模型，讀取本地文檔，并使用自然語言交互來快速找到文檔中所需的信息。還可以通過自然語言交互，來完成修改電腦設置等操作，降低Windows操作系統(tǒng)使用門檻，畢竟很多選項都藏得比較深。

另外，還可以通過上傳足夠多的文檔，構建一個自己的數(shù)據(jù)庫，需要搜索資料或數(shù)據(jù)時，就可以通過本地的AI助手快速搜索到目標。

最近微軟的發(fā)布會上，又推出了一個“Copilot+ PC”概念，核心是AI算力+AI Agent（ Copilot ）。

在微軟的展示中，任何東西都能夠往Copilot上拖動，并讓其分析、總結。當然，AI圖片編輯、生成等功能已經(jīng)是AI大模型的標配了，而微軟為windows加入的AI賦能功能中，還有可以稱之為“殺手锏”的。

比如AI能夠實時讀取屏幕顯示的所有信息，比如在玩游戲時，可以直接詢問AI來獲得攻略，AI甚至能理解游戲中的參數(shù)、物品等，從而給出相應的策略。

Recall則是令電腦擁有了類似于“時光機”的能力，AI能力的幫助下，Copilot+ PC可以訪問電腦上任何看過或者運行過的操作，甚至可以憑借記憶，描述在某個網(wǎng)站上見過圖片，AI就能夠幫助找出相應的頁面截圖。而這是基于本地算力以及存儲所實現(xiàn)的，能夠保障用戶隱私。

小結：

AI PC的概念雖然值得考究，但AI的應用要落地在PC上，硬件和軟件都無法單獨拿出來討論，AI應用與硬件的結合隨著需求提高只會越來越緊密。這樣的情況下，NPU的存在形式，發(fā)展方向，以及應用的適配，未來將會有更多的可能性。