解析OrangePi AIpro：什么是 NPU？它對(duì)你意味著什么？

神經(jīng)處理單元是一種專用的人工智能芯片，它能為計(jì)算機(jī)的 CPU或GPU分擔(dān)部分工作，使設(shè)備能更好地工作。

人工智能（AI）在過(guò)去幾個(gè)月里取得了巨大進(jìn)步，為個(gè)人電腦提供了更多便利和更快的處理速度。以人工智能為重點(diǎn)的計(jì)算機(jī)效率很大一部分是通過(guò)NPU（神經(jīng)處理單元）實(shí)現(xiàn)的，在即將推出的高通驍龍X Elite和英特爾酷睿Ultra處理器中可以找到這種處理器。

但究竟什么是 NPU？NPU如何加速人工智能任務(wù)？更重要的是，NPU能為您做些什么？我們將為您一一介紹。

NPUs對(duì)提高效率至關(guān)重要

英特爾酷睿 “流星湖 ”處理器配備NPU。(圖片來(lái)源：Windows Central）

神經(jīng)處理單元（Neural Processing Unit，簡(jiǎn)稱NPU）是一種人工智能芯片，旨在以比GPU（圖形處理器）和CPU（計(jì)算機(jī)處理單元）更快的速度執(zhí)行人工智能任務(wù)。它通過(guò)承擔(dān)小規(guī)模的重復(fù)性處理，減輕了GPU和CPU的部分負(fù)荷，從而使計(jì)算機(jī)在滿足人工智能驅(qū)動(dòng)的請(qǐng)求時(shí)能更高效地工作。

例如，NPU可以在視頻通話中模糊背景，或在視頻或照片編輯中進(jìn)行物體檢測(cè)，從而幫助計(jì)算機(jī)的GPU和CPU保持高效運(yùn)行，這樣CPU和GPU就可以騰出手來(lái)處理其他任務(wù)。

NPUs比GPUs更好地處理某些任務(wù)

CPU、GPU和NPU對(duì)系統(tǒng)的運(yùn)行都非常重要。(圖片來(lái)源：Windows Central / Midjourney）

CPU、GPU和NPU對(duì)計(jì)算機(jī)的整體運(yùn)行都至關(guān)重要，但它們是為處理不同的渲染和計(jì)算任務(wù)而設(shè)計(jì)的，因此在理想情況下，沒(méi)有一個(gè)處理器會(huì)不堪重負(fù)。防止處理器負(fù)荷過(guò)重至關(guān)重要，因?yàn)檫@決定了電腦運(yùn)行的流暢程度。

這三種處理器都能進(jìn)行一些圖像渲染，但它們承擔(dān)的工作量各不相同。GPU是重型設(shè)備，專門(mén)用于渲染視頻編輯和游戲任務(wù)中的復(fù)雜圖像。然而，NPU的設(shè)計(jì)是為了更快地處理短時(shí)間和重復(fù)性的人工智能任務(wù)，例如與人工智能助手協(xié)同工作。換句話說(shuō)，NPU可以從GPU手中分擔(dān)一些工作，這樣GPU就可以專注于更大的分配任務(wù)，系統(tǒng)整體工作效率也會(huì)更高。

綜上所述，操作系統(tǒng)會(huì)查看你的電腦硬件，并根據(jù)你的系統(tǒng)規(guī)格和可用資源來(lái)決定 GPU還是NPU更適合特定的人工智能任務(wù)。

為什么要關(guān)注 NPUs

Snapdragon X Elite配備了NPU。(圖片來(lái)源：Future）

首先，了解處理器的基本知識(shí)至關(guān)重要。正如您在我的英特爾 vs. AMD vs.英偉達(dá)指南中所看到的，這些半導(dǎo)體芯片制造商往往專注于不同的領(lǐng)域。英特爾是CPU行業(yè)的領(lǐng)導(dǎo)者，英偉達(dá)是GPU行業(yè)的領(lǐng)導(dǎo)者，而AMD則是兩者的完美結(jié)合。

今后，我們會(huì)在處理器中看到越來(lái)越多的 NPU。新的英特爾酷睿Ultra處理器（原代號(hào)為Meteor Lake）就證明了這一點(diǎn)，它全部采用了NPU，并被多家電腦公司廣泛應(yīng)用于最新的超極本和筆記本電腦中。

此外，高通公司多年來(lái)一直在研究 NPU，并在這方面走在了競(jìng)爭(zhēng)對(duì)手的前面。其Snapdragon X Elite處理器采用了CPU、GPU和NPU，很快就會(huì)出現(xiàn)在Windows筆記本電腦上。高通公司已經(jīng)向蘋(píng)果MacBook Pro展示了這款芯片的強(qiáng)大性能。根據(jù)高通公司的說(shuō)法，驍龍X Elite可以每秒執(zhí)行75 Tera運(yùn)算（TOPs），這尤其令人印象深刻。

這一切對(duì)您意味著什么

高通公司通過(guò)對(duì)蘋(píng)果 Macbook Pro筆記本電腦進(jìn)行基準(zhǔn)測(cè)試，展示了驍龍X Elite的強(qiáng)大性能。(圖片來(lái)源：Future）

在最新一代終端中加入 NPU意味著整個(gè)行業(yè)具備了利用最新人工智能技術(shù)向前發(fā)展的能力。換句話說(shuō)，由于在最新筆記本電腦中加入了NPU，新的應(yīng)用程序?qū)⒛軌蚶米钚碌娜斯ぶ悄苘浖?。反過(guò)來(lái)，隨著時(shí)間的推移，作為用戶，您將能享受到更多與人工智能相關(guān)的便利和高效的人工智能流程。

通過(guò)人工智能執(zhí)行視頻編輯功能的速度可能比以往任何時(shí)候都要快。又或者，在你最常用的程序中，會(huì)出現(xiàn)更多的人工智能過(guò)濾器和選項(xiàng)。無(wú)論如何，重點(diǎn)都在于提高計(jì)算機(jī)的效率，這樣您就不必在瑣碎的任務(wù)上浪費(fèi)太多時(shí)間，無(wú)論是個(gè)人項(xiàng)目、創(chuàng)意項(xiàng)目還是辦公項(xiàng)目。

高通公司的 NPU也已被證明可以處理生成式人工智能圖像，因此我們可能很快就會(huì)在基于高通公司的手機(jī)上看到這種功能。這也將為游戲手持設(shè)備帶來(lái)多種新的可能性。

NPU FAQ

NPU可幫助提高系統(tǒng)運(yùn)行效率。(圖片來(lái)源：Windows Central）

什么是 PC和筆記本電腦中的NPU處理器？

神經(jīng)處理單元（NPU）專門(mén)用于以比GPU和CPU更快的速度執(zhí)行人工智能任務(wù)。這樣可以減輕GPU和CPU的部分負(fù)荷，使兩者都不會(huì)過(guò)度消耗，從而幫助計(jì)算機(jī)更好地運(yùn)行。

什么是機(jī)器學(xué)習(xí)，它與深度學(xué)習(xí)有何不同？

機(jī)器學(xué)習(xí)是人工智能的一個(gè)方面，它允許程序收集數(shù)據(jù)并根據(jù)所掌握的信息做出決策。深度學(xué)習(xí)則更進(jìn)一步，神經(jīng)網(wǎng)絡(luò)的功能就像人的學(xué)習(xí)大腦一樣，可以根據(jù)收集到的信息做出新的結(jié)果和決策，而不僅僅是重復(fù)信息。

NPU比GPU更好嗎？

神經(jīng)處理單元（NPU）和圖形處理單元（GPU）都是計(jì)算機(jī)處理能力不可或缺的組成部分，因此這取決于您在什么情況下比較神經(jīng)處理單元（NPU）和圖形處理單元（GPU）。GPU專門(mén)用于渲染復(fù)雜圖像，以處理視頻編輯和游戲等任務(wù)。然而，NPU的設(shè)計(jì)目的是更快地處理人工智能任務(wù)，減少GPU的部分負(fù)載，從而提高系統(tǒng)的工作效率。問(wèn)題是，NPU往往更局限于小型、重復(fù)性任務(wù)，而GPU能更好地處理大型和新任務(wù)。重要的是，這兩種處理器能協(xié)同工作，提高系統(tǒng)的整體性能，就像在筆記本電腦中一樣。

神經(jīng)處理單元有哪些用途？

神經(jīng)處理單元 (NPU)可以加速人工智能機(jī)器學(xué)習(xí)任務(wù)，如語(yǔ)音識(shí)別、視頻通話中的背景模糊處理，以及照片或視頻編輯過(guò)程（如物體檢測(cè)）。

NPU代表什么？

NPU是神經(jīng)處理單元（Neural Processing Unit）的縮寫(xiě)。NPU是一種人工智能芯片，執(zhí)行人工智能任務(wù)的速度比GPU和CPU更快。這可以減輕GPU和CPU的部分負(fù)荷，從而使計(jì)算機(jī)在執(zhí)行人工智能任務(wù)時(shí)可以更高效地工作。

NPU對(duì)游戲筆記本電腦有幫助嗎？

有，也沒(méi)有。專用圖形處理器在密集型游戲圖形方面承擔(dān)了大部分重任，而NPU則主要用于小型人工智能輔助。因此，NPU更適合用于超極本和筆記本電腦，而不是游戲筆記本電腦和游戲臺(tái)式機(jī)。

不過(guò)，NPU可以從GPU手中分擔(dān)一些任務(wù)，讓GPU更有效地工作。如果系統(tǒng)的其他部分與CPU配合得當(dāng)，這將帶來(lái)更好的每秒幀數(shù)和更流暢的游戲體驗(yàn)。

舉例來(lái)說(shuō)，當(dāng)你關(guān)閉游戲并返回 Windows桌面時(shí)，人工智能可以幫助檢測(cè)筆記本電腦何時(shí)應(yīng)該切換回集成顯卡，并繼續(xù)由NPU執(zhí)行相同的操作。集成顯卡是現(xiàn)代游戲筆記本電腦的一大特色，但它并不像專用顯卡那樣注重原始游戲性能。

OrangePi AIpro，20TOPS算力NPU，為AI賦能

去年，香橙派和華為昇騰強(qiáng)強(qiáng)聯(lián)手，推出了20TOPS算力NPU的AI開(kāi)發(fā)板OrangePi AIpro，。OrangePi AIpro基于昇騰技術(shù)路線，包含多種AI應(yīng)用，如圖像分類、目標(biāo)檢測(cè)、圖像處理、手勢(shì)識(shí)別等。憑借其先進(jìn)的功能，它能讓機(jī)器人出色地完成各種任務(wù)，并促進(jìn)自然語(yǔ)言處理與計(jì)算機(jī)視覺(jué)的融合。此外，它還支持AR陰影生成、實(shí)例分割、NLP和模式識(shí)別，使其成為技術(shù)領(lǐng)域的變革者。

在軟件方面，OrangePi AIpro為開(kāi)發(fā)人工智能應(yīng)用提供全面的軟件支持。昇騰平臺(tái)可處理各種人工智能框架，支持的框架包括MindX DL、MindX Edge、ModelZoo、MindX SDK和MindSpore。此外，該平臺(tái)還提供與第三方框架的無(wú)縫集成，并支持異構(gòu)計(jì)算架構(gòu)。借助CANN等工具和MindStudio等全流水線開(kāi)發(fā)工具鏈，開(kāi)發(fā)人員可以為其人工智能應(yīng)用獲取一整套資源。

在硬件方面，Orange Pi AIpro版本配備了強(qiáng)大的4核64位處理器以及專用的AI和圖形處理器。以20T版本為例，它不僅支持雙4K輸出，帶來(lái)非凡的視覺(jué)體驗(yàn)，還能方便地容納高達(dá)256 GB的eMMC存儲(chǔ)模塊。在內(nèi)存配置方面，你可以選擇12 GB或24 GB LPDDR4X內(nèi)存，速率可達(dá)4266Mbps。

Orange Pi AIpro開(kāi)發(fā)板還提供多種接口，具有卓越的多功能性。這些接口包括GPIO接口、HDMI端口、支持NVMe 2280 SSD的M.2插槽、USB Type-C以及TF插槽。

此外，Orange Pi AIpro還為openEuler和Ubuntu操作系統(tǒng)提供了出色的支持。它能滿足人工智能算法原型驗(yàn)證和推理應(yīng)用開(kāi)發(fā)的所有必要標(biāo)準(zhǔn)。