一文解析三星NPU的核心技術(shù)

三星去年11月發(fā)布了Exynos9系列處理器新品Exynos9820，這是三星首款集成NPU的手機(jī)SoC，三星當(dāng)時(shí)表示Exynos9820相比上一代9系列處理器Exynos9810人工智能性能提升7倍，并可以增強(qiáng)從照片到AR的性能。今年的CVPR，三星題為《通過(guò)優(yōu)化量化間隔，借助任務(wù)損失學(xué)習(xí)量化深度神經(jīng)網(wǎng)絡(luò)》的論文透露了三星NPU的核心技術(shù)。

深度學(xué)習(xí)算法是人工智能的核心要素，因?yàn)樗鼈兪亲層?jì)算機(jī)能夠像人類(lèi)一樣思考和學(xué)習(xí)的過(guò)程。神經(jīng)處理單元（NPU）是針對(duì)深度學(xué)習(xí)算法計(jì)算而優(yōu)化的處理器，旨在同時(shí)有效地處理數(shù)千個(gè)深度學(xué)習(xí)計(jì)算。

三星電子上月宣布，通過(guò)擴(kuò)大NPU技術(shù)開(kāi)發(fā)，到2030年加強(qiáng)其在全球半導(dǎo)體行業(yè)的領(lǐng)導(dǎo)地位。三星最近在計(jì)算機(jī)視覺(jué)領(lǐng)域的頂級(jí)學(xué)術(shù)會(huì)議之一的CVPR（Computer Vision and Pattern Recognition）上更新了更多信息。

此更新是三星的嵌入式AI輕量級(jí)算法，在CVPR上引入了一篇題為《Learning to Quantize Deep Networks by Optimizing Quantization Intervals With Task Loss》（可翻譯為《通過(guò)優(yōu)化量化間隔，借助任務(wù)損失學(xué)習(xí)量化深度神經(jīng)網(wǎng)絡(luò)》）的論文。嵌入式設(shè)備的AI能力可以直接計(jì)算和處理數(shù)據(jù)，最新的算法解決方案比現(xiàn)有算法輕4倍、速度快8倍，主要目是解決終端AI的低功耗和高性能問(wèn)題。

簡(jiǎn)化深度學(xué)習(xí)過(guò)程

三星高級(jí)技術(shù)研究院（SAIT）宣布他們已經(jīng)成功開(kāi)發(fā)了嵌入式（On-Device）AI輕量級(jí)技術(shù)，其計(jì)算速度比現(xiàn)有的32位服務(wù)器深度學(xué)習(xí)數(shù)據(jù)快8倍。通過(guò)將數(shù)據(jù)調(diào)整為4位以下的組，在保持準(zhǔn)確數(shù)據(jù)識(shí)別的同時(shí)，還能比現(xiàn)有深度學(xué)習(xí)算法更快，更節(jié)能。

三星新的嵌入式AI處理技術(shù)通過(guò)“學(xué)習(xí)”確定影響深度學(xué)習(xí)整體成績(jī)的重要數(shù)據(jù)的時(shí)間間隔。這種“量化間隔學(xué)習(xí)（QIL）1”通過(guò)重新組織，以小于其現(xiàn)有大小的比特位呈現(xiàn)的數(shù)據(jù)來(lái)保持?jǐn)?shù)據(jù)準(zhǔn)確性。SAIT進(jìn)行的實(shí)驗(yàn)成功地證明了在計(jì)算到小于4位的水平時(shí)，32位間隔內(nèi)的服務(wù)器深度學(xué)習(xí)算法的量化如何提供比現(xiàn)有其它解決方案更高的精度。

當(dāng)深度學(xué)習(xí)計(jì)算的數(shù)據(jù)以低于4位的位組表示時(shí)，除了加法和乘法的算術(shù)計(jì)算之外，還允許進(jìn)行'和'和'或'邏輯運(yùn)算。這意味著使用QIL的計(jì)算可以獲得與現(xiàn)有過(guò)程相同的結(jié)果，但只需要1/40至1/120甚至更少的晶體管。

由于該系統(tǒng)只需要較少的硬件和供電，可以將其直接安裝在獲得圖像數(shù)據(jù)或指紋傳感器中。

人工智能處理和深度學(xué)習(xí)的未來(lái)

該技術(shù)將有助于增強(qiáng)三星的半導(dǎo)體實(shí)力，也有利于加強(qiáng)其在AI時(shí)代的核心競(jìng)爭(zhēng)力之一 ——嵌入式這被的AI處理。與使用AI云服務(wù)不同，嵌入式AI技術(shù)直接處理設(shè)備本身獲取的數(shù)據(jù)。

嵌入式設(shè)備上的AI技術(shù)可以降低建設(shè)云服務(wù)器的成本，因?yàn)樗梢宰灾鬟\(yùn)行，并為虛擬現(xiàn)實(shí)、自動(dòng)駕駛等應(yīng)用提供快速穩(wěn)定的性能。此外，嵌入式的AI技術(shù)可以用于本地個(gè)人生物信息（例如指紋，虹膜和面部掃描）認(rèn)證，能夠保證安全性。

嵌入式AI技術(shù)的核心功能是能夠高速運(yùn)算而不消耗過(guò)多的能量。三星的第一個(gè)解決方案是去年發(fā)布的Exynos 9（9820），這個(gè)SoC采用了三星專(zhuān)有的NPU。

雷鋒網(wǎng)當(dāng)時(shí)報(bào)道，在NPU的支持下，Exynos9820相比Exynos99810人工智能性能提升7倍，并可以增強(qiáng)從照片到AR的性能。

“未來(lái)我們將生活在一個(gè)所有設(shè)備和傳感器都由AI驅(qū)動(dòng)的世界中，”SAIT計(jì)算機(jī)視覺(jué)實(shí)驗(yàn)室副總裁兼負(fù)責(zé)人Chang-Kyu Choi說(shuō)?！叭堑那度胧紸I技術(shù)未來(lái)將不僅應(yīng)用于移動(dòng)SoC，還將應(yīng)用于存儲(chǔ)器、處理器和傳感器市場(chǎng)，以及其它新的市場(chǎng)?！?/p>

量化是通過(guò)將給定數(shù)據(jù)分組為有限數(shù)量級(jí)別的部分來(lái)減少數(shù)據(jù)中的位數(shù)的過(guò)程，這些部分可以用某些位值表示，并且被視為每個(gè)部分具有相同的值。