機(jī)器學(xué)習(xí)入侵邊緣處理 機(jī)器學(xué)習(xí)在嵌入式端具體如何實(shí)現(xiàn)

作為移動(dòng)設(shè)備之后的第五波計(jì)算浪潮，邊緣計(jì)算受到空前關(guān)注。它可以參與到生活的方方面面，包括居家、辦公、城市、工廠等，使智能生活更安全、效率更高。

2020 年，Gartner 將邊緣計(jì)算列為十大戰(zhàn)略技術(shù)趨勢(shì)之一。Gartner 指出，邊緣計(jì)算是一種拓?fù)浣Y(jié)構(gòu)，信息處理以及內(nèi)容收集和傳遞被放置在離信息源更近的位置，其核心邏輯是保持流量本地和分布式以減少延遲。

這將包括物聯(lián)網(wǎng)的所有技術(shù)。邊緣賦能將著眼于這些設(shè)備的增長(zhǎng)方式并為智能空間奠定基礎(chǔ)，并使關(guān)鍵應(yīng)用和服務(wù)更接近使用它們的人員和設(shè)備。根據(jù)預(yù)測(cè)，到 2023 年，網(wǎng)絡(luò)邊緣的智能設(shè)備數(shù)量可能是傳統(tǒng) IT 領(lǐng)域的 20 倍以上。

邊緣處理——數(shù)十億量級(jí)的藍(lán)海市場(chǎng)

邊緣計(jì)算何以實(shí)現(xiàn)這樣的增長(zhǎng)？恩智浦（NXP）高級(jí)副總裁兼邊緣處理事業(yè)部總經(jīng)理 Ron Martino 指出了背后的三大驅(qū)動(dòng)因素：第一，它能夠降低總體擁有成本，不需要總是進(jìn)行云接入，從而降低本地成本。第二，它可以保護(hù)數(shù)字隱私，提高安全性。第三，它能夠減少應(yīng)用延遲，支持實(shí)時(shí)應(yīng)用，增強(qiáng)本地體驗(yàn)質(zhì)量。

隨著邊緣計(jì)算與傳統(tǒng)分布式計(jì)算架構(gòu)的深度融合，邊緣處理——正在悄然醞釀一場(chǎng)變革。NXP 作為在安全、連接、嵌入式領(lǐng)域耕耘多年的半導(dǎo)體廠商，將如何布局邊緣處理的廣闊市場(chǎng)？又會(huì)進(jìn)行哪些變革？

Ron Martino 表示，邊緣處理市場(chǎng)可以看作一個(gè)分布式智能金字塔。底部是包括工業(yè)和物聯(lián)網(wǎng)在內(nèi)的應(yīng)用邊緣，其中工業(yè)邊緣包括工廠自動(dòng)化、基礎(chǔ)設(shè)施、交通運(yùn)輸、醫(yī)療等，物聯(lián)網(wǎng)邊緣包括智能家居、消費(fèi)及可穿戴領(lǐng)域，這是邊緣處理規(guī)模最大的、十億量級(jí)的大市場(chǎng)；中部是網(wǎng)絡(luò)邊緣，主要支持 5G 本地網(wǎng)絡(luò)及數(shù)據(jù)集成，是一個(gè)千萬到億級(jí)的市場(chǎng)；最頂部則是數(shù)據(jù)中心，以云服務(wù)為主，大約是百萬量級(jí)。對(duì)邊緣處理的布局，NXP 的應(yīng)用主要包括三大類：網(wǎng)絡(luò)邊緣、工業(yè)邊緣、物聯(lián)網(wǎng)邊緣，也就是金字塔底部和腰部規(guī)模最大的兩塊。

機(jī)器學(xué)習(xí)入侵邊緣處理

幾年前，人們普遍認(rèn)為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)只能通過由網(wǎng)關(guān)、邊緣服務(wù)器或數(shù)據(jù)中心執(zhí)行的邊緣訓(xùn)練和推理，在高端硬件上完成。如今，情況已然發(fā)生了變化，處理器不必提供每秒數(shù)萬億次操作（TOPS），也能執(zhí)行機(jī)器學(xué)習(xí)，只要使用帶有嵌入式機(jī)器學(xué)習(xí)加速器的微控制器，就能在邊緣設(shè)備上進(jìn)行機(jī)器學(xué)習(xí)。

內(nèi)置機(jī)器學(xué)習(xí)加速器的微控制器代表著物聯(lián)網(wǎng)的下一階段：在生產(chǎn)數(shù)據(jù)的源頭，例如麥克風(fēng)、攝像頭和監(jiān)控其他環(huán)境條件的傳感器中引入智能計(jì)算，只需極低的成本和極低的功耗，這些設(shè)備就能出色地完成機(jī)器學(xué)習(xí)，僅在絕對(duì)必要時(shí)才連接到云。

目前，機(jī)器學(xué)習(xí)在邊緣計(jì)算中的應(yīng)用已經(jīng)比較普遍，有 55%的開發(fā)人員表示他們當(dāng)前或未來工作需要機(jī)器學(xué)習(xí)，早期的采納者已經(jīng)開始探索更有意義的用例，未來則會(huì)被越來越多的開發(fā)者接受，也將使得機(jī)器學(xué)習(xí)的開發(fā)鴻溝得以消弭。

在 NXP 看來，在嵌入式開發(fā)中引入機(jī)器學(xué)習(xí)，當(dāng)務(wù)之急是讓更多的開發(fā)者用起來。NXP 與 Au-zone 合作開發(fā)機(jī)器學(xué)習(xí)工具包，并與 Arm 合作，使 Arm Ethos-U65 microNPU 提供可擴(kuò)展且高性能的機(jī)器學(xué)習(xí)用例。通過合作，加強(qiáng) NXP 對(duì) eIQ 機(jī)器學(xué)習(xí)開發(fā)環(huán)境的支持，幫助用戶部署優(yōu)化機(jī)器學(xué)習(xí)的模式，并且在全球范圍內(nèi)優(yōu)化機(jī)器學(xué)習(xí)能力，直到 MCU 的層級(jí)。

不過，機(jī)器學(xué)習(xí)在嵌入式端具體如何實(shí)現(xiàn)？畢竟設(shè)備資源受限，對(duì)功耗、帶寬、存儲(chǔ)、模型尺寸等都有完全不同的要求。

NXP 邊緣處理事業(yè)部副總裁兼 IoT 業(yè)務(wù)線總經(jīng)理于修杰表示，很多客戶其實(shí)都關(guān)心有沒有可能免費(fèi)在設(shè)計(jì)中實(shí)現(xiàn)人工智能或機(jī)器學(xué)習(xí)，其實(shí)指的就是用 CPU 來運(yùn)行。NXP 的 eIQ 工具可以部署類似這種模式，例如在家居場(chǎng)景中，由于人是交互對(duì)象，因此在推理方面需求不高，在機(jī)器學(xué)習(xí)方面就無需購(gòu)買加速產(chǎn)品，從而可以降低成本。

此外，微處理器中應(yīng)用處理器和神經(jīng)網(wǎng)絡(luò)加速器的發(fā)展速度十分迅猛，更完善的解決方案也層出不窮。總體趨勢(shì)是將更多以人工智能為中心的功能（例如神經(jīng)網(wǎng)絡(luò)處理）與應(yīng)用處理器一起整合到微處理器中，同時(shí)避免功耗或尺寸顯著增加。

不過，目前尚處于機(jī)器學(xué)習(xí)發(fā)展的早期，會(huì)有很多迭代和戰(zhàn)略微調(diào)。他強(qiáng)調(diào)，機(jī)器學(xué)習(xí)和人工智能應(yīng)用，在選擇處理器方面不可能做到一刀切，取決于市場(chǎng)對(duì)于應(yīng)用的需求和對(duì)功耗、成本的容忍度，每種技術(shù)都能找到自己適用和擅長(zhǎng)的領(lǐng)域，因此未來還有很大的繼續(xù)創(chuàng)新的空間。NXP 將通過可擴(kuò)展的處理器，支持從簡(jiǎn)單到復(fù)雜的機(jī)器學(xué)習(xí)用例。

EdgeVerse 是 NXP 的邊緣處理平臺(tái)，通過嵌入式處理產(chǎn)品組合，結(jié)合安全、軟件和整體解決方案來加速邊緣計(jì)算。具體包括 MCU、跨界處理器、應(yīng)用處理器以及高端微處理器等多系列的產(chǎn)品組合。其適用范圍較為廣泛，據(jù) Ron Martino 介紹，可覆蓋新基建七大重點(diǎn)領(lǐng)域中的六個(gè)，如 AI、工業(yè)互聯(lián)網(wǎng)、城際交通、5G、數(shù)據(jù)中心、新能源汽車充電。

邊緣賦能下，嵌入式計(jì)算將如何演進(jìn)？

混合計(jì)算架構(gòu)成為邊緣計(jì)算迅速融入物聯(lián)網(wǎng)多種多樣應(yīng)用中的一個(gè)趨勢(shì)，跨界 MCU——就是 NXP 順應(yīng)這一趨勢(shì)的創(chuàng)新。所謂“跨界”，是指介于常規(guī)的 MPU 與 MCU 之間，采用了 MCU 的內(nèi)核，但基于 MPU 的架構(gòu)，因此既能實(shí)現(xiàn) MPU 的高性能和豐富功能，同時(shí)又兼具傳統(tǒng) MCU 的易用性、低功耗、低成本的特性，從而打破了 MPU 和 MCU 之間的界限。

Ron Martino 指出，機(jī)器學(xué)習(xí)已經(jīng)出現(xiàn)約 20 年了，一旦發(fā)布一款芯片，人們就會(huì)嘗試在處理引擎上運(yùn)行各類計(jì)算，不論是 DSP、CPU 還是 GPU，隨著高集成度的出現(xiàn)，在產(chǎn)品中使用這些計(jì)算密集型神經(jīng)網(wǎng)絡(luò)也成為可能。在軟件層面，整個(gè)協(xié)議棧到軟件和應(yīng)用層，也必須從機(jī)器學(xué)習(xí)的角度對(duì)許多方面進(jìn)行評(píng)估。而更重要的是用戶體驗(yàn)，需要找到他們真正想解決的問題。這就使得當(dāng)前對(duì)于機(jī)器學(xué)習(xí)的用例優(yōu)化非常重要，通過硬件 IP 與軟件相結(jié)合，真正解決終端應(yīng)用需求。

“邊緣計(jì)算有著廣泛的可能性，無論是性能還是能力，因此可擴(kuò)展的解決方案具有更大的價(jià)值，它能夠充分挖掘邊緣計(jì)算的能力，這也需要非常廣泛的器件組合，在滿足軟件方面要求的同時(shí)又能夠兼顧平臺(tái)的效率”，Ron Martino 強(qiáng)調(diào)，“安全也越來越重要，隨著接入點(diǎn)的增多，產(chǎn)生了非常多的關(guān)鍵數(shù)據(jù)，安全性和不斷集成的功能已經(jīng)成為極為重要的因素，也成為嵌入式計(jì)算不斷演進(jìn)的關(guān)鍵因素?！?/p>

至于嵌入式計(jì)算會(huì)如何演進(jìn)？他表示，這些年來嵌入式計(jì)算的關(guān)鍵指標(biāo)從頻率、單線程性能一直到具有很多計(jì)算模塊的異構(gòu)計(jì)算，能耗效率和成本效益在不斷提升，機(jī)器學(xué)習(xí)功能也會(huì)不斷進(jìn)化。在開發(fā)嵌入式計(jì)算產(chǎn)品方面不僅要結(jié)合各種計(jì)算模塊實(shí)現(xiàn)互聯(lián)，也需要進(jìn)行軟件的優(yōu)化賦能和硬件的用例優(yōu)化。機(jī)器學(xué)習(xí)和傳統(tǒng)的 CPU 工作負(fù)載有不同，比如內(nèi)存的接入可能會(huì)成為一個(gè)潛在的瓶頸，另外還需要優(yōu)化它的尺寸，將其作為計(jì)算部件的一部分，實(shí)現(xiàn)與 CPU 功能及其他功能的協(xié)同，這是涉及系統(tǒng)級(jí)優(yōu)化的復(fù)雜過程，需要熟練的制造流程作用于軟件和硬件應(yīng)用，以便真正優(yōu)化性能并降低功耗。

編輯：hfy