邊緣AI進入蓬勃發(fā)展期，ADI如何解決AI芯片落地難題？

電子發(fā)燒友網(wǎng)報道（文/李彎彎）隨著物聯(lián)網(wǎng)設備爆發(fā)式增長，海量數(shù)據(jù)將在邊緣側積累，邊緣AI進入蓬勃發(fā)展期。Gartner預測，到2023年，將有50%以上的大型企業(yè)將至少部署6個用于物聯(lián)網(wǎng)或沉浸式體驗的邊緣計算應用，并且到2025年，75%的數(shù)據(jù)將產(chǎn)生在邊緣。

AI芯片作為實現(xiàn)邊緣AI的核心，是承載AI的硬件基礎。近年來，全球領先的高性能模擬技術公司ADI一直致力于將人工智能推向邊緣端，為ML/DL真正融入邊緣智能而努力。在產(chǎn)品方面，ADI推出了集成神經(jīng)網(wǎng)絡加速器的低功耗微控制器——MAX78000，成為高能效AI處理與超低功耗微控制器相結合的AI MCU重要典范。

MAX78000的性能優(yōu)勢和應用

MAX78000是一款超低功耗神經(jīng)網(wǎng)絡微控制器，內(nèi)置硬件CNN加速器、雙微核、存儲器、SIMO和多通信接口，ADI公司資深業(yè)務經(jīng)理李勇在接受電子發(fā)燒友采訪的時候表示，該款產(chǎn)品在算力、功耗、延遲和集成度等方面實現(xiàn)了關鍵性能的平衡。

具體來看，MAX78000擁有專門的CNN加速器（搭載64個CNN處理器），支持最多64的卷積層數(shù)和1024通道數(shù)，權重存儲空間為442KB（最大可支持350萬個權重位）。支持AI網(wǎng)絡實時更新，支持PyTorch和TensorFlow常規(guī)工具集訓練。

MAX78000搭載了Arm Cortex-M4F和32位RISC-V兩個MCU核心用于系統(tǒng)控制。其中Arm Cortex-M4F處理器以100MHz運行，客戶可編寫任何系統(tǒng)管理代碼；RISC-V處理器的獨特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡加速器，用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡的引擎中。

MAX78000還具有低功耗、低延遲、低成本、高集成度優(yōu)勢。在低功耗方面，將硬件CNN加速器與超低功耗雙微控制器相結合，相較于MCU+DSP解決方案，邊緣AI定制的硬件加速器可將功耗降低99%以上。與運行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運行AI推理的速度快了100倍，功耗卻不到其1%。

在低延遲方面，相較于純MCU方案，邊緣AI定制的硬件加速器具備更高數(shù)據(jù)吞吐量，可將速度提高100倍以上。在成本方面，MAX78000遠低于FPGA等方案，略高于常規(guī)MCU，但可以處理更復雜的細節(jié)。在高度集成方面，集成的神經(jīng)網(wǎng)絡加速器與低功耗微控制器使得在電池供電的IoT設備中實現(xiàn)復雜、實時的AI功能成為可能。

據(jù)李勇介紹，MAX78000的應用領域主要聚焦在視覺識別、聲音識別、監(jiān)測識別等三方面。視覺識別主要包括VGA圖像分析、物體偵測、面部識別；聲音識別主要包括語音喚醒、語音身份驗證、聲音降噪；監(jiān)測識別主要包括心率監(jiān)測、腦電波監(jiān)測、工業(yè)預防。

他進一步解釋，AI技術是一種強大的模式識別技術，需要進行大量的矩陣運算，以及大量的存儲空間和系統(tǒng)功耗。邊緣AI作為在設備本地執(zhí)行的AI，通常需要使用電池進行供電，因此要在系統(tǒng)功耗、計算速度和設備成本之間取得平衡。

ADI的MAX78000 AI MCU通過獨特的架構設計實現(xiàn)了上述要求，能夠為機器視覺、面部識別、目標檢測和分類、時序數(shù)據(jù)處理和音頻處理等應用提供理想選擇。目前，MAX78000已在森林防火監(jiān)測、地質災害監(jiān)測以及智能家居等領域獲得廣泛應用。

在李勇看來，未來，諸如MAX78000這類AI MCU的應用，還將會向新興的AIoT、運動健康、遠程醫(yī)療、自動駕駛、機器人與自動化、工業(yè)制造、智慧樓宇/園區(qū)/城市，以及各行業(yè)的安全監(jiān)測等場景拓展，如各類圖像識別，頭盔攝像頭、助聽器的語音控制，以及風力發(fā)電設備安全監(jiān)測的預測性維護等。

MAX78000如何解決邊緣AI的落地難題

從芯片層面來看，邊緣AI的落地難題，主要與算力、算法、功耗、延遲、集成度和成本等因素有較大關系。具體來看，在算力方面，相較于云端服務器，邊緣節(jié)點的AI算力資源配置往往有限，無法滿足邊緣側AI的應用。李勇表示，ADI的MAX78000 AI MCU配備了專門的神經(jīng)網(wǎng)絡加速器，從硬件層面可以大幅提升邊緣算力。

在算法方面，由于軟硬件異構、接口限制等因素，算法適配往往很難。MAX78000針對語音與人臉識別等應用從產(chǎn)品方案、接口配置到工具優(yōu)化，以及生態(tài)上均提供了豐富支持，比如，智能識別數(shù)據(jù)的收集和數(shù)學模型的建立跟訓練很重要，為此ADI提供了聲音識別和face ID識別demo程序供客戶下載和學習，客戶僅需在其基礎上進行修改。此外，ADI擁有非常有經(jīng)驗的第三方生態(tài)伙伴，能夠提供數(shù)學模型的訓練與數(shù)據(jù)的收集。

在功耗方面，大量邊緣AI應用常常導致設備功耗高企。而MAX78000基于CNN加速器和雙核處理器架構，數(shù)據(jù)無需消耗高功耗上傳，即可完成智能決策，同時還支持高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關模式電源，能夠有效降低器件功耗，延長電池供電IoT設備的續(xù)航時間。

在延遲方面，邊緣端設備監(jiān)測的各種數(shù)據(jù)通過網(wǎng)絡傳輸?shù)皆贫?，一旦帶寬受限，就可能出現(xiàn)無法容忍的延遲問題。但與常規(guī)軟件解決方案相比，MAX78000在配置并加載了數(shù)據(jù)后，運行AI推理的速度能夠提升100倍。

在集成度方面，邊緣AI應用如可穿戴設備需要產(chǎn)品集成度高、體積小，但基于MCU或GPU或FPGA的方案往往較大，不符合應用的尺寸需要。另外，這些方案通常要配備片外存儲器、PMIC，方案無論成本、尺寸還是功耗都具有很大挑戰(zhàn)性。MAX78000則能兼顧小而全和小而優(yōu)。

在成本方面，基于云計算的邊緣智能可能只適合一些大企業(yè)的應用，例如幾萬個、幾十萬個客戶來支持一個服務器，這樣才能夠支撐云端的成本。但很顯然，這對于邊緣AI設備來說不現(xiàn)實，而MAX78000卻能實現(xiàn)很多基本的控制應用，讓邊緣端的自主智能更具成本效應。

具體來看幾個案例，比如，森林火災，公路、鐵路或大壩塌方等災害現(xiàn)場往往地處偏僻，通信網(wǎng)絡帶寬受限，但快速決策和預警非常關鍵，因此必須進行邊緣端快速判定。對于此類應用時間敏感性非常高，傳統(tǒng)的云端監(jiān)測，可能需要發(fā)送一組圖片到云端，對網(wǎng)絡流量要求比較高。而更靠近數(shù)據(jù)源的邊緣計算不僅能提供低時延、高可靠服務，還能夠保障數(shù)據(jù)處理的實時性。

MAX78000因為擁有雙核處理器架構，并搭載獨立的CNN加速器，大幅提升邊緣AI算力。通過監(jiān)測端自主智能識別，一旦有突發(fā)情況出現(xiàn)，MAX78000能夠快速分析決策并告警，避免更嚴重的災害損失發(fā)生。

再比如，當前市場通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應用中仍面臨巨大挑戰(zhàn)，比如任何一次更換電池的運維成本可能比設備本身更貴。由此，低功耗正成為目前眾多邊緣智能應用場景的關鍵要求。

市場急需像MAX78000這樣的具超低功耗特性的新一代邊緣AI解決方案：首先，MAX78000的邊緣智能決策能力，避免了頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導致的高功耗；其次，MAX78000提供高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關模式電源，可最大限度地延長電池供電物聯(lián)網(wǎng)設備的續(xù)航時間和降低成本。

邊緣AI芯片的未來趨勢

從目前的情況來看，邊緣AI正在快速崛起，2022年或將成為其爆發(fā)元年。知名市場研究公司Forrester預測，在2022年，智能基礎設施的投資將增加40% 。

在ADI看來，終端設備爆發(fā)疊加產(chǎn)業(yè)數(shù)智化轉型契機，越來越多的邊緣設備將需要具備一定的“學習”能力，能夠根據(jù)收集到的新數(shù)據(jù)在本地分析、訓練、優(yōu)化和更新模型。當然，這也會對邊緣設備以及整個AI實現(xiàn)系統(tǒng)提出一系列新要求。一方面，邊緣AI芯片作為人工智能的底層硬件支撐，需要與其他元器件一起協(xié)同工作，才能將AI效率推向極致；另一方面，除了硬件，軟件也是實現(xiàn)AI的核心。因此，未來AI芯片必須具備一個重要特性，那就是能夠實時動態(tài)改變功能，滿足軟件不斷變化的計算需求，即“軟件定義芯片”。