邊緣計算和人工智能

Greenwaves 展示了其最新的人工智能芯片 GAP9。就像上一代一樣，它的目標是在網(wǎng)絡邊緣的系統(tǒng)中進行 AI 推理。

邊緣計算將越來越成為數(shù)字化轉型現(xiàn)象不可或缺的一部分。使用這些技術的主要好處是減少處理延遲，允許實時響應，以及節(jié)省帶寬，將已處理的信息發(fā)送到數(shù)據(jù)中心，因此，將更小的信息發(fā)送到數(shù)據(jù)中心。

與 GreenWaves Technologies 目前出貨的產(chǎn)品 GAP8 相比，最新的 GAP9 將能耗降低了 5 倍，同時在神經(jīng)網(wǎng)絡上的推理能力提高了 10 倍。GAP9 建立在與 GAP8 相同的 GAP 架構布局之上。GreenWaves 的 GAP8 是業(yè)界首款超低功耗處理器，旨在以極低的成本和功耗傳輸高邊緣處理能力。它在物聯(lián)網(wǎng) (IoT) 應用中啟用電池供電的人工智能 (AI)。

GreenWaves Technologies 營銷副總裁 Martin Croome 表示：“目前，人們對將 AI 處理轉移到 ADAS、安全攝像頭、機器人和手機等應用程序的邊緣產(chǎn)生了很大的興趣?！?“我們專注于我們認為將成為下一波邊緣設備的產(chǎn)品，我們稱之為邊緣設備。這些設備的功率受到極大限制——例如，帶有非常小的可充電電池的可穿戴設備需要數(shù)周或數(shù)月的電池壽命，或者無法使用電源或安裝成本高昂的傳感器。如果您必須安裝電纜來為傳感器供電，這樣做的成本通常是傳感器本身成本的許多倍。然后一些傳感器可能離主電源很遠。他們可能在一個領域的中間或類似的地方，幾乎不可能給他們權力。

GAP8 是基于開源 RISC-V 和 PULP（并行超低功耗處理平臺）平臺的物聯(lián)網(wǎng)應用處理器。它為下一代連接設備開辟了新的可能性。GAP8 支持以具有成本效益的方式開發(fā)智能設備，這些設備可以捕獲、分析、分類和作用于圖像、聲音、雷達、紅外或振動等豐富數(shù)據(jù)源的融合。GAP8 的工作功率從活動模式下的幾十毫瓦到睡眠模式下的幾微瓦不等，因此設備可以使用電池使用數(shù)年。GAP8 經(jīng)過優(yōu)化，可以執(zhí)行廣泛的圖像和音頻算法，包括具有極高能效的卷積神經(jīng)網(wǎng)絡推理。

“在 GAP8 中，我們的第一款產(chǎn)品現(xiàn)已投入生產(chǎn)，我們使用 RISC-V 指令集架構的可擴展性來提高能源效率，”Croome 說?！癎AP8 在一個集群中有八個 RISC-V 內核，然后是一個額外的第九個 RISC-V 內核，我們將其用作控制器，有點像芯片的 MCU。信號處理和機器學習算法是集群中并行化的良好目標。如果您在八個核心上并行計算，您希望盡可能接近完成工作的八倍。這個因素被稱為加速。我們專注于通過在硬件中實現(xiàn)所有任務分叉和同步原語以及許多其他優(yōu)化來獲得非常好的加速。然后，我們使用我們實現(xiàn)的加速不是做更多的工作，而是在較低的時鐘速度下做同樣數(shù)量的工作。反過來，這使我們能夠降低芯片內部的電壓，從而為我們帶來二次功率優(yōu)勢。該芯片集成了動態(tài)頻率和電壓控制，因此我們可以通過不斷調整時鐘速度和電壓來適應我們正在執(zhí)行的任務來節(jié)省能源。”

分層架構通過組合一系列高度自主的智能 I/O 外設來連接外部設備，從而實現(xiàn)非常低的功耗操作。一個由八個內核組成的集群，其架構經(jīng)過優(yōu)化以執(zhí)行向量和并行算法，并結合了專門的卷積神經(jīng)網(wǎng)絡加速器 (HWCE)。所有內核和外圍設備都可以根據(jù)需要切換功率、電壓和頻率。集成了具有超快重新配置時間的 DC/DC 穩(wěn)壓器和時鐘發(fā)生器，以優(yōu)化電源管理。集群和 HWCE 內核共享對內存區(qū)域和指令緩存的訪問。多個 DMA 允許在內存區(qū)域之間進行快速、低功耗、獨立的傳輸。包含一個內存保護器以允許應用程序在 GAP8 上安全運行。

新的 GAP9增加了 AES128/256 加密的安全功能，并基于能夠處理 8、IEEE 16、BFloat16 和 IEEE 32 中浮點數(shù)的創(chuàng)新跨精度浮點單元，全面支持所有內核的浮點運算。支持矢量化的位精度。GAP9 可處理復雜的神經(jīng)網(wǎng)絡，例如 MobileNet V1，在 12 毫秒內輕松處理 160 × 160 圖像，通道縮放為 0.25，功耗為 806 μW/fps。與 GAP8 相比，GAP9 的有效內存帶寬增加了 20 倍，通過同時分析來自多個不同傳感器（如圖像、聲音和雷達）的數(shù)據(jù)流，顯著提高了檢測精度（圖 1）。

?

GreenWaves Technologies 首席執(zhí)行官 Loic Lietar 表示：“GAP9 將復雜的機器學習和信號處理功能的組合嵌入到消費、醫(yī)療和工業(yè)產(chǎn)品應用中，實現(xiàn)了新的功能水平?！?“GAP 系列為產(chǎn)品設計人員提供了強大、靈活的解決方案，可將下一代智能設備推向市場。

“我們不會大量使用某種非常深奧的架構方法來加速卷積神經(jīng)網(wǎng)絡 (CNN)，因為我們相信這個市場發(fā)展如此之快。每個月都有一千篇關于神經(jīng)網(wǎng)絡空間的新論文。我們希望確保我們能夠加速今年和明年出現(xiàn)的所有新事物，而不是專注于去年的最佳創(chuàng)意。所以我們有一個卷積硬件加速器，它在某些情況下有助于降低能耗，但一般來說，架構是可編程的?！?/p>

人臉識別吸引了大量與安全應用相關的媒體報道，它是使用基于 SqueezeNet 的 CNN 實現(xiàn)的。CNN 是廣泛用于計算機視覺的神經(jīng)網(wǎng)絡家族，更一般地說，用于處理具有空間關系的數(shù)據(jù)。CNN 遵循一定層次的架構，通常是非周期性的。

可以使用被動紅外 (PIR) 技術激活人臉檢測，以在沒有人臉時進一步降低功耗。一旦檢測到，該算法會在 128 × 128 像素的圖像中發(fā)出適當調整大小的檢測圖像的坐標。該圖像是人臉識別 CNN 的輸入。CNN 的輸出是檢測到的人臉的 512 個參數(shù)（16 位大小）的簽名。

為了加快上市時間，GreenWaves Technologies 設計了 GAPuino 板來促進 GAP8 的實施。GAPuino 可用作標準 Arduino Uno 板的替代品，并可連接到大多數(shù) Arduino Uno 兼容的 3.3-V 或 5-V 屏蔽。通過添加 Arduino 通信屏蔽（藍牙、WiFi、LoRa 等），可以在電池供電的設備上使用 AI 快速構建完整的物聯(lián)網(wǎng)應用原型（圖 2）。

?

有多種配件可供選擇，例如帶有 B&W 低功耗 QVGA 攝像頭的模塊和一個傳感器板，該板增加了一組鉸接式傳感器，包括用于音頻應用的四個數(shù)字麥克風。對于 GAP8 處理器，還有一個完整的 SDK，其中包括一個 RISC-V GCC/GDB 鏈工具，帶有用于附加處理器指令的擴展，用于 MCU 端的工具，具有兩個操作系統(tǒng)（PULP OS 和 RISC-V 上的 Mbed OS 端口/GAP8)。