邊緣AI需求爆發(fā)，邊緣計算網(wǎng)關亟待革新

電子發(fā)燒友網(wǎng)報道（文/吳子鵬）根據(jù)《全球與中國邊緣AI芯片市場競爭建議及發(fā)展狀況調(diào)研報告2024-2030》，2023年全球邊緣AI芯片市場規(guī)模大約為2563.6百萬美元，預計未來六年年復合增長率CAGR為17.4%，到2030年達到8004.3百萬美元。如果將范圍擴大到整個邊緣AI市場，根據(jù)英特爾公司高級副總裁兼網(wǎng)絡與邊緣事業(yè)部總經(jīng)理Sachin Katti在分享中提到的數(shù)據(jù)，2030年全球邊緣AI市場將達到4450億美元的規(guī)模。

在構建邊緣AI方案時，計算、存儲、網(wǎng)絡和應用等資源都被移到更靠近終端的位置，以提供更低的延遲和更高的性能。在此過程中，邊緣計算網(wǎng)關起到重要的作用：一方面作為邊緣和云端連接的重要樞紐，將邊端計算的數(shù)據(jù)傳回云端；另一方面邊緣計算網(wǎng)關也能夠協(xié)調(diào)邊緣端的多款設備，協(xié)調(diào)這些設備的計算資源和計算任務。

基于邊緣計算網(wǎng)關實現(xiàn)更好的終端智能

作為邊緣計算和網(wǎng)關的結合體，邊緣計算網(wǎng)關帶來了一種分布式計算范式，將計算任務和數(shù)據(jù)存儲從中心化的數(shù)據(jù)中心推向網(wǎng)絡的邊緣——終端設備。因而，邊緣計算網(wǎng)關通常部署在網(wǎng)絡的邊緣側，提供數(shù)據(jù)采集、處理、存儲和通信等功能。

由于是部署在現(xiàn)場的終端，因此邊緣計算網(wǎng)關具有很多突出的優(yōu)勢：低延遲、高安全并降低云端的計算負載。

邊緣計算網(wǎng)關具有一定的計算能力，可以將數(shù)據(jù)處理在更靠近終端的場景下實現(xiàn)，因此有明顯的低延遲特性。像工業(yè)自動化、智能交通和智能家居等對數(shù)據(jù)處理時效要求高的領域，邊緣計算網(wǎng)關能夠?qū)崟r采集來自各種傳感器和執(zhí)行器的數(shù)據(jù)，并將這些數(shù)據(jù)進行整合和標準化處理，這一低延遲特性被格外看重。

邊緣計算網(wǎng)關將數(shù)據(jù)采集和處理都在更靠近終端的場景下完成，減少了數(shù)據(jù)的傳輸，也就降低了數(shù)據(jù)在網(wǎng)絡傳輸中暴露的風險。在云AI場景里，敏感數(shù)據(jù)總是會在終端和云端之間反復地傳輸，有非常大的泄露風險，而有了邊緣計算網(wǎng)關，云端最終接收到的數(shù)據(jù)都是脫敏的結果數(shù)據(jù)。

同時，我們也不難看出，邊緣計算網(wǎng)關將計算任務進行了有效地分發(fā)，而不是全部集中在云計算場景下，也能夠有效降低云計算的負載。當然，市場需求在不斷變化，對于邊緣計算網(wǎng)關也提出了更高的要求，包括高算力、低功耗、智能化和靈活部署。

邊緣計算網(wǎng)關著力強化計算性能

在新的市場需求下，邊緣計算網(wǎng)關成為普惠算力的一類關鍵設備，相關設備的核心性能也變得越來越強，產(chǎn)業(yè)界涌現(xiàn)出一系列具有競爭力的新品。

比如，聯(lián)想集團打造了智能邊緣計算品牌“慧天”，包括智能邊緣網(wǎng)關、邊緣服務器、工業(yè)控制器、嵌入式計算機等硬件設備。這些設備可以讓相關應用在邊緣硬件上處理AI算法，并且有5G的加持，和云端的互動也更加高效。

2024年初，TSINGSEE青犀視頻在年初推出了一款高性能、低功耗的軟硬一體AI邊緣計算硬件設備——智能分析網(wǎng)關V4，硬件采用BM1684芯片，集成高性能8核ARM A53，主頻高達2.3GHz。這款智能網(wǎng)關提供高達17.6/32 Tops的INT8峰值算力，2.2T的FB32高精度算力，支持高達16 TFLOPS的FP16/BF16半精度算力，以及支持高達16/32路1080P高清視頻全流程處理。在安全方面，支持高容量eMMC可開發(fā)支持主備分區(qū)和可編程加密分區(qū)等加密技術。

去年下半年，Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380邊緣人工智能網(wǎng)關。作為系統(tǒng)核心，RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架構，配備NEON協(xié)處理器，專用于低功耗控制的MCU，以及寬大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588讓DSGW-380邊緣人工智能網(wǎng)關提供6TOPS的計算算力，能夠無縫支持包括INT4、INT8、INT16和FP16混合操作等多種精確操作。

另外，前不久研揚科技基于昇騰Atlas?200I?A2加速模組，打造了電力通信邊緣AI網(wǎng)關ARES-501AI?A2，使能客戶在Mega?OM平臺的基礎上快速對接管理自己的運維平臺。ARES-501AI?A2智能網(wǎng)關能夠提供高達20TOPS?(INT8）的強勁算力，擁有豐富的工業(yè)級I/O接口，包括RS232/RS485、USB?3.0*4、GbE?LAN*2、CAN*2等。

通過上述案例不難看出，目前邊緣計算網(wǎng)關一個重要的升級方向就是提供高算力，并強化算法的承載能力。不過，這些性能的提升并不能犧牲系統(tǒng)功耗，因此在相關產(chǎn)品中，往往會配合低功耗的MCU，配合低功耗的外設，以最低的系統(tǒng)功耗去運行非計算的控制功能，并將系統(tǒng)運行功耗進行更細分的區(qū)分。

結語

在邊緣AI爆發(fā)的大潮下，邊緣計算網(wǎng)關也在朝著邊緣智能網(wǎng)關的方向發(fā)展，一個重要的標志就是NPU逐漸成為網(wǎng)關內(nèi)核心的一部分，且系統(tǒng)算力得到了顯著提升。當然，由于部署在邊緣端，且設備數(shù)量巨大，因此低功耗將一直都是邊緣計算網(wǎng)關更新過程中需要面對的挑戰(zhàn)。