邊緣人工智能的競賽正在進(jìn)行中

在過去的兩年里，人工智能已經(jīng)從學(xué)術(shù)奇跡轉(zhuǎn)變?yōu)槿虼筅厔荨Ｄ撤N形式的機器學(xué)習(xí)將徹底改變幾乎所有事物——消費、汽車、工業(yè)、電子的每個領(lǐng)域——除此之外，還會以我們還不知道的方式影響社會和我們的生活。

這對行業(yè)意味著，幾乎每個處理器供應(yīng)商都將機器學(xué)習(xí)視為會下金蛋的鵝。競爭正在將自己的方法定位為正確的解決方案，以加速最具潛力的領(lǐng)域中的特定工作負(fù)載：數(shù)據(jù)中心之外的機器學(xué)習(xí)，或邊緣的人工智能。

邊緣的人工智能有很大的希望，因為它幾乎可以應(yīng)用于所有電子設(shè)備，從可以看到路上行人的自動駕駛汽車到響應(yīng)語音命令的咖啡機。需要延遲、數(shù)據(jù)隱私、低功耗和低成本的任意組合的應(yīng)用程序最終將遷移到邊緣的 AI 推理（請注意，“邊緣 AI”是 Gartner 圖表上的唯一 AI 點，距今不到 5 年）。

今年的 Gartner 新興技術(shù)炒作周期。Edge AI 距離“生產(chǎn)力的高原”還有兩到五年的時間。（圖片：Gartner）

AI 推理的工作負(fù)載是特定的：它們需要對大量低精度數(shù)據(jù)進(jìn)行大規(guī)模并行處理，內(nèi)存訪問成為瓶頸。大多數(shù)（如果不是全部）類型的處理器都試圖彎曲自己以適應(yīng)這些要求。

現(xiàn)有技術(shù)是 GPU——今天實際上是一個公司的細(xì)分市場。幸運的是，GPU 的單指令多數(shù)據(jù) (SIMD) 架構(gòu)是為加速計算機圖形而開發(fā)的，結(jié)果證明它非常適合 AI 工作負(fù)載。英偉達(dá)正在盡可能地利用這一浪潮，為數(shù)據(jù)中心和自動駕駛開發(fā)人工智能超級計算機，以及用于邊緣設(shè)備的縮小版本。

其他人也都想分一杯羹。長期以來一直用于加速數(shù)學(xué)算法的 FPGA 供應(yīng)商正在改進(jìn)他們的產(chǎn)品以適應(yīng)邊緣 AI 處理。Xilinx 采用域特定架構(gòu)的概念并與之一起運行，將可編程邏輯與其他計算類型相結(jié)合，以允許針對新工作負(fù)載定制數(shù)據(jù)流。與此同時，萊迪思的目標(biāo)是低功耗設(shè)備中的圖像處理。

還有許多初創(chuàng)公司將他們的新穎架構(gòu)作為下一件大事。它們的范圍從內(nèi)存處理器技術(shù)（Mythic、Syntiant、Gyrfalcon）到處理器近內(nèi)存技術(shù)（Hailo）；從可編程邏輯 (Flex Logix) 到 RISC-V 內(nèi)核（世界語、GreenWaves）；從非常小的（Eta Compute）到超大規(guī)模（Cerebras，Graphcore）。大多數(shù)用于邊緣的人工智能。當(dāng)它們與英偉達(dá)和英特爾等公司對抗時，是否有足夠的利基市場來支持它們？時間會證明一切。

還有一些初創(chuàng)公司從另一個方向解決了這個問題：調(diào)整人工智能工作負(fù)載以在微控制器等傳統(tǒng)硬件上更有效地運行。PicoVoice 和 Xnor 等公司正在尋找新的方法來利用現(xiàn)有設(shè)備的指令集來執(zhí)行矩陣乘法。

結(jié)合谷歌在 TensorFlow Lite 上的工作——一種將機器學(xué)習(xí)模型縮小到可以安裝到微控制器上的編譯器——這無疑將為不需要聯(lián)網(wǎng)的聲控設(shè)備等東西打開閘門——連接做推理。

面對新型加速器芯片組的嵌入式開發(fā)人員將不得不學(xué)習(xí)如何使用它們。軟件是這個難題的重要組成部分。更傳統(tǒng)的 CPU、MPU 和 MCU 顯然在這方面處于領(lǐng)先地位。

雖然圍繞一個新的軟件平臺建立一個開發(fā)者社區(qū)并非不可能，但這并不容易。英偉達(dá)花了十年時間將其 GPU 軟件平臺 CUDA 打造為今天的成功。任何進(jìn)入這個領(lǐng)域的人都需要構(gòu)建庫和工具包，并通過會議和論壇努力教育開發(fā)人員。所有這些都會使初創(chuàng)公司的有限資源緊張。

靈活性是成功秘訣的另一個重要因素。雖然今天的圖像處理模型依賴于卷積神經(jīng)網(wǎng)絡(luò) (CNN)，但不同類型的神經(jīng)網(wǎng)絡(luò)適用于其他應(yīng)用，例如語音識別，并且學(xué)術(shù)界一直在提出新的神經(jīng)網(wǎng)絡(luò)概念。高級網(wǎng)絡(luò)可能需要更復(fù)雜的數(shù)據(jù)流方案。為加速當(dāng)今的 CNN 而開發(fā)的硬件可能過于專業(yè)，無法加速未來的網(wǎng)絡(luò)平臺。因此，應(yīng)將 AI 工作負(fù)載的性質(zhì)視為一個移動目標(biāo)，在靈活性和性能之間取得適當(dāng)平衡，這對于面向未來至關(guān)重要。

爭奪這個空間的戰(zhàn)斗才剛剛開始。獲勝者將是選擇正確的利基市場并努力追求的公司，投資于軟件堆棧和教育行業(yè)，并為這個快速發(fā)展的行業(yè)保持一定的靈活性。當(dāng)然，要以合適的價格做這一切。