加速人工智能技術(shù)落地 揭秘Arm中國(guó)的AI布局路線圖

近日，由電子發(fā)燒友主辦的“2019年人工智能技術(shù)峰會(huì)”在深圳成功舉行。本次峰會(huì)以“加速人工智能技術(shù)落地”為主題，匯聚了人工智能產(chǎn)業(yè)鏈上下游領(lǐng)先企業(yè)，超過(guò)一千名專業(yè)觀眾，近30位企業(yè)高管、行業(yè)專家縱論產(chǎn)業(yè)發(fā)展之道，從不同領(lǐng)域、不同產(chǎn)業(yè)環(huán)節(jié)出發(fā)，對(duì)2019年人工智能在中國(guó)市場(chǎng)的進(jìn)一步落地，進(jìn)行了探討及預(yù)測(cè)。

rm中國(guó)市場(chǎng)部負(fù)責(zé)人梁泉與Arm中國(guó)AI產(chǎn)品經(jīng)理?xiàng)罾谝矃⑴c演講，為現(xiàn)場(chǎng)的觀眾帶去了Arm中國(guó)對(duì)于人工智能技術(shù)市場(chǎng)的預(yù)測(cè)以及Arm中國(guó)周易人工智能平臺(tái)的最新進(jìn)展。

連接無(wú)處不在，如何把AI“放”進(jìn)每個(gè)終端？

回顧計(jì)算發(fā)展的歷史，梁泉表示經(jīng)歷了主機(jī)計(jì)算時(shí)代、個(gè)人計(jì)算和軟件、互聯(lián)網(wǎng)、移動(dòng)和云計(jì)算這四次浪潮，第五次浪潮將是一個(gè)由數(shù)據(jù)驅(qū)動(dòng)的全面計(jì)算時(shí)代，Arm生態(tài)系統(tǒng)在這波浪潮中將迎來(lái)巨大的機(jī)遇，推動(dòng)經(jīng)濟(jì)增長(zhǎng)及社會(huì)進(jìn)步。但是，只有把當(dāng)前的先進(jìn)技術(shù)轉(zhuǎn)化為堅(jiān)實(shí)的業(yè)務(wù)，第五次浪潮才會(huì)成為現(xiàn)實(shí)。

Arm中國(guó)市場(chǎng)部負(fù)責(zé)人梁泉

根據(jù)Arm此前的預(yù)測(cè)，到2035年，全球?qū)⒂幸蝗f(wàn)億設(shè)備實(shí)現(xiàn)互聯(lián)。飛速發(fā)展的物聯(lián)網(wǎng)已成為人類文明史中推進(jìn)速度最快的新興經(jīng)濟(jì)體系，全球累計(jì)物聯(lián)網(wǎng)設(shè)備產(chǎn)生的新產(chǎn)值已達(dá)到30萬(wàn)億美元，而在接下來(lái)的20年內(nèi)，預(yù)計(jì)累計(jì)中國(guó)物聯(lián)網(wǎng)相關(guān)設(shè)備及產(chǎn)值就將達(dá)到60萬(wàn)億元以上。

此外，機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)芯片組在取得不斷突破的同時(shí)，AI也持續(xù)向不同垂直行業(yè)領(lǐng)域、邊緣終端縱橫滲透，賦能邊緣設(shè)備發(fā)展，應(yīng)用于每個(gè)IoT終端節(jié)點(diǎn)，從軟/硬兩方面實(shí)現(xiàn)降本增效及體驗(yàn)升級(jí)。整個(gè)AI產(chǎn)業(yè)生態(tài)正在構(gòu)建，新的秩序正在形成?！澳壳?，90%的AI智能設(shè)備都基于Arm IP，Arm IP極大驅(qū)動(dòng)了人工智能和機(jī)器學(xué)習(xí)技術(shù)的發(fā)展。Arm希望與合作伙伴共建面向未來(lái)的智能生態(tài)，實(shí)現(xiàn)這些優(yōu)勢(shì)。”梁泉強(qiáng)調(diào)道。

在此大趨勢(shì)下，如何滿足嵌入式平臺(tái)日益增長(zhǎng)的人工智能智能處理需求？梁泉指出，分布式計(jì)算成為未來(lái)方向，邊緣處理在帶寬、電源、成本、延遲、可靠性和安全性方面提供了好處。因?yàn)椴⒎撬袛?shù)據(jù)都需要發(fā)給數(shù)據(jù)中心去處理，在數(shù)據(jù)被搜集和使用的節(jié)點(diǎn)也應(yīng)該具有這一能力。這意味著不僅要在筆記本電腦處理器中啟用這種邊緣處理能力，還要在性能、功耗和內(nèi)存方面有限的小型嵌入式設(shè)備上實(shí)現(xiàn)這種計(jì)算水平。

此外，梁泉還提到，去年Arm中國(guó)推出的本土工程團(tuán)隊(duì)第一個(gè)成果——周易人工智能平臺(tái)，采用完全自主開發(fā)的AI處理器和軟件框架，讓芯片廠商能夠在現(xiàn)有的技術(shù)能力上，快速部署人工智能計(jì)算的算力，在同等的成本功耗情況下，能做到人工智能應(yīng)用所需要的算力。它的核心包含兩部分，一是Tengine軟件框架，二是AIPU（人工智能處理單元），主要處理卷積神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò)為代表的AI計(jì)算。從優(yōu)化端側(cè)芯片開發(fā)的角度看，周易平臺(tái)降低了兩個(gè)門檻：一方面是SoC集成AI功能的設(shè)計(jì)門檻，另一方面是上層軟件的開發(fā)門檻。

梁泉表示：“未來(lái)的智能生態(tài)，所有基礎(chǔ)革命都必須通過(guò)開放生態(tài)系統(tǒng)把成本功耗降下來(lái)，又能通過(guò)共同的標(biāo)準(zhǔn)和體系讓大家協(xié)作，在同一個(gè)開發(fā)環(huán)境中，把應(yīng)用服務(wù)做好?！?/p>

周易AIPU賦能邊緣AI設(shè)備

眾所周知，過(guò)去幾年AI從一個(gè)被輕視的學(xué)術(shù)冷門研究突然爆紅，一路狂奔到商業(yè)化的最前沿，在安防、金融、教育、制造、家居、娛樂(lè)等各個(gè)與人們生活息息相關(guān)的領(lǐng)域掀起了一股智能化升級(jí)和萬(wàn)物互聯(lián)的颶風(fēng)。

Arm中國(guó)AI產(chǎn)品經(jīng)理?xiàng)罾?/p>

而在Arm中國(guó)AI產(chǎn)品經(jīng)理?xiàng)罾诳磥?lái)，AI芯片的基礎(chǔ)技術(shù)格局可分為云端和邊緣端，目前AI訓(xùn)練基本上都是在云端進(jìn)行的，需要用到的芯片主要是CPU、GPU和TPU等計(jì)算能力相對(duì)更強(qiáng)的芯片；但AI推理就不同了，有在云端進(jìn)行的，也有在設(shè)備端進(jìn)行的，而且現(xiàn)在越來(lái)越多的推理被放到了邊緣側(cè)實(shí)現(xiàn)。這就導(dǎo)致了目前人工智能應(yīng)用面臨以下三大挑戰(zhàn)：

一、數(shù)據(jù)隱私性。目前人工智能應(yīng)用最多的領(lǐng)域是視頻和圖片，以及自然語(yǔ)音處理，這些數(shù)據(jù)的處理基本都是在云端進(jìn)行的，但這些數(shù)據(jù)傳到云端后會(huì)有一個(gè)隱私問(wèn)題，有些數(shù)據(jù)人們其實(shí)是不想傳送到云端的。

二、算力問(wèn)題。由于AI需要做的事情很多，比如物體檢測(cè)、人體檢測(cè)和識(shí)別、跟蹤，以及行為分析等等，加上現(xiàn)在的攝像頭分辨率越來(lái)越高，從720p 到 1080p ，再到4K，使得AI對(duì)算力的要求越來(lái)越高。這就要求芯片具有更高的性能，從幾百GOPS到幾TOPS。

三、功耗問(wèn)題。因?yàn)檫吘墏?cè)功耗限制，設(shè)備一般只有幾瓦，留給AI運(yùn)算的部分只有幾百mW到2W，這就需要新技術(shù)來(lái)應(yīng)對(duì)這個(gè)難題。

為了應(yīng)對(duì)這三大挑戰(zhàn)，Arm中國(guó)周易人工智能平臺(tái)，使用的AI處理器Zhouyi AIPU，采用了全新的為AI設(shè)計(jì)的專用指令集，具有高性能和高靈活性，單核有0.5、1、2、4TOPS可選，還支持多核；是一個(gè)具有硬件IP、軟件SDK和NBB的全棧解決方案；更重要的是，它支持安全擴(kuò)展。

具有周易AIPU的參考芯片框架圖

全新的專用指令集是如何實(shí)現(xiàn)高性能和高靈活性的呢？楊磊解釋說(shuō)，這是因?yàn)锳rm采用了不同顆粒度的指令集，客戶可以根據(jù)自己的需求用類似搭積木的方式來(lái)設(shè)計(jì)自己的AI處理器?！爸噶罴鶕?jù)運(yùn)算能力從小到大，可分為標(biāo)量指令、向量指令和面向AI硬件加速的AI固定指令?！贝送猓瑸榱藵M足定制化和差異化需求，周易人工智能平臺(tái)還支持用戶根據(jù)特定場(chǎng)景，自定義擴(kuò)展AI Fix Function指令?，F(xiàn)場(chǎng)Arm中國(guó)的展示臺(tái)上，秀出的16通道人臉識(shí)別監(jiān)控系統(tǒng)Demo，正是由于周易平臺(tái)Framework作加速，支持的通道數(shù)很多，處理速度也得到了進(jìn)一步的加快。

楊磊還特別指出，在人工智能開發(fā)過(guò)程中工具鏈也是相當(dāng)重要的，Arm可以提供完整的工具鏈供工程師使用。其“一鍵式”周易軟件工具鏈，包括比如Build Tool/Driver、性能優(yōu)化庫(kù)、軟件仿真器，以及AI算法示例等，可以實(shí)現(xiàn)一鍵從算法模型到周易可執(zhí)行文件生成。

邊緣計(jì)算已經(jīng)成為未來(lái)趨勢(shì)。在物聯(lián)網(wǎng)應(yīng)用中，讓智能思考留在本地，其不僅可以降低功耗、降低時(shí)延、節(jié)約帶寬，而且能夠提高設(shè)備的獨(dú)立性、安全性和私密性。“要通過(guò)邊緣計(jì)算實(shí)現(xiàn)物聯(lián)網(wǎng)設(shè)備的本地計(jì)算，需要具備以下幾方面先決條件：具備優(yōu)化的DSP，充分保證功能性安全，以及安全的平臺(tái)架構(gòu)、異構(gòu)系統(tǒng)架構(gòu)、機(jī)器學(xué)習(xí)能力、可擴(kuò)展處理能力，而Arm也在提供周易人工智能平臺(tái)這樣的全棧式解決方案積極促進(jìn)邊緣智能計(jì)算的應(yīng)用落地。”楊磊強(qiáng)調(diào)道。