高通讓AI觸手可及在5G時(shí)代

在高通人工智能開放日之后，我們需要再次刷新對高通這家公司的認(rèn)知了。

不需要耗費(fèi)巨大的算力，高通與vivo、騰訊王者榮耀、騰訊AI Lab合作，他們正共同打造一支AI電競戰(zhàn)隊(duì)“SUPEX”，將與人類玩家對戰(zhàn)。

讓手機(jī)芯片就能打敗王者榮耀人類職業(yè)戰(zhàn)隊(duì)，而這只是高通對未來AI暢想的起點(diǎn)。

曾經(jīng)在大眾眼中，高通驍龍系列SoC、4G調(diào)制解調(diào)器幾乎占據(jù)了Android手機(jī)的主流市場。而高通的發(fā)展定位顯然不只為一家行業(yè)領(lǐng)先的芯片公司那么簡單。

實(shí)際上，在過去的10年間，強(qiáng)大的技術(shù)研發(fā)底蘊(yùn)，已經(jīng)讓高通在不知不覺中成為一家5G+AI雙引擎驅(qū)動(dòng)的科技公司。

5G的作用不僅僅是使手機(jī)網(wǎng)絡(luò)更快，它也賦予了AI更多、更復(fù)雜的應(yīng)用場景。AI的出現(xiàn)讓5G的意義遠(yuǎn)遠(yuǎn)超出了手機(jī)通訊。

在5G通訊和AI芯片的加持下，高通正在讓手機(jī)、物聯(lián)網(wǎng)、汽車變得更強(qiáng)大。

手機(jī)行業(yè)一直是高通的主戰(zhàn)場，今年高通的中高端手機(jī)SoC將全面集成高通人工智能引擎AI Engine，未來全球數(shù)十億臺(tái)智能手機(jī)將全部成為邊緣AI設(shè)備，讓手機(jī)用戶充分享受AI技術(shù)變革帶來的紅利。

從驍龍820開始，高通就開始在手機(jī)芯片中加入AI核心。今年的異構(gòu)多核旗艦移動(dòng)平臺(tái)驍龍855集成了最新的高通第四代人工智能引擎AI Engine，所謂異構(gòu)就是由CPU、GPU、Hexagon不同功能的核心發(fā)揮各自所長，而又相互協(xié)作，共同實(shí)現(xiàn)高效的AI處理。

高通驍龍855芯片中，Adreno 640 GPU、Hexagon 690處理器和Kryo 485 CPU相互協(xié)作，通過異構(gòu)計(jì)算智能分配AI任務(wù)，相比前代實(shí)現(xiàn)了整體AI性能3倍的提升。

其中Hexagon 690新增的Hexagon張量加速器（Hexagon Tensor Accelerator，HTA）功不可沒。張量運(yùn)算是AI算法中的基礎(chǔ)操作，PC和云計(jì)算廠商近年來引入張量計(jì)算單元為AI加速。該張量加速器是Qualcomm自主設(shè)計(jì)、面向更多AI處理的硬件核心。

Hexagon張量加速器的加入對手機(jī)行業(yè)意義重大，它不僅使數(shù)字信號(hào)處理的功能得到擴(kuò)展，還讓開發(fā)者實(shí)現(xiàn)可編程的AI加速。AI如今已經(jīng)成為高端智能手機(jī)的核心賣點(diǎn)。

目前，多家安卓廠商的旗艦機(jī)，比如小米9、iQOO、黑鯊手機(jī)2、魅族16s等都已經(jīng)使用上驍龍855?？梢灶A(yù)見，驍龍855還將受到更多OEM廠商的青睞。

當(dāng)然，僅有AI硬件的升級(jí)遠(yuǎn)遠(yuǎn)不夠，還需要有軟件開發(fā)商的支持，才能發(fā)揮出高通第四代人工智能引擎的運(yùn)算潛能。應(yīng)用程序開發(fā)商們不必為此擔(dān)心，高通早已考慮到開發(fā)中的軟件支持問題。

在軟件框架層面，驍龍855底層硬件支持TensorFlow、PyTorch、ONNX等主流機(jī)器學(xué)習(xí)平臺(tái)，以及Google NN API等運(yùn)行軟件框架，讓開發(fā)者充分利用AI特性，圍繞高通人工智能引擎AI Engine，打造覆蓋范圍最廣的AI生態(tài)系統(tǒng)。

在近期舉行的高通AI開放日現(xiàn)場，我們能看到AI為照片去除噪點(diǎn)、實(shí)時(shí)翻譯語音、手勢識(shí)別等實(shí)際應(yīng)用。

曾經(jīng)在PC上需要大量資源才能運(yùn)行的圖像、語音處理模型，如今在手機(jī)上也能輕松運(yùn)行。

而且，大家熟知的AI“獨(dú)角獸”商湯、曠視、虹軟等公司紛紛積極參與到高通的AI生態(tài)“朋友圈”中來，基于高通AI芯片硬件與軟件支持平臺(tái)，將自身AI技術(shù)落地化。

現(xiàn)今多家芯片制造商都利用單獨(dú)的AI核心處理AI任務(wù)，但高通認(rèn)為驍龍系列SoC異構(gòu)多核是一個(gè)更適合的架構(gòu)，AI運(yùn)算應(yīng)該調(diào)用多核心，智能分配任務(wù)，以此實(shí)現(xiàn)更出色的AI運(yùn)算。這不僅能適用于當(dāng)下AI技術(shù)，將來還能應(yīng)對未來出現(xiàn)的各種不同AI算法。

除了旗艦級(jí)SoC外，高通在美國的AI Open Day上推出了驍龍665、730、730G三款中高端移動(dòng)平臺(tái)，在中國的AI開放日上也詳細(xì)講解了這三款移動(dòng)平臺(tái)，它們的共同點(diǎn)是都加入了高通人工智能引擎AI Engine，可以為手機(jī)用戶提供更強(qiáng)勁的拍攝、AI和游戲體驗(yàn)。

其中驍龍730G更是集成了高通第四代人工智能引擎AI Engine，旨在為玩家?guī)砀咚降挠螒蝮w驗(yàn)。近日，三星也宣布推出了首款搭載驍龍730G的手機(jī)Galaxy A80。

將前沿技術(shù)下放到中端設(shè)備，實(shí)現(xiàn)“AI民主化”也是高通的愿景之一。高通預(yù)計(jì)到2025年，手機(jī)等細(xì)分市場的AI滲透率將達(dá)到100%，其中必然少不了高通芯片的努力。

AI的無限種可能

手機(jī)是最普遍存在的AI終端，但是高通的AI布局絕不僅僅在手機(jī)上，高通正在踐行AI+物聯(lián)網(wǎng)、AI+汽車，讓AI技術(shù)滲透到手機(jī)以外的其他角落。

在AI走向邊緣時(shí)，面向物聯(lián)網(wǎng)的AI迎來全新的增長和機(jī)遇。云端與邊緣的通訊需求，物聯(lián)網(wǎng)設(shè)備對低功耗的要求，讓高通的5G通訊技術(shù)和低功耗IoT芯片發(fā)揮其所長。掃地機(jī)器人、智能音箱、安防攝像頭等設(shè)備核心都有高通芯片的身影。

下一個(gè)風(fēng)口無人駕駛是5G+AI的另一個(gè)重要應(yīng)用場景，無論是哪個(gè)汽車廠商都離不開高通的幫助。而高通對于自動(dòng)駕駛的理解跳出了汽車公司視野，站在一個(gè)更高的角度。

在高通的發(fā)展戰(zhàn)略中，智能的交通設(shè)施不僅僅只有汽車，道路本身也包含無數(shù)傳感器，成為指揮交通不可或缺的一部分。

高通希望將車與車、車與智能交通設(shè)施完全連接起來，形成一張巨大的信息網(wǎng)，讓所有聯(lián)網(wǎng)設(shè)備共享交通系統(tǒng)，讓所有智能設(shè)備共同處理交通信息。

另外，AI還能為司機(jī)提供智能駕駛座艙，為AI添加了人性化特色，不僅在用戶看不見的智能駕駛芯片和算法中，在車內(nèi)的HUD、語言助手等方面，也能讓用戶直接感受到AI的強(qiáng)大。

這里值得一提的是，在業(yè)界領(lǐng)先的驍龍820A平臺(tái)的技術(shù)基礎(chǔ)上，高通也推出了第三代驍龍汽車數(shù)字座艙平臺(tái)，面向入門級(jí)的Performance系列、面向中端的Premiere系列和超級(jí)計(jì)算平臺(tái)Paramount系列，面向車內(nèi)虛擬助理高度直觀的AI體驗(yàn)、汽車與駕駛員之間的自然交互、以及各種情境安全用例，旨在為駕乘人員打造突破性的全新體驗(yàn)。

云端與邊緣協(xié)同發(fā)展

以上都是高通在邊緣計(jì)算市場的努力。5G的出現(xiàn)讓云端和邊緣協(xié)作的模式成為可能，高通顯然不可能放過AI云端市場。

高通估計(jì)，到2025年，AI數(shù)據(jù)中心市場規(guī)模將增長到170億美元，6年內(nèi)增長將10倍。

但是以往云端AI推理的芯片的能效比太低，而ARM架構(gòu)能發(fā)揮出優(yōu)勢。這就是為什么高通最近發(fā)布了Cloud AI 100。它能降低終端與數(shù)據(jù)中心的延遲，提高AI云端效率，用5G與邊緣計(jì)算的結(jié)合變革用戶體驗(yàn)。

傳統(tǒng)CPU并不是為AI數(shù)據(jù)中心而生，FPGA進(jìn)入數(shù)據(jù)中心后將AI性能提升了10倍。高通Cloud AI 100為數(shù)據(jù)中心提供AI加速，還能在FPGA基礎(chǔ)上再提升10倍。

Cloud AI 100還未正式上市，高通就開始為它鋪路搭橋，創(chuàng)造完善的生態(tài)系統(tǒng)支持。Cloud AI 100集成了各種開發(fā)人員工具，包括編譯器、調(diào)試器、分析器、監(jiān)視器、服務(wù)、芯片調(diào)試器等開發(fā)環(huán)境。

此外，它還支持Keras、MXNet、谷歌的TensorFlow、Facebook的PyTorch、百度的PaddlePaddle和微軟的認(rèn)知工具包等主流機(jī)器學(xué)習(xí)框架。

去年11月，高通公司建立了資金達(dá)1億美元的AI創(chuàng)業(yè)基金，專注于自動(dòng)駕駛汽車、機(jī)器人、計(jì)算機(jī)視覺和物聯(lián)網(wǎng)領(lǐng)域。這些創(chuàng)業(yè)企業(yè)都可能成為Cloud AI 100生態(tài)的潛在用戶。

Cloud AI 100應(yīng)用范圍廣泛，微軟用它發(fā)現(xiàn)工業(yè)生產(chǎn)中的安全問題，F(xiàn)acebook用它處理智能助理、視頻AR特效以及加速VR硬件。

例如，F(xiàn)acebook每天要處理超過59.5次的AI翻譯量，進(jìn)行超過200萬億次推理運(yùn)算。數(shù)據(jù)中心的能耗逐年增長，需要有能效比更高的AI硬件節(jié)約成本。

Cloud AI 100不僅僅是硬件，還包含軟件和解決方案。它支持PyTorch、TensorFlow、ONNX等主流AI開發(fā)平臺(tái)。它也不是不僅僅高通手機(jī)芯片的簡單升級(jí)，其AI性能比驍龍855強(qiáng)50倍。

與其他商用方案相比，Cloud AI 100每瓦特性能提升了10倍，節(jié)約了大量能耗。高通表示，Cloud AI 100將于今年下半年出樣。

高通表示，對Cloud AI 100的性能優(yōu)勢有信心，這款芯片將在深度學(xué)習(xí)云端芯片市場占據(jù)一席之地。

高通背后的AI技術(shù)積累

2018年5月，高通在北京成立人工智能研究院Qualcomm AI Research，如今已經(jīng)接近一年。

實(shí)際上，高通有著不為人所熟知的一面，這家以通訊技術(shù)見長的公司已經(jīng)投入AI研發(fā)超過10年。在這10年間其中不乏AI基礎(chǔ)領(lǐng)域的研究，比如神經(jīng)網(wǎng)絡(luò)壓縮、機(jī)器學(xué)習(xí)訓(xùn)練工具等，目的都是在有限的計(jì)算資源內(nèi)盡量提升AI運(yùn)算性能。

高通希望推動(dòng)AI研究實(shí)現(xiàn)高能效，利用AI技術(shù)來優(yōu)化AI模型。高通利用張量分解、通道簡化等手段壓縮AI模型架構(gòu)，壓縮量達(dá)到3倍，同時(shí)準(zhǔn)確度僅損失不到1%。

重視技術(shù)人才是高通AI戰(zhàn)略的核心之一。通訊人才、基礎(chǔ)科學(xué)人才的積累，才是給高通帶來了更多新技術(shù)突破的基礎(chǔ)。

深度學(xué)習(xí)領(lǐng)域知名科學(xué)家、VAE的提出者M(jìn)ax Wellings的加入，幫助高通將基礎(chǔ)科學(xué)與深度學(xué)習(xí)領(lǐng)域相結(jié)合，在AI開放日當(dāng)天，讓高通引以為傲的規(guī)范等變卷積神經(jīng)網(wǎng)絡(luò)（G-CNN）正是 由Wellings所提出，這一研究將廣義相對論和量子場論的數(shù)學(xué)原理應(yīng)用到深度學(xué)習(xí)中，為3D物體識(shí)別提供了新思路。

結(jié)語

無論從硬件還是軟件兩個(gè)方面，高通都做好了應(yīng)對未來幾年AI應(yīng)用井噴的準(zhǔn)備。

5G的出現(xiàn)讓AI有了更多的應(yīng)用場景，用5G將終端和云端連接，共同發(fā)揮出AI的巨大潛力。高通這方面的技術(shù)優(yōu)勢更是毋庸置疑。

高通就像是擁有了下一個(gè)時(shí)代5G+AI“兩條腿”。高通在云端和邊緣AI方面的布局，將幫助高通把AI技術(shù)擴(kuò)展到領(lǐng)域，5G則是高通各領(lǐng)域的橋梁，這”兩條腿”讓高通跑得更快、更遠(yuǎn)。