聯(lián)發(fā)科：正式介紹了AI策略，詳細解析了NeuroPilot 平臺

去年華為率先推出了全球首款人工智能（AI）移動處理器麒麟970之后，蘋果也發(fā)布了集成了AI內(nèi)核的A11處理器。上個月高通也發(fā)布了號稱是其第三代人工智能平臺的驍龍845。顯然，支持人工智能已經(jīng)成為了智能手機芯片的一大趨勢。今年CES期間，聯(lián)發(fā)科也正式宣布推出NeuroPilot 人工智能平臺。1月31日下午，聯(lián)發(fā)科技在北京召開了媒體溝通會，正式介紹了聯(lián)發(fā)科的AI策略，詳細解析了NeuroPilot 平臺。

人工智能技術(shù)走向成熟，邊緣計算成大勢所趨

“AI視覺和AI語音是人工智能的兩大重要應(yīng)用方向。雖然AI技術(shù)幾十年前就已經(jīng)存在，但是由于其錯誤率較高，所以難以走向?qū)嶋H應(yīng)用。比如在AI視覺方面，以前錯誤率在30%左右，而到了2012年時候深度學(xué)習(xí)加入之后便有很大突破，目前AI視覺的錯誤率已經(jīng)降低到了2.25%，這已經(jīng)超過了人的肉眼識別能力（錯誤率5.1%左右）。

同樣，在AI語音方面，2017年谷歌已經(jīng)將錯誤率降低到了4.19%。而在嘈雜情況下，人的辨識錯誤率為5%左右。

以上的這些數(shù)據(jù)都反應(yīng)了，AI在視覺和語音識別方面的準確率已經(jīng)接近甚至超過了人，正因為如此，AI的應(yīng)用才能夠開始走向爆發(fā)。

目前的人工智能應(yīng)用更多的還是依賴于云端，而隨著技術(shù)的發(fā)展，在終端側(cè)部署人工智能已經(jīng)是大勢所趨。

相對于云端人工智能來說，在終端側(cè)部署人工智能有四大優(yōu)勢：

1、可以降低延時，提升反饋的速度。如果人工智能計算完全放到云端的話，就需要設(shè)備把數(shù)據(jù)全部傳輸?shù)皆贫耍缓蟮却贫诉M行處理之后，再將信息傳輸回來，才能做出反饋。顯然，這樣可能會出現(xiàn)延時性。所以，人工智能的操作和運算最好是發(fā)生在離它最近的地方，這樣可以實時的對數(shù)據(jù)進行處理，并做出反饋。這對于自動駕駛等對于延時要求較高的應(yīng)用來說尤為重要。

2、有利于用戶隱私的保護。很多用戶不喜歡將數(shù)據(jù)傳輸?shù)皆贫?，因為這可能會有隱私泄露的風(fēng)險，而且再數(shù)據(jù)傳輸?shù)倪^程當(dāng)中也有可能會出現(xiàn)泄露的風(fēng)險。

3、可以降低對于網(wǎng)絡(luò)連接的依賴。如果人工智能完全依賴于云端，那么在沒有網(wǎng)絡(luò)的情況下就無法使用，顯然這將極大的影響用戶體驗。而在終端側(cè)部署人工智能則能夠在一定程度上擺脫網(wǎng)絡(luò)的限制。另外，隨著接入網(wǎng)絡(luò)的智能終端數(shù)量越來越多，隨時隨刻都會產(chǎn)生大量數(shù)據(jù)，如果所有的數(shù)據(jù)都依賴在云端處理，這將會對于網(wǎng)絡(luò)帶寬提出非常高的要求。不但會增加用戶對于網(wǎng)絡(luò)帶寬成本的支出，也會增加云端服務(wù)提供商對于網(wǎng)絡(luò)帶寬成本的支出。

4、有利于功耗的降低。首先，如果所有的數(shù)據(jù)都傳輸給云端來處理，無疑將極大增加云端計算的功耗。據(jù)聯(lián)發(fā)科介紹，現(xiàn)在我們整個云端的功耗已經(jīng)占整個地球的大概5%左右的電力。而且大量的數(shù)據(jù)從終端通過無線網(wǎng)絡(luò)進行發(fā)送和傳輸也會提升終端的功耗。所以終端能夠進行AI處理的話，將會把整個系統(tǒng)的功耗降下來。

正因為如此，此前聯(lián)發(fā)科總經(jīng)理陳冠州就曾表示，“現(xiàn)階段（聯(lián)發(fā)科）的AI的策略是瞄準邊緣端”。聯(lián)發(fā)科認為，鑒于數(shù)據(jù)，AI的技術(shù)需要經(jīng)歷學(xué)習(xí)和應(yīng)用兩個階段。AI的學(xué)習(xí)體現(xiàn)在云端，應(yīng)用是在邊緣端；成熟AI的學(xué)習(xí)能夠移植到邊緣端，用戶的體驗才是最好的。

NeuroPilot人工智能平臺詳解

為了推動人工智能在邊緣的部署，在今年的CES展會期間，聯(lián)發(fā)科正式推出了NeuroPilot 人工智能平臺。這個平臺通過整合聯(lián)發(fā)科的SoC當(dāng)中的CPU、GPU、APU（AI處理器：Artificial intelligence Processing Unit）及軟件（如NeuroPilot SDK），來形成一個完整的人工智能解決方案。也就是說，CPU、GPU、APU都會參與到人工智能運算當(dāng)中。

聯(lián)發(fā)科技CTO辦公室協(xié)理林宗瑤表示：“通常來說，CPU主要是負責(zé)控制的功能，GPU負責(zé)運算功能，APU則是對整個AI運算做特殊的加速。事實上，CPU、GPU也能夠做AI運算，只不過效率會比APU差，但是比APU更具彈性，APU沒法做其他無關(guān)應(yīng)用。而現(xiàn)在AI功能并不是所有都需要APU來加速計算，有些會放在CPU、GPU上來做（比如英特爾會在CPU當(dāng)中加一些AI功能，Nvidia則是在GPU里加一些AI的功能 ），所以我們才做異構(gòu)運算，不同的工作我們會根據(jù)它的特質(zhì)，把它放到APU/CPU/GPU上面。比如，如果它是一個平行運算量很高的應(yīng)用，而且它需要的是浮點性運算的話，我們就把它放 GPU 到上面來。如果它需要定點性運算，而且需要長時間運算，功耗比較低，所以需要有效率的運算的話，我們放到APU。如果它是一個很多控制的運算，我們就把它放到CPU上。我們會根據(jù)它下一個指令與下下一個工作的分布，去看這個工作需要放到CPU、GPU還是APU，這個其實跟早期的我們CorePilot 有點類似。CorePilot做的是大小核，哪些工作放大核，哪些工作放小核，這些是透過類似像scheduler（調(diào)度程序）的概念。我們現(xiàn)在把CorePilot的功能從大小核演變到它可以去和CPU、GPU、APU做異構(gòu)運算。 聯(lián)發(fā)科過去在大小核這邊是領(lǐng)先的，所以我們會延續(xù)下去?！?/p>

可以說，聯(lián)發(fā)科的這個NeuroPilot 人工智能平臺的異構(gòu)計算與高通通過驍龍神經(jīng)處理引擎軟件框架來調(diào)用驍龍SoC當(dāng)中的CPU、GPU、DSP來實現(xiàn)異構(gòu)的人工智能計算的形式有些類似。主要都是通過軟件根據(jù)需要來合理分配SoC當(dāng)中的資源來做人工智能計算，這樣更加的靈活，更加的高效，并且對于各類APP應(yīng)用也有很好的兼容性，方便調(diào)用。

不同的是，高通主要是通過其DSP來做AI計算加速。而聯(lián)發(fā)科的NeuroPilot人工智能平臺則是通過APU這個單元。而這個APU并不是一個固定的人工智能處理器。

“這里的APU是一個AI處理器的統(tǒng)稱，我們會根據(jù)不同的市場定位和需求采取不同的配置，它既可以是一顆DSP，也可以是兩顆DSP，也可以是NPU，或者是其他的組合。更具有靈活性?！绷肿诂幗忉尩?。

此外，NeuroPilot平臺有完整的API支持，可同時支持高中低階API，可以兼顧到客戶可移植性跟客制化的需求。比如，對于一些需要High level的API framework支持的APP，NeuroPilot支持了市場上現(xiàn)有的眾多AI架構(gòu)，包括Google的TensorFlow、Caffe、Caffe2、Amazon的MXNet、Sony的NNabla等。讓這些合作伙伴可以去寫一些東西。

而對于人臉解鎖、人臉支付一類的需要軟件深度結(jié)合（避免一些安全性的問題）的Pre-built的應(yīng)用，聯(lián)發(fā)科則是通過與一些戰(zhàn)略性合作伙伴（比如國內(nèi)商湯、曠世等）來實現(xiàn)。而這些合作伙伴的需求則是既希望客制化，又希望可以很容易復(fù)制到其他平臺上去?；谶@樣的需求，聯(lián)發(fā)科提出一個Runtime中間層，把一些比較通用的AI應(yīng)用的運算概念裝在里面。再提供一些客制化的接口給合作伙伴提供客制化的需求。

林宗瑤表示：“之所以采用這樣的設(shè)計，一方面是由于合作伙伴不希望自己定制的一些AI指令讓別人知道，所以他們會希望直接從上面對接到最底層來。另一方面，他們希望自己的這些AI指令能更有效的運行。所以有這樣的架構(gòu)，基本上這些深度優(yōu)化的合作伙伴，可以同時兼顧到垂直性和客制化的需求?！?/p>

除了提供人工智能處理器，聯(lián)發(fā)科也推出了NeuroPilot SDK開發(fā)工具包，讓開發(fā)者得以更為便利地采用聯(lián)發(fā)科芯片，打造AI應(yīng)用程序與功能。

“我們的工具包分為從最上層的系統(tǒng) level 到中間的runtime level到后面底層的各個level都有提供。怎么從系統(tǒng)層級到 runtime level，到加速器的層級，這加速器包括 CPU、GPU、APU。那我們合作伙伴可以很容易的去做一些 debug 的開發(fā)工作。NeuroPilot是一個跨平臺、跨產(chǎn)品線的架構(gòu)，所以在不同的操作系統(tǒng)上（Android，Linux…），AI應(yīng)用開發(fā)商看到的NeuroPilot架構(gòu)是一樣的，當(dāng)然這個架構(gòu)會在最底層做一些差異化。也就是說，今天我們在Android平臺的開發(fā)一個AI應(yīng)用，它可以不做轉(zhuǎn)化就把這些應(yīng)用直接搬到Linux上做運行，可以大幅度減少開發(fā)商的工作，這是蠻重要的一個特點。你只要寫一次，基本上就可以跨到很多平臺上面。”

可能前面關(guān)于聯(lián)發(fā)科NeuroPilot人工智能平臺的介紹似乎有些偏技術(shù)，有些不太好理解。不過，我們需要知道的是，聯(lián)發(fā)科的NeuroPilot人工智能平臺不僅括了CPU、GPU、APU等硬件單元，也包括了軟件框架和NeuroPilot SDK，是一個完整的人工智能解決方案平臺。同時它還是一個開放的、跨平臺、跨產(chǎn)品線的架構(gòu)。這也意味著聯(lián)發(fā)科的NeuroPilot人工智能平臺具有很強的普適性，結(jié)合NeuroPilot SDK可以幫助AI開發(fā)商非常容易的實現(xiàn)跨平臺、跨產(chǎn)品線的部署。

聯(lián)發(fā)科：我們要做AI普及者！

相對于去年就推出AI芯片的華為、蘋果，以及號稱已經(jīng)發(fā)展到了第三代AI處理的高通等手機芯片廠商來說，聯(lián)發(fā)科可謂是一個后來者，直到去年年底才透露將會在今年推出AI芯片。不過這并不代表聯(lián)發(fā)科已經(jīng)在這場競爭當(dāng)中面臨失利。

業(yè)內(nèi)常說AI的三個關(guān)鍵要素是：算力、算法和數(shù)據(jù)。而對于芯片廠商來說，AI芯片則是算力和算法的結(jié)合，不過除了這兩點之外，功耗和成本也是需要關(guān)注的關(guān)鍵點。如果避開功耗和成本來談算力就是有點耍流氓了。另外需要注意的是，AI芯片將AI算法和軟件固化在了芯片當(dāng)中，只有支持特定的算法和接口的AI應(yīng)用才會有比較好的加速效果，這也意味的采用專用AI芯片，其可擴展性和軟件可移植性要相對較差。

我們都知道聯(lián)發(fā)科的芯片一直一來都不是單純的以性能見長，更多的強調(diào)的性能和功耗的平衡，以及性價比。同樣，聯(lián)發(fā)科的AI芯片定位也是如此。相對于集成了專用AI芯片（NPU）的蘋果A11、麒麟970來說，雖然其AI計算性能可能更強，但是其功耗和成本也更高。而聯(lián)發(fā)科的NeuroPilot人工智能平臺更多追求的是AI性能、功耗與成本的平衡，同時也兼顧了可擴展性和軟件的可移植性。這也使得聯(lián)發(fā)科將自己定位為終端人工智能的推動者和普及者。

相對于高通、蘋果、華為等AI芯片廠商來說，他們目前更多的關(guān)注點還是在智能手機市場，特別是在高端智能手機市場。而聯(lián)發(fā)科關(guān)注的則是如果將AI帶入到中低端手機當(dāng)中，帶入到聯(lián)發(fā)科現(xiàn)有涉及的智能電視、路由器、物聯(lián)網(wǎng)、車載電子、智能音箱等眾多智能設(shè)備當(dāng)中，成為終端人工智能的普及者，讓更多的用戶體驗到AI所帶來的改變。

以當(dāng)下非?；鸨闹悄芤粝湓O(shè)備為例，目前更多的還是依托于云端來實現(xiàn)人工智能，未來智能音箱也或?qū)⒃诮K端側(cè)部署人工智能，可以進一步提升語音識別的準確度、降低延時、降低對于網(wǎng)絡(luò)的依賴。

目前市場上最火的智能音箱產(chǎn)品當(dāng)屬亞馬遜的Echo，其次是谷歌的Google Home。根據(jù)市場調(diào)查公司 Strategy Analytics公布的最新統(tǒng)計數(shù)據(jù)顯示，2017 年 三季度全球智能音箱出貨量達到了740萬臺，較 2016 年同期暴漲了708%。其中亞馬遜拿下了近7成的市場；谷歌也拿下了兩成以上的市場。其次分別為京東（1.6%）、小米（1.3%） 和阿里巴巴（0.9%）。

而在去年，聯(lián)發(fā)科憑借MT8516成為亞馬遜Echo新一代智能語音助理產(chǎn)品的唯一芯片供應(yīng)商。這也意味著，聯(lián)發(fā)科憑借與亞馬遜的合作一下子就將占據(jù)近70%的智能音箱市場。此外，阿里巴巴的天貓精靈X1也采用的是聯(lián)發(fā)科的MT8516方案。

在物聯(lián)網(wǎng)市場，特別是在終端數(shù)量巨大的共享單車市場，聯(lián)發(fā)科的2G模組、藍牙解鎖、衛(wèi)星定位產(chǎn)品拿下了很大的市場份額。僅在2G模組上，聯(lián)發(fā)科所占份額超過九成。值得一提的是，市面上近一半的共享單車都使用聯(lián)發(fā)科的MT2503芯片模組。而隨著共享單車開始換裝聯(lián)網(wǎng)智能鎖，聯(lián)發(fā)科也或?qū)⒂型麚屜虏糠质袌?。去年MWC聯(lián)發(fā)科推出了旗下首款NB-IoT系統(tǒng)單芯片MT2625，并攜手中國移動發(fā)布了尺寸最小的NB—IoT通用模組。去年11月，聯(lián)發(fā)科還發(fā)布業(yè)界首款支持3GPP R14版標準的NB-IoT雙模芯片MT2621。

另外，WiFi和藍牙傳輸模塊的產(chǎn)品線也是聯(lián)發(fā)科爭奪物聯(lián)網(wǎng)市場的利器。因為，不論是智能電視、智能音箱還是筆記本電腦，都需要WiFi聯(lián)網(wǎng)。聯(lián)發(fā)科在WiFi 802.11ac標準中的市場占有率正在不斷增加，根據(jù)此前數(shù)顯示，這個分支部門目前每年都有超過10%的營收增長。

而最新的消息顯示，下個月即將上市的蘋果智能音箱HomePodH的Wi-Fi定制芯片（ASIC）也是由聯(lián)發(fā)科供應(yīng)的，該芯片也有望是聯(lián)發(fā)科首款7納米制程芯片，ASIC被聯(lián)發(fā)科集團視為未來重點項目，其子公司聚星，在董事長梁公偉親自帶隊下主攻ASIC應(yīng)用，目標成為成長最快速的ASIC供貨商。

智能電視和智能電視盒子也是聯(lián)發(fā)科的強勢市場，目前眾多的智能電視品牌和智能電視盒子廠商都有采用聯(lián)發(fā)科或Mstar（早已被聯(lián)發(fā)科收購）的方案。

2016年底，聯(lián)發(fā)科正式宣布進軍車用芯片市場，并于2017年初推出了汽車及工業(yè)級應(yīng)用的高精度定位全球衛(wèi)星導(dǎo)航系統(tǒng)解決方案MT3303。該方案集成GNSS和內(nèi)存芯片, 可支持GPS、Glonass、Galileo和中國北斗等四種全球衛(wèi)星導(dǎo)航系統(tǒng)規(guī)格。去年二季度這款芯片已經(jīng)正式出貨。

而在智能手機市場，雖然聯(lián)發(fā)科自去年下半年以來遭遇了諸多挫折，不過現(xiàn)在已經(jīng)重回升勢，奪回了不少丟失的中端市場，去年下半年出貨的Helio P30/23都取得了不錯的市場表現(xiàn)。而近期聯(lián)發(fā)科的兩款全新的中端芯片P70、P40也被曝光。

特別值得一提的是，Helio P40和Helio P70都加入了對于AI的支持，通過DSP來進行AI運算，支持caffe 1/2、Google TensorFlow等。

在此次媒體溝通會上，聯(lián)發(fā)科也透露，將會在即將到來的MWC展上正式發(fā)布AI芯片。如果不出意外的話，應(yīng)該就是Helio P40和Helio P70。

從上面的介紹我們不難看出，相對于其他AI芯片廠商來說，聯(lián)發(fā)科不僅在中低端智能手機市場占據(jù)了重要的市場地位，在智能電視、物聯(lián)網(wǎng)、智能音箱等智能設(shè)備也占據(jù)了很大的市場份額，此外在增長潛力巨大的車載電子市場也有布局。而在這些成績的背后，都是聯(lián)發(fā)科自己的SoC芯片技術(shù)、有線/無線聯(lián)網(wǎng)技術(shù)、ISP視覺、語音編解碼引擎、多媒體技術(shù)、傳感器技術(shù)等眾多IP的來支撐的。

“能夠同時擁有這么多技術(shù)，然后同時可以應(yīng)用到這么多產(chǎn)品線的，放眼全球就聯(lián)發(fā)科一家公司。這也使得我們的NeuroPilot AI平臺除了提供最基本AI功能之外，還可搭配我們這些技術(shù)，一起去支持這么多產(chǎn)品線。開發(fā)上只需一次編程，就可以同時部署到很多產(chǎn)品線，所以可以很快把一些AI的應(yīng)用擴散到很多角落去。”

“雖然我們不是AI的先行者，但是我們希望做AI的普及者！”林宗瑤非常有信心的說到。