云知聲李霄寒解讀面向物聯(lián)網(wǎng)的 AI 芯片的應(yīng)用

人工智能與物聯(lián)網(wǎng)技術(shù)和應(yīng)用在過(guò)去幾年飛速發(fā)展，誕生了大量的創(chuàng)新，為人們的生活和工作帶來(lái)了前所未有的體驗(yàn)和可能性。當(dāng)前我們正在歷經(jīng)一個(gè)以人工智能和物聯(lián)網(wǎng)為核心的全新科技浪潮，它將在不久的未來(lái)見(jiàn)證數(shù)以萬(wàn)億計(jì)的智能設(shè)備的互聯(lián)。 ARM 作為全球內(nèi)唯一一個(gè)能夠覆蓋從端到云的計(jì)算架構(gòu)，無(wú)疑將在萬(wàn)億智能物聯(lián)時(shí)代扮演賦能者角色。

10 月24 日，2018 ARM 技術(shù)研討會(huì)在北京成功召開(kāi)。今年大會(huì)主題為“ ARM 助力 創(chuàng)新科技”，作為 ARM 重要的生態(tài)合作伙伴，云知聲副總裁李霄寒博士受邀出席大會(huì)并發(fā)表《面向物聯(lián)網(wǎng)的 AI 芯片的設(shè)計(jì)與思考》主題演講。

云知聲和 ARM 有諸多合作的地方，今年五月,云知聲正式推出基于 ARM 通用核的全球首款面向物聯(lián)網(wǎng)的 AI芯片——UniOne。本次研討會(huì)現(xiàn)場(chǎng)，李霄寒博士結(jié)合云知聲公司實(shí)際情況向在場(chǎng)行業(yè)人士詳細(xì)解讀了 UniOne 芯片的設(shè)計(jì)思路以及芯片系統(tǒng)方案特點(diǎn)，同時(shí)探討了物聯(lián)網(wǎng) AI 芯片的未來(lái)應(yīng)用及發(fā)展趨勢(shì)。

云知聲的物聯(lián)網(wǎng) AI 落地歷程

作為國(guó)內(nèi)頂級(jí)的語(yǔ)音方案供應(yīng)商，云知聲從 2012 年創(chuàng)始至今，一直致力于將人與機(jī)器的語(yǔ)音交互能力從晦澀的機(jī)器算法，逐步封裝成可以調(diào)用的產(chǎn)品，并且落地到大眾消費(fèi)的場(chǎng)景中。

云知聲創(chuàng)造過(guò)不少行業(yè)先例，包括推出國(guó)內(nèi)首家免費(fèi)的語(yǔ)音云平臺(tái)、首個(gè)實(shí)現(xiàn) IVM （智能硬件模組）在白電領(lǐng)域大規(guī)模出貨的 AI 公司、國(guó)內(nèi)首家提出醫(yī)療語(yǔ)音系統(tǒng)解方案并擁有最多合作醫(yī)院的公司，以及發(fā)布首款面向物聯(lián)網(wǎng)的 AI 系列芯片 UniOne 。

李霄寒博士用“從算法到芯片”概括了云知聲公司的發(fā)展歷程：

2012 年-2013年，云知聲創(chuàng)立之初，移動(dòng)互聯(lián)網(wǎng)方興未艾之際，云知聲主要通過(guò)純軟件方案(如語(yǔ)音助手 APP 、公有云平臺(tái))向行業(yè)提供服務(wù)；

2014 年-2015 年，伴隨物聯(lián)網(wǎng)的興起及發(fā)展，對(duì)于 AI 的需求逐漸顯現(xiàn)，云知聲開(kāi)始探索基于通用芯片面向物聯(lián)網(wǎng)和行業(yè)的軟硬件一體化方案，在此期間公司正式確立了“云端芯”的產(chǎn)品及商業(yè)戰(zhàn)略；

2016 年，云知聲 AI 芯片1.0版本——IVM 模組在格力空調(diào)產(chǎn)品上量產(chǎn)出貨，醫(yī)療產(chǎn)品正式登陸北京協(xié)和醫(yī)院。隨后，搭載云知聲技術(shù)方案的產(chǎn)品陸續(xù)在車(chē)載、教育、機(jī)器人等多領(lǐng)域落地。

李霄寒透露，面向不同行業(yè)提供服務(wù)，一方面打磨了云知聲的技術(shù)能力，同時(shí)也讓團(tuán)隊(duì)更加深入地了解場(chǎng)景。更為重要的是，在服務(wù)不同客戶(hù)的過(guò)程中，建設(shè)了云知聲的芯片設(shè)計(jì)能力，讓云知聲堅(jiān)定了自主設(shè)計(jì) AI 芯片，基于專(zhuān)有芯片面向物聯(lián)網(wǎng)行業(yè)提供服務(wù)的決心。

從 IVM 到基于 ARM 核的 AI 芯

人機(jī)交互系統(tǒng)的更迭引發(fā)新一輪產(chǎn)業(yè)變革，語(yǔ)音已成為設(shè)備交互的最有效和最自然的方式。李霄寒指出，物聯(lián)網(wǎng)終端設(shè)備對(duì)于語(yǔ)音、圖像等本體交互具有天然需求，這是云知聲選擇從語(yǔ)音切入物聯(lián)網(wǎng)的根本原因。

他認(rèn)為，要實(shí)現(xiàn)物聯(lián)網(wǎng)的智能化改造，意味著設(shè)備必須具備“感知、表達(dá)、思考”三個(gè)關(guān)鍵能力。

以智能音箱為例，首先它需要通過(guò)聲源定位、遠(yuǎn)場(chǎng)降噪、喚醒/識(shí)別、本地識(shí)別、云端識(shí)別，聽(tīng)懂人聲蘊(yùn)藏的信息。在感知的基礎(chǔ)上，進(jìn)而通過(guò)語(yǔ)音、圖像或其他形象化的方式將內(nèi)容或信息傳達(dá)給用戶(hù)。不僅于此，設(shè)備仍需通過(guò)“云”深入理解用戶(hù)意圖，并結(jié)合多終端信息融合和決策、知識(shí)圖譜以及云端能力，將用戶(hù)需要的內(nèi)容和信息通過(guò)恰當(dāng)?shù)那婪答伣o用戶(hù)。

而要讓物聯(lián)網(wǎng)終端設(shè)備具備“感知、表達(dá)、思考”三方面基礎(chǔ)能力，則必須有硬件載體。李霄寒介紹道，在 UniOne 芯片推出之前，云知聲主要是基于通用芯片以模組（ IVM ）的方式來(lái)為家居、機(jī)器人等行業(yè)客戶(hù)服務(wù)。 IVM 是一個(gè)多芯片方案，上面必須運(yùn)行專(zhuān)用的 DSP 以解決降噪的問(wèn)題，另需配備專(zhuān)門(mén)芯片來(lái)實(shí)現(xiàn)語(yǔ)音識(shí)別、喚醒等功能，方案臃腫且成本高企。

他指出，雖然 IVM 量產(chǎn)后的實(shí)際反饋相當(dāng)不錯(cuò)，但對(duì)于業(yè)務(wù)的長(zhǎng)足發(fā)展卻并非最佳選擇，挑戰(zhàn)主要體現(xiàn)在以下幾個(gè)方面：

邊緣算力需求

物聯(lián)網(wǎng)終端設(shè)備的語(yǔ)音交互過(guò)程中，當(dāng)所有的計(jì)算被放到云端時(shí)，聲學(xué)計(jì)算的部分將對(duì)云端計(jì)算造成較大壓力，容易造成云平臺(tái)成本的增加和計(jì)算延遲。與此同時(shí)，在如家電、車(chē)載、NB-IoT 等諸多特殊場(chǎng)景下，人機(jī)交互完全可在無(wú)網(wǎng)狀態(tài)完成。同樣以智能音箱為例，在真正的物聯(lián)網(wǎng)場(chǎng)景下，它需要精準(zhǔn)判斷用戶(hù)下達(dá)的是如“問(wèn)天氣、聽(tīng)音樂(lè)”等需要聯(lián)網(wǎng)支持的指令，還是像“打開(kāi)空調(diào)、增加溫度”等可在本地完成的需求。不論從客戶(hù)體驗(yàn)還是成本控制等方面考量，都要求在設(shè)備端實(shí)現(xiàn)“邊緣計(jì)算”能力，而 IVM 顯然無(wú)法勝任。

成本的挑戰(zhàn)

在硬件尤其是家電行業(yè)，有一個(gè)約定俗成的說(shuō)法，“成本每增加 1 塊錢(qián)，用戶(hù)需要多花 5 塊錢(qián)買(mǎi)單”。對(duì)于以冰箱、空調(diào)等產(chǎn)品而言，如搭載云知聲 IVM 方案，要消化掉因智能化升級(jí)的方案成本，則產(chǎn)品售價(jià)有可能需要增加 500 元以上，對(duì)于大眾消費(fèi)價(jià)格段的產(chǎn)品而言根本無(wú)法接受，因此 IVM 只能覆蓋小部分高端產(chǎn)品。如果想從金字塔尖下沉到更多的產(chǎn)品上，必須解決成本問(wèn)題。

功耗的挑戰(zhàn)

不同的硬件設(shè)備尤其是白電產(chǎn)品有著嚴(yán)格的國(guó)家及企業(yè)級(jí)功耗標(biāo)準(zhǔn)，低功耗不僅是芯片制造的事，更涉及場(chǎng)景、應(yīng)用、算法。 IVM 模組的方式冗雜的架構(gòu)，無(wú)法在功耗方面做到最優(yōu)，顯然不是最佳選擇。

“基于從業(yè)務(wù)層面所看到的挑戰(zhàn)，以及對(duì)勢(shì)于未來(lái)趨的預(yù)判，2015 年云知聲正式踏上造芯之路?！崩钕龊硎?。

云知聲 UniOne 芯片采用了ARM 核心，同時(shí)自行設(shè)計(jì)了 DeepNet 和 uDSP 等專(zhuān)為深度神經(jīng)網(wǎng)絡(luò)和適量計(jì)算加速的硬件單元。相較于通用芯片，在 DSP 任務(wù)加速、miniNLP 任務(wù)加速、TTS 任務(wù)加速、內(nèi)存帶寬利用效率、NN 任務(wù)提升等核心指標(biāo)，都能帶來(lái)成倍數(shù)的提升。

李霄寒指出，之所以選擇 AMR ，是因?yàn)楹笳邠碛蟹浅Ｈ?、成熟?IP ，可以滿(mǎn)足云知聲這類(lèi)初創(chuàng)公司對(duì)于性能、功耗、成本的極致平衡；其次,云知聲在 AI 芯片設(shè)計(jì)之初便確定了開(kāi)源的模式，即排除核心引擎之外其他應(yīng)用層均可供產(chǎn)品商、方案商靈活設(shè)計(jì)， ARM 提供了非常好的開(kāi)發(fā)生態(tài)。

新局面下物聯(lián)網(wǎng) AI 芯片的挑戰(zhàn)與機(jī)遇

當(dāng)前，物聯(lián)網(wǎng) AI 芯片邊緣側(cè)相關(guān)軟硬件基礎(chǔ)架構(gòu)正在走向標(biāo)準(zhǔn)化，具體表現(xiàn)為網(wǎng)絡(luò)模型標(biāo)準(zhǔn)化、 IR 標(biāo)準(zhǔn)化、IP 同質(zhì)化。具體表現(xiàn)為：

物聯(lián)網(wǎng)AI 芯片主流應(yīng)用場(chǎng)景所需要的網(wǎng)絡(luò)模型已經(jīng)階段性穩(wěn)定，IP 的演化路徑將逐漸走向固化；

NNVM，ONNX 等不同模型在編譯鏈的支持下可以運(yùn)行在同樣的架構(gòu)上，IR 的標(biāo)準(zhǔn)化意味著行業(yè)分工的完成；

MAC（計(jì)算單元）的堆疊成為計(jì)算密度提升的主流手段，當(dāng)前計(jì)算密度的提升對(duì)芯片產(chǎn)品尤其是系統(tǒng)的差異化影響日漸式微，標(biāo)志著精細(xì)化耕作勢(shì)在必行。

李霄寒認(rèn)為，上述的挑戰(zhàn)將會(huì)給AI 芯片公司帶來(lái)一定程度的困擾，但挑戰(zhàn)的同時(shí)也意味著更多的機(jī)遇。他預(yù)測(cè)， AI 芯片創(chuàng)業(yè)公司未來(lái)的競(jìng)爭(zhēng)將主要集中在系統(tǒng)層面，即基于對(duì)不同場(chǎng)景的理解，從提供單一的 AI 芯片到提供完整的 AI 解決方案。