突破算力限制，端側(cè)AI部署提速

2023年8月23日，由電子發(fā)燒友網(wǎng)與ELEXCON2023深圳國際電子展聯(lián)合主辦的2023第七屆人工智能大會暨第四屆人工智能卓越創(chuàng)新獎頒獎典禮圓滿落幕。本次大會主題為“智向遠(yuǎn)大、能者千面”，同時大會邀請到TI德州儀器、愛德萬測試、愛芯元智、安謀科技、樓氏電子、ADI、瑞薩電子等全球知名企業(yè)高管和行業(yè)專家?guī)砭史窒怼?br /> ?
樓氏：創(chuàng)新的音頻解決方案——樓氏DSP及MEMS麥克風(fēng)產(chǎn)品簡介
?
作為首個將MEMS麥克風(fēng)引入手機(jī)端的公司，也是MEMS麥克風(fēng)市場的領(lǐng)導(dǎo)者，樓氏在消費(fèi)級終端音頻領(lǐng)域有著深厚的技術(shù)積累。而隨著降噪等智能音頻的需求逐漸增長，樓氏也推出了智能化的麥克風(fēng)和音頻DSP方案。本屆AI大會上，樓氏電子高級經(jīng)理廖彬彬分享了《創(chuàng)新的音頻解決方案》，并對樓氏的MEMS麥克風(fēng)和DSP產(chǎn)品進(jìn)行了簡介。

樓氏電子高級經(jīng)理 廖彬彬

?
根據(jù)信噪比的性能表現(xiàn)，樓氏有著完整的入門到高端的麥克風(fēng)產(chǎn)品陣容，同時也做到了低功耗、低延遲、低諧波失真等諸多優(yōu)秀特性，其旗艦產(chǎn)品Raptor已經(jīng)在高端TWS耳機(jī)上得到了應(yīng)用。同時針對汽車領(lǐng)域，樓氏也推出了通過AEC-Q100/103的車規(guī)級麥克風(fēng)。近期樓氏也發(fā)布了V2S振動麥克風(fēng)，這類麥克風(fēng)僅通過骨傳導(dǎo)來拾取通話者的聲音，抑制了環(huán)境噪聲，可以用于提高嘈雜環(huán)境中的語音通話質(zhì)量。
?
樓氏的另一音頻產(chǎn)品線同樣在智能麥克風(fēng)應(yīng)用中被廣泛應(yīng)用，那就是其音頻DSP產(chǎn)品線AISonic。AISonic的先進(jìn)DSP算法基于樓氏自研指令集打造，支持硬件加速神經(jīng)網(wǎng)絡(luò)指令，并實(shí)現(xiàn)了極高的計算效率。從IA611到即將推出的IA8202，AISonic DSP的性能也愈發(fā)強(qiáng)大，可以運(yùn)行更加復(fù)雜的算法。
?
同時借助開放式的DSP架構(gòu)，樓氏擁有了頂尖的第三方算法開發(fā)者合作生態(tài)，提供了從語音喚醒、降噪等一系列解決方案。樓氏還提供了專門用于算法開發(fā)的開發(fā)板以及IDE、SDK看，進(jìn)一步助力客戶將其音頻DSP集成到產(chǎn)品中去。
?
ADI：賦能邊緣AI
?
在本次大會上，ADI資深應(yīng)用工程師劉明琳，帶來了關(guān)于“ADI賦能邊緣AI”的主題分享。劉明琳是AI行業(yè)的資深老兵，擁有10年以上的AIoT行業(yè)技術(shù)研發(fā)經(jīng)驗，他表示“人工智能革命正在快速進(jìn)行，驅(qū)使冰冷的機(jī)器能夠看到、聽到和感知周圍的世界并作出決策。越來越多的行業(yè)開始用到AI技術(shù)，而AI技術(shù)的發(fā)展使得深度學(xué)習(xí)這個功能變得強(qiáng)大，可以在微控制器上也實(shí)現(xiàn)智能。”

ADI資深應(yīng)用工程師 劉明琳

?
深度學(xué)習(xí)是基于神經(jīng)元的一個系統(tǒng)，單一數(shù)據(jù)輸入后會進(jìn)入到很多的神經(jīng)元，而不同的神經(jīng)元之間會進(jìn)行交互，最后輸出一個結(jié)果的信息。劉明琳在講述人工智能概述后，也重點(diǎn)介紹了卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用情況，根據(jù)他的介紹ADI邊緣AI已經(jīng)在多個領(lǐng)域有成功的應(yīng)用案例，包括雞蛋大小區(qū)分、指令控制智能頭盔拍照或接電話、智能門鎖的人臉識別、智能電表數(shù)字識別并自動報數(shù)等等。
?
為什么ADI要去做邊緣AI呢？會上，劉明琳也給出了答案。他表示，相較云端，邊緣推理有四大優(yōu)點(diǎn)：①限制功耗使用。在傳感器端計算結(jié)果，花費(fèi)更少的功耗用于通訊和云端計算。②改善時延。本地推理可以更快且穩(wěn)定得到計算結(jié)果。③保護(hù)隱私。本地計算允許在不離開場所的情況下處理和銷毀數(shù)據(jù)。④包含成本和規(guī)模。采用嵌入式方案使得總體方案成本和規(guī)模更低。
?
ADI的AI產(chǎn)品策略主要是三個：低功耗、AI、超安全。低功耗方面，ADI的AI產(chǎn)品是一個小尺寸的低功耗、大內(nèi)存的，可以做普適計算，具有安全、內(nèi)存糾錯、精度模擬等工業(yè)特征，可以助力客戶在工業(yè)領(lǐng)域進(jìn)行多元擴(kuò)張。AI方面，相比傳統(tǒng)的微處理器，ADI深度學(xué)習(xí)加速器可以使處理性能快100倍，功耗不到1%，這使電池應(yīng)用的機(jī)器視覺成為可能。在超安全方面，ADI本身是做安全芯片起家的，安全處理器在業(yè)內(nèi)極具領(lǐng)先，ADI表示它也會將安全技術(shù)集成到MCU內(nèi)部，滿足支付卡行業(yè)標(biāo)準(zhǔn)。
?
目前ADI邊緣處理器主要有兩款，分別為MAX78000和MAX78002。MAX78000是一顆具有超低功耗卷積神經(jīng)網(wǎng)絡(luò)加速器的人工智能微控制器。而MAX78002是一個新升級的產(chǎn)品，據(jù)劉明琳的介紹，這款產(chǎn)品主要是在卷積神經(jīng)網(wǎng)絡(luò)的升級，MAX78002的卷積神經(jīng)網(wǎng)絡(luò)可以處理更大的模型，模擬參數(shù)可以達(dá)到2.3兆，支持的卷積神經(jīng)網(wǎng)絡(luò)層數(shù)可以達(dá)到128層。ADI MAX7800x邊緣處理器深度學(xué)習(xí)應(yīng)用，可覆蓋圖像類應(yīng)用、信號變換、時間序列類應(yīng)用。
?
對于神經(jīng)網(wǎng)絡(luò)運(yùn)算具有超高的性能和能效比。在邊緣設(shè)備上可以實(shí)現(xiàn)深度學(xué)習(xí)推理加速。同時具有超低功耗技術(shù)，可以在極低的功耗下實(shí)現(xiàn)高性能的AI計算，從而延長嵌入式設(shè)備的電池壽命。并且搭載了多種接口，包括攝像頭、I2C、SPI、GPIO等，方便開發(fā)者與外部設(shè)備進(jìn)行連接和交互。
?
瑞薩電子：小資源大能量，邊緣AI解決方案的秘密武器
?
在本次大會上，瑞薩電子資深技術(shù)專家凌滔帶來了主題為“小資源大能量，邊緣AI解決方案的秘密武器”的精彩分享。內(nèi)容主要以AI概述、瑞薩邊緣側(cè)MCU上的AI/ML布局、瑞薩CORTEX M85 MCU三部分進(jìn)行。

瑞薩電子資深技術(shù)專家 凌滔

?
什么是AI呢？“AI對我來說，就是現(xiàn)在的網(wǎng)紅，特別是今年的Chat GPT生成式AI火得一塌糊涂。AI從學(xué)科上定義為研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。”凌滔表示。邊緣側(cè)AI已經(jīng)廣泛覆蓋人臉識別、物體識別、聲音識別、活動場景識別、設(shè)備振動監(jiān)測、設(shè)備電壓電流狀態(tài)監(jiān)測等應(yīng)用場景。


在對AI概念進(jìn)行講解之后，凌滔詳細(xì)介紹了瑞薩邊緣側(cè)MCU上AI/ML的布局。去年，瑞薩收購了專門做機(jī)器學(xué)習(xí)的Reality AI。它擁有實(shí)時分析的端到端自動機(jī)器學(xué)習(xí)工具、生成小型AI軟件、強(qiáng)大的數(shù)學(xué)運(yùn)算內(nèi)核，生成出來的代碼非常緊湊，而且模型具有可解釋性。瑞薩還針對目前主流神經(jīng)網(wǎng)絡(luò)框架開發(fā)了一款e-AI Translator工具，有自帶模型開發(fā)模式（BYOM），這更適用于已有自己模型且想快速部署到瑞薩MCU中的客戶。
?
最后，在本次大會上，瑞薩電子重磅發(fā)布了全球第一顆CORTEX-M85 MCU。那這是一顆什么樣的MCU呢？根據(jù)凌滔的介紹，這是一顆帶Helium的MCU，可以為邊緣節(jié)點(diǎn)人工智能等計算密集型應(yīng)用提供先進(jìn)的DSP/ML功能，運(yùn)算得更快。Cortex-M85提供超過6 CoreMark/MHz的性能，可支持要求最高計算性能和DSP或ML功能的苛刻物聯(lián)網(wǎng)應(yīng)用。瑞薩下一代 RA MCU上的基于攝像頭的人體檢測，與Plumerai合作開發(fā)使用Helium加速，實(shí)現(xiàn)13fps的幀率，性能提升至Cortex-M7內(nèi)核的3.6倍。
?
2023年人工智能產(chǎn)業(yè)概況及應(yīng)用趨勢分析
?
人工智能技術(shù)被認(rèn)為是新一輪科技革命和產(chǎn)業(yè)革命的重要驅(qū)動力量。過去這些年，產(chǎn)業(yè)市場規(guī)?？焖俪砷L，根據(jù)調(diào)研機(jī)構(gòu)數(shù)據(jù)，2021年全球人工智能產(chǎn)業(yè)市場收入總計為3833億美元，2022年達(dá)到4328億美元，同比增長19.6%。預(yù)計2023年將會超過5000億美元規(guī)模。
?
在中國，人工智能產(chǎn)業(yè)的發(fā)展速度更快，2021年中國人工智能核心產(chǎn)業(yè)規(guī)模約為1998億元，預(yù)計2026年將超過6000億元，復(fù)合年增長率達(dá)到24.8%。
?
盡管如此，當(dāng)前人工智能仍處于商業(yè)落地早期，主要面臨場景需求碎片化、人力研發(fā)和應(yīng)用計算成本高、長尾場景數(shù)據(jù)較少導(dǎo)致模型訓(xùn)練精度不夠、模型算法從實(shí)驗室場景到真實(shí)場景效果差距大等行業(yè)痛點(diǎn)。而大模型的出現(xiàn)有望推動人工智能產(chǎn)業(yè)化進(jìn)一步加速。
?
人工智能的應(yīng)用將會向更深更廣的方向發(fā)展。根據(jù)電子發(fā)燒友調(diào)研，智能制造、智能駕駛、機(jī)器人是最被看好的幾個應(yīng)用領(lǐng)域，另外，智能家居、智能消防、智慧農(nóng)業(yè)、醫(yī)療健康、養(yǎng)老、互聯(lián)網(wǎng)、安防、能源、教育、零售等領(lǐng)域也將是人工智能的重要應(yīng)用領(lǐng)域。

電子發(fā)燒友網(wǎng)產(chǎn)業(yè)編輯 李彎彎
?
此外，對于人工智能大規(guī)模落地的驅(qū)動力因素有哪些呢，從調(diào)研結(jié)果來看，算力進(jìn)一步提升、算法繼續(xù)優(yōu)化、開放的數(shù)據(jù)平臺被認(rèn)為是當(dāng)下的主要因素，其他因素還包括生態(tài)系統(tǒng)的建設(shè)、場景有效數(shù)據(jù)化、商業(yè)模式的成熟、成本進(jìn)一步降低等。
?