邊端側(cè)AI規(guī)模應(yīng)用落地難，領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA）如何在通用性和專(zhuān)用性之間找到平衡！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）相對(duì)于云端AI，邊端側(cè)AI在本地進(jìn)行計(jì)算和決策，不需要將數(shù)據(jù)上傳至云端，具備更好的實(shí)時(shí)性、隱私性等特點(diǎn)，近些年，邊端側(cè)AI的應(yīng)用越來(lái)越被看好。

然而邊端側(cè)AI因?yàn)閼?yīng)用場(chǎng)景豐富，碎片化明顯，在落地應(yīng)用上也存在諸多難題，比如，需要針對(duì)不同應(yīng)用場(chǎng)景定制算法，不少硬件方案只能針對(duì)單一應(yīng)用等，因此具備一定通用性的方案會(huì)更被市場(chǎng)需要，比如時(shí)擎科技的領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA）處理器。

領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA）的核心優(yōu)勢(shì)

時(shí)擎科技自2018年成立以來(lái)，一直致力于在萬(wàn)物智聯(lián)的AIoT時(shí)代，從落地場(chǎng)景的需求出發(fā)，通過(guò)領(lǐng)域?qū)Ｓ眉軜?gòu)的處理器和定制化芯片設(shè)計(jì)，為端側(cè)設(shè)備提供支持語(yǔ)音、視覺(jué)、影像、顯示等多模態(tài)智能人機(jī)交互和數(shù)據(jù)處理的芯片產(chǎn)品及完整的系統(tǒng)級(jí)解決方案。

該公司基于RISC-V指令架構(gòu)為端側(cè)智能交互和處理場(chǎng)景量身定制了TimesFormer領(lǐng)域?qū)Ｓ眉軜?gòu)智能處理器，作為處理和計(jì)算核心，推出了AT系列端側(cè)智能處理芯片，可以應(yīng)用于智能家居、智慧家電、泛安防、智能硬件等各類(lèi)端側(cè)設(shè)備中。

時(shí)擎科技也能針對(duì)客戶(hù)應(yīng)用場(chǎng)景的需求，提供定制化芯片的設(shè)計(jì)和交付，以及系統(tǒng)級(jí)應(yīng)用和軟件的開(kāi)發(fā)，為客戶(hù)帶來(lái)差異化的產(chǎn)品和競(jìng)爭(zhēng)力。

目前時(shí)擎科技在售的AT系列端側(cè)智能芯片，是一款高集成度、高能效比的智能處理芯片，可廣泛應(yīng)用于離線語(yǔ)音控制、麥克風(fēng)陣列、入門(mén)級(jí)智能影像應(yīng)用等多種不同應(yīng)用場(chǎng)景中。以其中已經(jīng)量產(chǎn)出貨的AT1000為例–

在產(chǎn)品特點(diǎn)上，AT1000系列芯片搭載了自研的RISC-V主控TM500，主頻高達(dá)300MHz，支持DSP和浮點(diǎn)操作；提供100G高能效AI算力，配套的TimeFlow算法部署工具友好支持各種模型和算子；優(yōu)化的存儲(chǔ)系統(tǒng)保證算法執(zhí)行效率，內(nèi)置MB級(jí)高速SRAM，大容量PSRAM和4MB XIP Flash；專(zhuān)用的高性能語(yǔ)音子系統(tǒng)，支持多達(dá)4+2模擬/數(shù)字麥克風(fēng)輸入，以及立體聲/功放輸出，滿(mǎn)足各類(lèi)基于麥克風(fēng)陣列的語(yǔ)音處理需求。

在應(yīng)用上，AT1000系列其中主要的應(yīng)用場(chǎng)景是通話對(duì)講、語(yǔ)音降噪等。時(shí)擎科技創(chuàng)始人、總裁于欣在接受電子發(fā)燒友采訪的時(shí)候表示，通話對(duì)講場(chǎng)景按照通話距離大體可以分為兩類(lèi)，一類(lèi)是遠(yuǎn)講，典型場(chǎng)景是會(huì)議，一般來(lái)說(shuō)，會(huì)議室的噪聲條件相對(duì)較好，而如今居家辦公的情況比較多，噪聲條件較為復(fù)雜，但最近催生了一些在家中或交通工具上，這些場(chǎng)景對(duì)于設(shè)備降噪能力提出了更高的需求尤其。另一類(lèi)是近講，則主要是以對(duì)講機(jī)作為代表。

在通話對(duì)講方面，雖然應(yīng)用場(chǎng)景各不相同，不過(guò)其核心算法是類(lèi)似的。時(shí)擎科技針對(duì)不同的應(yīng)用場(chǎng)景針對(duì)性地推出了不同型號(hào)的芯片，在封裝、存儲(chǔ)上等方面會(huì)有所差異，用以適配對(duì)算法復(fù)雜度、外設(shè)接口的不同。

時(shí)擎科技TimesFormer智能處理器是一種基于RISC-V指令集的領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA）處理器，專(zhuān)門(mén)針對(duì)端側(cè)智能計(jì)算和各類(lèi)音視頻智能算法的需求而研發(fā)。具有高能效比、高性?xún)r(jià)比、易使用、靈活可擴(kuò)展等特點(diǎn)，可以廣泛的應(yīng)用于端側(cè)人工智能芯片中。

如何理解領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA）呢？于欣解釋到，DSA的核心特點(diǎn)是，它針對(duì)的是一類(lèi)場(chǎng)景，而不只是針對(duì)一個(gè)特定設(shè)備而設(shè)計(jì)，比如，用于邊端側(cè)的語(yǔ)音，也就是各種類(lèi)型的通話對(duì)講都可以用。相比于很多專(zhuān)用的ASIC芯片而言，，DSA是在專(zhuān)用性和通用性上找到了一個(gè)平衡，針對(duì)某一類(lèi)場(chǎng)景所需要的算法所設(shè)計(jì)，可以提供在性能、成本、功耗上滿(mǎn)足需求的優(yōu)質(zhì)方案，又具備一定的通用性保證了芯片足夠大的市場(chǎng)需求范圍。

成立四年多來(lái)，時(shí)擎科技已經(jīng)基于領(lǐng)域?qū)Ｓ眉軜?gòu)（DSA），圍繞各類(lèi)端側(cè)智能應(yīng)用場(chǎng)景，打造了DSA處理器、部署開(kāi)發(fā)工具、端側(cè)AI算法三位一體、緊密融合的全棧技術(shù)方案。團(tuán)隊(duì)的研發(fā)能力和在售產(chǎn)品都獲得了市場(chǎng)的較好認(rèn)可，公司2022全年銷(xiāo)售額也有望超過(guò)七千萬(wàn)元。。

邊端側(cè)AI的優(yōu)勢(shì)和落地難題

相對(duì)于云計(jì)算，邊端側(cè)有它的獨(dú)特優(yōu)勢(shì)。具體來(lái)說(shuō)，邊緣AI允許設(shè)備在本地進(jìn)行AI計(jì)算和決策，不需要連接到互聯(lián)網(wǎng)才能實(shí)現(xiàn)數(shù)據(jù)處理。因此它具備實(shí)時(shí)性好、帶寬資源要求低、隱私性好等諸多特點(diǎn)，因此在很多場(chǎng)景中邊緣AI比云端AI更好的解決實(shí)際的問(wèn)題。這也是為什么近些年邊端側(cè)AI越來(lái)越多的被看好。

實(shí)際上，邊端側(cè)AI是相對(duì)于云來(lái)說(shuō)的，終端側(cè)比較好理解，邊緣側(cè)AI可以怎么理解呢？很多時(shí)候，邊和端是相對(duì)而言。舉一個(gè)典型場(chǎng)景的列子，在監(jiān)控的時(shí)候，很多之前部署的攝像頭都不帶本地AI能力，那是不是就只能將采集的信息上傳至云端進(jìn)行處理呢，答案是否定的。我們可以通過(guò)在這云端之間架設(shè)所謂的邊緣服務(wù)器，從而實(shí)現(xiàn)對(duì)這些視頻采集的信息更接近數(shù)據(jù)端的分析處理。

事實(shí)上很多場(chǎng)景都是如此，比如公司、小區(qū)內(nèi)的視頻監(jiān)控，都可以通過(guò)邊緣服務(wù)器對(duì)這個(gè)小區(qū)域里的視頻進(jìn)行分析處理，相對(duì)于云端來(lái)說(shuō)，它直接部署在本地，從拓?fù)浣Y(jié)構(gòu)上來(lái)看，這就是我們所說(shuō)的邊緣側(cè)。一般而言，如果數(shù)據(jù)采集節(jié)點(diǎn)和傳輸至云端服務(wù)器中間的路徑上所進(jìn)行數(shù)據(jù)加工、處理、分析，則都可以稱(chēng)為邊緣側(cè)的處理。

雖然邊端側(cè)AI比較被看好，不過(guò)在實(shí)際落地應(yīng)用中，還是有不少挑戰(zhàn)。在于欣看來(lái)，這是由于客觀條件決定的，很多邊緣側(cè)的需求，或者待分析的數(shù)據(jù)以及其背后的算法等，會(huì)存在較多的差異。

具體來(lái)看，無(wú)論是識(shí)別人、識(shí)別物體，還是工業(yè)應(yīng)用中使用機(jī)器視覺(jué)做缺陷檢測(cè)，雖然都是識(shí)別、檢測(cè)，但實(shí)際在算法上的差異很大。從這個(gè)角度來(lái)看，就需要多種跟應(yīng)用場(chǎng)景完全匹配的算法，沒(méi)有一個(gè)通用的算法存在。每個(gè)場(chǎng)景都需要有針對(duì)性的算法，并不是說(shuō)做好一個(gè)場(chǎng)景的一套算法，就可以把它輕易復(fù)制到別的場(chǎng)景，這是算法層面可復(fù)制性方面的挑戰(zhàn)。

另外，不同場(chǎng)景應(yīng)用的解決方案也不盡相同，如果是在云端，如GPU的通用計(jì)算方案是主流，而在邊端側(cè)，就不太一樣，可能會(huì)有八仙過(guò)海各顯神通的各種方案，比如時(shí)擎科技就是定制的領(lǐng)域?qū)Ｓ眉軜?gòu)DSA處理器從這個(gè)角度來(lái)看，無(wú)論是算法，還是硬件，很難存在一個(gè)特別通用的方案，而且邊端場(chǎng)景往往對(duì)成本、功耗等方面有更加苛刻的要求，這就決定了需要去做算法和芯片的匹配，這是成為了邊端側(cè)AI復(fù)制推廣的限制。

還有就是，一些AI的算法的訓(xùn)練需要很多數(shù)據(jù)，這也是人工智能不可或缺的一個(gè)環(huán)節(jié)，這也會(huì)給形形色色的邊端側(cè)AI應(yīng)用帶來(lái)更多困難。這些問(wèn)題可以如何去解決呢？于欣認(rèn)為，業(yè)界需要在算法、處理器、工具等上面形成整體的解決方案，針對(duì)一類(lèi)應(yīng)用場(chǎng)景提供解決方案，形成一定的復(fù)制性，而不是說(shuō)每一個(gè)場(chǎng)景都要從零開(kāi)始，某種可以解決邊端側(cè)AI應(yīng)用場(chǎng)景過(guò)于碎片化的難題。

小結(jié)

從目前的發(fā)展勢(shì)頭來(lái)看，未來(lái)AI的應(yīng)用將會(huì)無(wú)處不在，還有很大的發(fā)展空間和潛力。然而任何新興技術(shù)在發(fā)展初期階段，都會(huì)遇到各種各樣的問(wèn)題，AI也不例外。作為企業(yè)來(lái)說(shuō)，如果能夠不斷地進(jìn)行技術(shù)創(chuàng)新，解決發(fā)展過(guò)程中存在的難題，必然能夠在特定的領(lǐng)域占據(jù)重要位置。對(duì)于時(shí)擎科技來(lái)說(shuō)是如此，對(duì)于其他任何AI芯片企業(yè)來(lái)說(shuō)，也是如此。