如今,層出不窮的智能設(shè)備已滲透進(jìn)我們的生活里,語音助手、面部識(shí)別攝像頭,甚至是你的個(gè)人電腦都會(huì)或多或少的裝有這些東西。然而,它們并不能通過魔法來工作,需要一些東西來支持它們所做的所有數(shù)據(jù)處理。一些設(shè)備可以通過大量的數(shù)據(jù)中心在云端完成。其他設(shè)備則是通過人工智能(AI)芯片的幫助來完成所有處理。
據(jù)了解,AI技術(shù)的發(fā)展和應(yīng)用在美國(guó)、中國(guó)和歐盟等世界主要國(guó)家中已經(jīng)成為國(guó)家戰(zhàn)略,在國(guó)家的科技發(fā)展和產(chǎn)業(yè)競(jìng)爭(zhēng)中占據(jù)越來越重要的位置。同時(shí),AI技術(shù)在手寫識(shí)別(例如MNIST數(shù)據(jù)集)、人臉識(shí)別(例如Facebook的DeepFace)、語音識(shí)別(例如亞馬遜的Alexa、Apple的Siri、微軟的Cortana)、機(jī)器人技術(shù)(例如機(jī)器人操作系統(tǒng))、自動(dòng)駕駛(例如TartanRacing),甚至智力游戲(例如Google的AlphaGo)和視頻游戲(例如Pac-mAnt)等領(lǐng)域得到了廣泛應(yīng)用。隨著人工智能的發(fā)展,產(chǎn)生了更多的專業(yè)技術(shù),比如神經(jīng)網(wǎng)絡(luò)模型、機(jī)器學(xué)習(xí)等,依靠經(jīng)驗(yàn)學(xué)習(xí)而不是編程來做出決策。反過來,機(jī)器學(xué)習(xí)為深度學(xué)習(xí)奠定了基礎(chǔ),深度學(xué)習(xí)涉及分層算法,以便更好地理解數(shù)據(jù)。
為訓(xùn)練而設(shè)計(jì)的芯片實(shí)際上扮演著網(wǎng)絡(luò)教師的角色,就像一個(gè)在學(xué)校的孩子。一個(gè)原始的神經(jīng)網(wǎng)絡(luò)最初是不發(fā)達(dá)的,通過輸入大量的數(shù)據(jù)來進(jìn)行訓(xùn)練。訓(xùn)練是依賴于計(jì)算的,所以我們需要專注于訓(xùn)練的AI芯片,它能夠快速有效地處理這些數(shù)據(jù)。芯片越強(qiáng)大,網(wǎng)絡(luò)學(xué)習(xí)速度就越快。
一旦一個(gè)網(wǎng)絡(luò)經(jīng)過訓(xùn)練,它就需要用于推理的芯片,以便使用現(xiàn)實(shí)世界中的數(shù)據(jù),如面部識(shí)別、手勢(shì)識(shí)別、自然語言處理、圖像搜索、垃圾郵件過濾等。將推理視為你最有可能在人工智能系統(tǒng)中看到的方面,除非你從事的是訓(xùn)練方面的人工智能開發(fā)。
你可以把訓(xùn)練看作是在編篡一本字典,而推理則類似于查找單詞并理解如何使用。兩者都是必要、共生的。
值得注意的是,為訓(xùn)練而設(shè)計(jì)的芯片也可以進(jìn)行推理,但推理芯片不能進(jìn)行訓(xùn)練。
云計(jì)算和邊緣
我們需要了解的AI芯片的另一個(gè)方面是,它可以用于云應(yīng)用和邊緣端,當(dāng)然,這也是需要訓(xùn)練和推理的。
云計(jì)算之所以有用,是因?yàn)樗目稍L問性,因?yàn)樗墓δ芡耆梢栽诜莗rem情況下使用。在這些用例中,您不需要設(shè)備上的芯片來處理任何推理,這可以節(jié)省電力和成本。然而,在隱私和安全方面,它也有缺點(diǎn),因?yàn)閿?shù)據(jù)存儲(chǔ)在云服務(wù)器上,可能會(huì)遭到黑客攻擊。對(duì)于推理用例,它也可能效率較低,因?yàn)樗鼪]有邊緣芯片那么專業(yè)。
處理“邊緣推理”的芯片也可以在一個(gè)設(shè)備上,比如面部識(shí)別攝像頭。因?yàn)樗械臄?shù)據(jù)都存儲(chǔ)在設(shè)備上,而且芯片通常都是為特定目的而設(shè)計(jì)——例如,面部識(shí)別攝像頭會(huì)使用一種擅長(zhǎng)運(yùn)行面部識(shí)別模型的芯片。但如在設(shè)備上增加另一個(gè)芯片會(huì)增加成本和電力消耗。重要的是要使用邊緣AI芯片來平衡成本和功率,以確保設(shè)備對(duì)其細(xì)分市場(chǎng)來說成本剛剛好,或者不是太耗電。
以下是這些應(yīng)用程序和芯片通常是如何配對(duì)的:
云+訓(xùn)練
這種配對(duì)的目的是開發(fā)用于推理的人工智能模型。這些模型最終細(xì)化為特定于用例的AI應(yīng)用程序。這些芯片功能強(qiáng)大,運(yùn)行成本昂貴,而且設(shè)計(jì)的目的是盡可能快地進(jìn)行訓(xùn)練。
訓(xùn)練芯片被用于訓(xùn)練Facebook的照片或谷歌翻譯,云推理芯片用于處理你輸入的數(shù)據(jù),使用這些公司創(chuàng)建的模型。其他例子包括人工智能聊天機(jī)器人或大型科技公司運(yùn)營(yíng)的人工智能服務(wù)。
邊緣+推理
使用設(shè)備上的邊緣芯片進(jìn)行推理可以消除任何與網(wǎng)絡(luò)不穩(wěn)定或延遲有關(guān)問題,并且更好地保護(hù)所使用數(shù)據(jù)的隱私和安全性。其優(yōu)點(diǎn)是在上傳大量數(shù)據(jù)時(shí)所需的帶寬,特別是圖像或視頻等可視化數(shù)據(jù),無需相關(guān)成本,因此只要成本和功耗達(dá)到平衡,就可以比云計(jì)算更便宜、更高效。
比如耐能Kneron芯片,KL520和最近推出的KL720芯片,這是為設(shè)備上使用而設(shè)計(jì)的低功耗、低成本的芯片。比如他們的KL520,它能夠給 2D、3D 圖像識(shí)別提供支持,適配各種 2D、3D 傳感器,適用于結(jié)構(gòu)光、ToF、雙目視覺等 3D 傳感技術(shù)并計(jì)算不同神經(jīng)網(wǎng)絡(luò)模型,且兼具規(guī)格、性能、成本等多重優(yōu)點(diǎn),解決 3D 模組相對(duì)較貴、芯片成本高和硬件功耗高等問題。正是這樣,這顆芯片能被廣泛應(yīng)用于智能門鎖、門禁系統(tǒng)、機(jī)器人、無人機(jī)、智能家電、智能玩具等智能物聯(lián)網(wǎng)領(lǐng)域。其他的比如英特爾Movidius和谷歌的Coral TPU。
應(yīng)用領(lǐng)域包括面部識(shí)別監(jiān)控?cái)z像頭,用于行人和危險(xiǎn)檢測(cè)或駕駛意識(shí)檢測(cè)的車輛攝像頭,以及用于語音助手的自然語言處理。
所有這些不同類型的芯片及其不同的實(shí)現(xiàn)、模型和用例都是未來AIoT發(fā)展的必要條件。如果得到5G等其他新興技術(shù)的支持,它們的性能將會(huì)更上一層樓。無論是在家里還是在工作中,人工智能正在迅速成為我們生活的重要組成部分,人工智能芯片空間的發(fā)展將迅速,不久的將來將會(huì)有更多類型的芯片問市,讓我們的工作生活更加便利迅捷。
編輯:hfy
-
云計(jì)算
+關(guān)注
關(guān)注
39文章
7824瀏覽量
137455 -
AI
+關(guān)注
關(guān)注
87文章
30947瀏覽量
269212 -
語音助手
+關(guān)注
關(guān)注
7文章
235瀏覽量
26809 -
聊天機(jī)器人
+關(guān)注
關(guān)注
0文章
339瀏覽量
12314 -
自然語言處理
+關(guān)注
關(guān)注
1文章
618瀏覽量
13562
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論