0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

一文知道TinyML的演變

h1654155282.3538 ? 來源:云漢芯城ICkey ? 作者:云漢芯城ICkey ? 2020-11-11 17:02 ? 次閱讀

TinyML是世界上最新的深度學習人工智能技術。它增強了微控制器中運行機器學習模型的能力。

微控制器是我們幾乎每天使用的許多設備的大腦,從電視遙控器到電梯再到智能音箱,它們無處不在。它連接了多個傳感器、執(zhí)行器(如開關和電機)。同時它擁有計算能力,可以執(zhí)行嵌入式代碼,從傳感器中獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標志著終端用戶享受人工智能方式的重大轉變。來自硬件和軟件行業(yè)的供應商正在合作將人工智能模型引入微控制器。

在電子設備中運行復雜的深度學習模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個微控制器上進行本地運行,可以進行傳感器和執(zhí)行器的邏輯管理。

TinyML的演變

為了看到TinyML的力量,我們需要了解AI在云端和邊緣的演變。

第一階段-云計算中的人工智能

在人工智能早期,機器學習模型是在云中訓練和托管的。運行人工智能所需的巨大計算能力使云計算成為理想。開發(fā)人員和數(shù)據(jù)科學家利用高端CPUGPU來訓練模型,然后利用它們進行推理。每一個使用人工智能的應用都與云通信,最終與微控制器通信來管理傳感器和執(zhí)行器。

第二階段-邊緣AI

雖然云仍然是人工智能的主要發(fā)源地,但它卻同時引入了延遲。想象一下,每次與智能揚聲器通話時,都需要云處理。往返通信中的延誤扼殺了體驗。其他場景,如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等,都要求人工智能模型在本地運行。

邊緣計算是云和本地物聯(lián)網(wǎng)設備之間的管道,成為本地托管人工智能模型的理想選擇。在邊緣運行的人工智能不會受到延遲的影響。

但鑒于邊緣資源有限,訓練和再訓練模式仍然需要云。經過訓練的模型可以托管在邊緣進行推理(即使用機器學習模型的過程),但不能用于訓練。因此,在云中訓練模型并將其部署到邊緣變得很常見。這種方法提供了最好的兩個世界-一個強大的用于訓練的計算環(huán)境(云)和一個用于推理的低延遲托管環(huán)境(邊緣端)。

第三階段-微控制器中的人工智能

雖然在邊緣運行AI對于許多用例來說是一個完美的解決方案,但是在某些情況下部署邊緣計算層是不實際的。例如,將智能音箱和遙控器等消費類設備連接到一個邊緣上就太過分了。它增加了設備的總擁有成本和供應商的支持成本。但這些消費設備實實在在是人工智能發(fā)展的溫床。

在工業(yè)場景中,預測性維護正成為設備的重要組成部分。昂貴的機器和設備需要嵌入機器學習模型來實時檢測異常情況,以提供預測性維護。通過主動檢測故障,客戶可以節(jié)省數(shù)百萬美元的維護成本。

將人工智能直接嵌入微控制器成為消費者和工業(yè)物聯(lián)網(wǎng)場景的關鍵。這種方法不依賴于外部應用程序、邊緣計算層或云。人工智能模型運行的同時,將嵌入式代碼導入微控制器。它成為整體邏輯的一個組成部分,提供無與倫比的速度。

傳統(tǒng)上,機器學習模型總是部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入到微控制器中,所以它們不是資源密集型的。這種方法是將人工智能注入到物聯(lián)網(wǎng)設備的最有效和最具成本效益的方法。

TinyML的生態(tài)系統(tǒng)

雖然TinyML還處于初級階段,但它的生態(tài)系統(tǒng)正在形成。芯片和物聯(lián)網(wǎng)套件制造商,如Adafruit、聯(lián)發(fā)科、Arduino和ST都在其設備中支持TinyML。微軟的Azure Sphere認證的安全微控制器,也可以運行TinyML模型。Tensor Flow Lite是流行的開源深度學習框架的延伸,可以移植到支持的設備上。另一個開源機器學習編譯器Apache TVM也可以用來將模型轉換成TinyML。

新興的AutoML和TinyML平臺,如Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo正在構建工具和開發(fā)環(huán)境,以簡化微控制器的訓練和優(yōu)化模型過程。

TinyML使人工智能無處不在,并為消費者所接受。它將為我們每天使用的數(shù)以百萬計的設備帶來人工智能元素。
責任編輯人:CC

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1804

    文章

    48522

    瀏覽量

    245442
  • 深度學習
    +關注

    關注

    73

    文章

    5550

    瀏覽量

    122377
  • 人工智能技術

    關注

    2

    文章

    219

    瀏覽量

    10727
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    讓智能遍布人形機器人全身,這家國產MCU企業(yè)探索MCU+AI(TinyML

    大模型主要用于處理語義理解、復雜場景感知和長期任務規(guī)劃等高層智能任務,能讓人形機器人在標準化場景中表現(xiàn)出色。但在對實時性要求極高的個性化場景里,AI 大模型卻無法滿足實時控制需求。因此,?MCU+AI(TinyML) 成為種有效的智能化補充方案。
    的頭像 發(fā)表于 04-14 00:44 ?1321次閱讀
    讓智能遍布人形機器人全身,這家國產MCU企業(yè)探索MCU+AI(<b class='flag-5'>TinyML</b>)

    STM32U5?(超低功耗MCU,支持TinyML)全面解析

    STM32U5是意法半導體(ST)推出的款面向低功耗、高安全性與AIoT應用的微控制器(MCU),其設計深度整合了超低功耗架構與TinyML(輕量化機器學習)支持能力。以下從技術特性、TinyML
    的頭像 發(fā)表于 04-08 17:38 ?954次閱讀
    STM32U5?(超低功耗MCU,支持<b class='flag-5'>TinyML</b>)全面解析

    淺談MOS管封裝技術的演變

    隨著智能設備的普及,電子設備也朝著小型化、高性能和可靠性方向發(fā)展。摩爾定律趨緩背景下,封裝技術成為提升性能的關鍵路徑。從傳統(tǒng)的TO封裝到先進封裝,MOS管的封裝技術經歷了許多變革,從而間接地影響到了智能應用的表現(xiàn)。合科泰將帶您深入探討MOS管封裝技術的演變。
    的頭像 發(fā)表于 04-08 11:29 ?366次閱讀
    淺談MOS管封裝技術的<b class='flag-5'>演變</b>

    淺談光模塊的演變與創(chuàng)新

    對更高數(shù)據(jù)傳輸速率的需求呈指數(shù)級增長,是由數(shù)據(jù)中心、云計算的需求所驅動的。光模塊作為光通信系統(tǒng)的基礎構件,正處于這演變的前沿。模塊速度和形態(tài)從400G到1.6T的演變,速度增強技術,以及實現(xiàn)高速光模塊的路徑。
    的頭像 發(fā)表于 02-21 09:15 ?516次閱讀
    淺談光模塊的<b class='flag-5'>演變</b>與創(chuàng)新

    解析工業(yè)互聯(lián)網(wǎng)

    電子發(fā)燒友網(wǎng)站提供《解析工業(yè)互聯(lián)網(wǎng).pptx》資料免費下載
    發(fā)表于 02-20 16:42 ?1次下載

    熵基科技實現(xiàn)BioCV TinyML與DeepSeek大模型融合

    近日,熵基科技宣布了項重大技術突破。該公司自主研發(fā)的“BioCV TinyML模型”已成功與全球知名的LLM大模型DeepSeek實現(xiàn)接入與融合。 這融合成果不僅彰顯了熵基科技在智能物聯(lián)和智慧
    的頭像 發(fā)表于 02-19 16:15 ?563次閱讀

    百度下心大模型正式開源

    隨著心大模型的迭代升級和成本不斷下降,言將于4月1日0時起全面免費,所有PC端和APP端用戶均可體驗心系列最新模型。
    的頭像 發(fā)表于 02-17 13:44 ?375次閱讀

    電動汽車的SiC演變和GaN革命

    電子發(fā)燒友網(wǎng)站提供《電動汽車的SiC演變和GaN革命.pdf》資料免費下載
    發(fā)表于 01-24 14:03 ?1次下載
    電動汽車的SiC<b class='flag-5'>演變</b>和GaN革命

    看懂電感、磁珠和零歐電阻的區(qū)別

    電子發(fā)燒友網(wǎng)站提供《看懂電感、磁珠和零歐電阻的區(qū)別.docx》資料免費下載
    發(fā)表于 01-02 14:48 ?2次下載

    讀懂單燈控制器工作原理

    讀懂單燈控制器工作原理
    的頭像 發(fā)表于 11-11 13:13 ?946次閱讀
    <b class='flag-5'>一</b><b class='flag-5'>文</b>讀懂單燈控制器工作原理

    智慧公交是什么?帶你詳解智慧公交的解決方案!

    智慧公交是什么?帶你詳解智慧公交的解決方案!
    的頭像 發(fā)表于 11-05 12:26 ?755次閱讀
    智慧公交是什么?<b class='flag-5'>一</b><b class='flag-5'>文</b>帶你詳解智慧公交的解決方案!

    讀懂MSA(測量系統(tǒng)分析)

    讀懂MSA(測量系統(tǒng)分析)
    的頭像 發(fā)表于 11-01 11:08 ?1386次閱讀
    <b class='flag-5'>一</b><b class='flag-5'>文</b>讀懂MSA(測量系統(tǒng)分析)

    讀懂新能源汽車的功能安全

    電子發(fā)燒友網(wǎng)站提供《讀懂新能源汽車的功能安全.pdf》資料免費下載
    發(fā)表于 09-04 09:22 ?3次下載

    瑞薩電子推出Reality AI Explorer Tier,用于開發(fā)AI與TinyML解決方案

    全球半導體解決方案供應商瑞薩電子(TSE:6723)宣布推出Reality AI Explorer Tier——作為Reality AI Tools軟件的免費版本,可用于開發(fā)工業(yè)、汽車和商業(yè)應用中的AI與TinyML解決方案。
    的頭像 發(fā)表于 07-19 10:03 ?627次閱讀

    TDK最新xEV解決方案,知道!

    TDK最新xEV解決方案,知道! TDK致力于為各類xEV提供廣泛的產品組合,進而推動未來汽車的發(fā)展。 TDK在汽車行業(yè)中發(fā)揮著至關重要的作用,尤其是在電動汽車時代,從先進的電力電子器件
    的頭像 發(fā)表于 06-16 13:49 ?601次閱讀
    TDK最新xEV解決方案,<b class='flag-5'>一</b><b class='flag-5'>文</b>全<b class='flag-5'>知道</b>!

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品