0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

部署在邊緣設(shè)備上的輕量級模型

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-05-11 00:17 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計算能力放置在接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被部署在邊緣設(shè)備上,如傳感器、智能手機(jī)、攝像頭等,以便在靠近數(shù)據(jù)源的地方進(jìn)行智能決策和數(shù)據(jù)處理。

邊緣AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型

邊緣AI算法的工作原理涉及三個關(guān)鍵要素:終端設(shè)備、邊緣計算和人工智能算法。終端設(shè)備收集到的數(shù)據(jù)被認(rèn)為是邊緣數(shù)據(jù),需要進(jìn)行實時處理和分析。邊緣計算是指在距離數(shù)據(jù)源較近的地方進(jìn)行計算和處理,而邊緣設(shè)備通常配備有一定的計算資源,能夠執(zhí)行一部分輕量級的AI算法和數(shù)據(jù)處理。在邊緣設(shè)備上運行的AI算法通常是經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進(jìn)行實時的數(shù)據(jù)處理和分析,從而實現(xiàn)即時響應(yīng)。

邊緣AI算法涵蓋了多種類型,如決策樹算法,這是一種常用的分類算法,能夠根據(jù)特征屬性將數(shù)據(jù)進(jìn)行劃分,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。支持向量機(jī)(SVM)算法,這是一種針對分類和回歸分析問題的算法,它通過尋找最大間隔超平面來實現(xiàn)數(shù)據(jù)的分類和預(yù)測。

神經(jīng)網(wǎng)絡(luò)算法,它模擬了人腦神經(jīng)元的工作原理,能夠處理復(fù)雜的非線性關(guān)系,因此在圖像識別、語音識別等領(lǐng)域有著廣泛的應(yīng)用。貝葉斯算法,這是一種基于貝葉斯定理的分類算法,它能夠根據(jù)先驗概率和樣本數(shù)據(jù)來計算后驗概率,從而實現(xiàn)對數(shù)據(jù)的分類和預(yù)測。

聚類算法,用于將數(shù)據(jù)集中的對象分成不同的組,常見的算法包括K均值算法、層次聚類算法等。回歸分析算法,用于建立變量之間的關(guān)系模型,從而進(jìn)行預(yù)測和分析。

此外,還有監(jiān)督學(xué)習(xí)算法、無監(jiān)督學(xué)習(xí)算法、強(qiáng)化學(xué)習(xí)算法和深度學(xué)習(xí)算法等。監(jiān)督學(xué)習(xí)算法使用有標(biāo)記數(shù)據(jù)集進(jìn)行訓(xùn)練,并通過這些數(shù)據(jù)中的輸入和輸出之間的關(guān)聯(lián)來構(gòu)建模型;無監(jiān)督學(xué)習(xí)算法則是使用無標(biāo)記數(shù)據(jù)集進(jìn)行訓(xùn)練,通過發(fā)現(xiàn)數(shù)據(jù)之間的模式或結(jié)構(gòu)來構(gòu)建模型;強(qiáng)化學(xué)習(xí)算法則是通過在環(huán)境中執(zhí)行一系列操作來學(xué)習(xí)最優(yōu)策略的算法;深度學(xué)習(xí)算法則是一種基于神經(jīng)網(wǎng)絡(luò)模型的機(jī)器學(xué)習(xí)算法,通過多層次的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來模擬人腦的工作方式。
這些算法在邊緣AI中可以根據(jù)具體的應(yīng)用場景進(jìn)行選擇和組合,以實現(xiàn)對數(shù)據(jù)的分析、預(yù)測和決策支持。

邊緣AI算法適合應(yīng)用于對實時性要求高、網(wǎng)絡(luò)連接有限的場景

邊緣AI算法的使用場景包括,實時性要求高的場景,例如自動駕駛汽車和無人駕駛系統(tǒng),這些系統(tǒng)需要實時處理大量的傳感器數(shù)據(jù)以進(jìn)行道路分析和響應(yīng)。邊緣AI算法能夠在設(shè)備端進(jìn)行實時的數(shù)據(jù)處理和分析,實現(xiàn)即時響應(yīng),滿足自動駕駛系統(tǒng)對實時性的高要求。

網(wǎng)絡(luò)連接有限的場景,在一些偏遠(yuǎn)地區(qū)或網(wǎng)絡(luò)覆蓋不足的地方,將數(shù)據(jù)全部傳輸?shù)皆贫诉M(jìn)行處理可能不太現(xiàn)實。在這些場景中,邊緣AI算法可以在本地設(shè)備上進(jìn)行數(shù)據(jù)處理和分析,減少了對網(wǎng)絡(luò)連接的依賴,保證了系統(tǒng)的穩(wěn)定性和可靠性。

隱私保護(hù)要求強(qiáng)的場景,對于一些涉及個人隱私的數(shù)據(jù),如醫(yī)療數(shù)據(jù)、金融數(shù)據(jù)等,將數(shù)據(jù)全部傳輸?shù)皆贫丝赡艽嬖谛孤讹L(fēng)險。在這些場景中,將AI算法部署在邊緣設(shè)備上可以在本地對數(shù)據(jù)進(jìn)行處理和分析,保護(hù)數(shù)據(jù)的隱私性。

在實際的應(yīng)用落地方面,如智慧安防領(lǐng)域,云天勵飛通過部署在攝像頭等邊緣設(shè)備上的AI算法,實現(xiàn)了實時的人臉識別、行為分析等功能,為公安部門提供了有效的技術(shù)支持。在智能園區(qū)、智能樓宇等領(lǐng)域,云天勵飛也通過邊緣AI算法的應(yīng)用,實現(xiàn)了能源管理、環(huán)境監(jiān)測等智能化功能。

曠視科技針對邊緣設(shè)備推出多種AI解決方案,包括邊緣計算智能分析盒、AIoT操作系統(tǒng)等。來支持在邊緣設(shè)備上實時運行復(fù)雜的AI算法,實現(xiàn)數(shù)據(jù)的快速處理和分析。同時,曠視科技還提供了全方位的服務(wù),幫助用戶將算法應(yīng)用于實際場景,并推廣到市場。

還有商湯科技,通過云智能邊緣盒龍騰邊緣計算的產(chǎn)品,為智能相機(jī)提供接入和解析能力,支持車、物、非機(jī)動車、行為等多種算法融合解析,算法自由調(diào)度,具備數(shù)據(jù)邊緣匯聚、邊緣解析、邊緣自治、云邊協(xié)同的能力。此外,商湯科技還通過標(biāo)準(zhǔn)化的大模型生產(chǎn)流程,支持了超過七成的行業(yè)業(yè)務(wù),為市場提供了豐富的邊緣AI解決方案。

寫在最后

總的來說,邊緣AI算法部署在邊緣設(shè)備上,通常是經(jīng)過經(jīng)過優(yōu)化和壓縮的輕量級模型,這些模型能夠在設(shè)備端進(jìn)行實時的數(shù)據(jù)處理和分析。邊緣AI算法適用于需要實時處理數(shù)據(jù)、網(wǎng)絡(luò)連接有限、隱私保護(hù)要求高的場景中,在工業(yè)制造、智能家居、城市管理、能源管理等方面都已經(jīng)得到應(yīng)用。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31225

    瀏覽量

    269579
  • 邊緣AI
    +關(guān)注

    關(guān)注

    0

    文章

    98

    瀏覽量

    5040
收藏 人收藏

    評論

    相關(guān)推薦

    邊緣設(shè)備設(shè)計和部署深度神經(jīng)網(wǎng)絡(luò)的實用框架

    ,以及由強(qiáng)大而高效的軟件工具鏈補(bǔ)充的低成本邊緣設(shè)備的可用性。此外,需要避免通過網(wǎng)絡(luò)傳輸數(shù)據(jù)——無論是出于安全原因還是僅僅為了盡量減少通信成本。 邊緣人工智能涵蓋廣泛的設(shè)備、傳感器、微控
    的頭像 發(fā)表于 12-20 11:28 ?206次閱讀

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測模型

    網(wǎng)絡(luò)(DenseNet)等創(chuàng)新設(shè)計都是為了克服深層網(wǎng)絡(luò)訓(xùn)練中的挑戰(zhàn)而提出的。 3 邊緣設(shè)備部署 邊緣
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何在邊緣部署OpenCV

    的能力。 本文章主要講述如何在邊緣設(shè)備使用OpenCV。本次使用的邊緣設(shè)備是凌智電子開發(fā)的凌智視覺模塊,具體如下: 如對該
    發(fā)表于 12-14 09:31

    AI模型部署邊緣設(shè)備的奇妙之旅:如何實現(xiàn)手寫數(shù)字識別

    處理,而不必傳輸?shù)酵獠糠?wù)器,這有助于更好地保護(hù)用戶隱私和數(shù)據(jù)安全。 然而,邊緣計算也帶來了獨特的挑戰(zhàn),特別是資源受限的嵌入式系統(tǒng)中部署復(fù)雜的AI模型時。為了確保神經(jīng)網(wǎng)絡(luò)
    發(fā)表于 12-06 17:20

    恩智浦如何在邊緣設(shè)備部署LLM

    開放式聊天機(jī)器人到任務(wù)型助手。雖然LLM主要聚焦基于云和服務(wù)器端的應(yīng)用,但人們對嵌入式系統(tǒng)和邊緣設(shè)備部署這些模型的興趣也
    的頭像 發(fā)表于 11-29 09:39 ?435次閱讀

    設(shè)備利用AI Edge Torch生成式API部署自定義大語言模型

    ,從而無縫地將新的設(shè)備端生成式 AI 模型部署邊緣設(shè)備。本文是 Google AI Edge
    的頭像 發(fā)表于 11-14 10:23 ?487次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>設(shè)備</b><b class='flag-5'>上</b>利用AI Edge Torch生成式API<b class='flag-5'>部署</b>自定義大語言<b class='flag-5'>模型</b>

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯??萍?、極達(dá)科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edgeBMC解決方案新品發(fā)布會”。本次活動以“邊緣計算聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育、醫(yī)療
    的頭像 發(fā)表于 08-30 12:28 ?342次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    邊緣計算 聚智創(chuàng)芯|edge BMC輕量級帶外管理解決方案重磅發(fā)布

    8月28日,英特爾、芯海科技、極達(dá)科技攜手深圳英特爾大灣區(qū)科技創(chuàng)新中心,共同舉辦了“輕量級帶外管理edge BMC解決方案新品發(fā)布會”。本次活動以“邊緣計算 聚智創(chuàng)芯”為主題,吸引了工業(yè)、教育
    發(fā)表于 08-29 14:55 ?935次閱讀
    <b class='flag-5'>邊緣</b>計算 聚智創(chuàng)芯|edge BMC<b class='flag-5'>輕量級</b>帶外管理解決方案重磅發(fā)布

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    是面向單片機(jī)的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機(jī)上運行輕量級深度學(xué)習(xí)模型~ 開源地址:https://github.com/sipeed/TinyMaix搭建
    發(fā)表于 08-09 18:26

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    D9360國產(chǎn)開發(fā)板)的TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫方案測試。 算力測試 TinyMaix 是面向單片機(jī)的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即 TinyML 推理庫,可以讓你在任意單片機(jī)上運行輕量級深度
    發(fā)表于 08-07 18:06

    國產(chǎn)芯運行TinyMaxi輕量級的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    TinyMaix是面向單片機(jī)的超輕量級的神經(jīng)網(wǎng)絡(luò)推理庫,即TinyML推理庫,可以讓你在任意單片機(jī)上運行輕量級深度學(xué)習(xí)模型~開源地址:https://github.com/s
    的頭像 發(fā)表于 07-05 08:02 ?1908次閱讀
    國產(chǎn)芯<b class='flag-5'>上</b>運行TinyMaxi<b class='flag-5'>輕量級</b>的神經(jīng)網(wǎng)絡(luò)推理庫-米爾基于芯馳D9國產(chǎn)商顯板

    NVIDIA與恩智浦聯(lián)手,邊緣設(shè)備部署AI模型

    恩智浦工業(yè)及IoT邊緣高級副總裁Charles Dachs表示,人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來,融入Nvidia先進(jìn)的AI培訓(xùn)技術(shù)以及恩智浦工業(yè)及物聯(lián)網(wǎng)邊緣科研實力,將產(chǎn)生協(xié)同效益,讓用戶能更迅速地將自家AI
    的頭像 發(fā)表于 03-25 16:05 ?919次閱讀

    百度智能云推出全新輕量級模型

    近日舉辦的百度智能云千帆產(chǎn)品發(fā)布會上,三款全新的輕量級模型——ERNIE Speed、ERNIE Lite以及ERNIE Tiny,引起了業(yè)界的廣泛關(guān)注。相較于傳統(tǒng)的千億級別參數(shù)大模型
    的頭像 發(fā)表于 03-22 10:28 ?688次閱讀

    百度智能云發(fā)布三款輕量級模型和兩款特定場景大模型

    百度智能云千帆產(chǎn)品發(fā)布會上震撼推出了一系列創(chuàng)新產(chǎn)品,其中包括三款輕量級模型:ERNIE Speed、ERNIE Lite和ERNIE Tiny,以及兩款專為特定場景打造的ERNIE
    的頭像 發(fā)表于 03-22 10:28 ?733次閱讀

    ELF 1 開發(fā)板實現(xiàn)讀取攝像頭視頻進(jìn)行目標(biāo)檢測

    當(dāng)前,將AI或深度學(xué)習(xí)算法(如分類、目標(biāo)檢測和軌跡追蹤)部署到嵌入式設(shè)備,進(jìn)而實現(xiàn)邊緣計算,正成為輕量級深度學(xué)習(xí)算法發(fā)展的一個重要趨勢。今天將與各位小伙伴分享一個實際案例:
    的頭像 發(fā)表于 01-24 10:38 ?723次閱讀
    <b class='flag-5'>在</b>ELF 1 開發(fā)板<b class='flag-5'>上</b>實現(xiàn)讀取攝像頭視頻進(jìn)行目標(biāo)檢測