0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

使用邊緣AI支持在物聯(lián)網(wǎng)設(shè)備上實(shí)現(xiàn)實(shí)時(shí)決策

MATLAB ? 來(lái)源:MATLAB ? 2024-01-04 10:09 ? 次閱讀

物聯(lián)網(wǎng) (IoT) 的戰(zhàn)略潛力推動(dòng)工程師部署了越來(lái)越多的邊緣設(shè)備。這些設(shè)備可在沒(méi)有持續(xù)互聯(lián)網(wǎng)連接的情況下收集、處理和運(yùn)行數(shù)據(jù)推斷。一直以來(lái),各個(gè)機(jī)構(gòu)都是將在邊緣收集的數(shù)據(jù)發(fā)送到云中,由機(jī)器學(xué)習(xí)模型進(jìn)行處理,因?yàn)樵O(shè)備缺乏處理這些數(shù)據(jù)所需的算力。

隨著更強(qiáng)大的處理器和模型壓縮軟件的發(fā)展,對(duì)云計(jì)算的依賴已有所減少。相反,邊緣設(shè)備現(xiàn)在有能力在本地執(zhí)行密集的 AI 計(jì)算,而這種計(jì)算以前是在云中完成的?;ヂ?lián)網(wǎng)連接設(shè)備的數(shù)量預(yù)計(jì)在 2030 年將達(dá)到 290 億臺(tái)[1],隨之而來(lái)的是對(duì)邊緣 AI 的需求的指數(shù)級(jí)增長(zhǎng)。預(yù)計(jì)到 2027 年,邊緣 AI 將融入 65% 的邊緣設(shè)備中[2]。

推動(dòng)邊緣 AI 發(fā)展的賦能技術(shù)

邊緣 AI 市場(chǎng)預(yù)計(jì)將從 2022 年的 156 億美元增長(zhǎng)到 2029 年的 1074 億美元[3]。邊緣 AI 并非新概念,但最新技術(shù)進(jìn)步使得邊緣 AI 的實(shí)現(xiàn)更加簡(jiǎn)單和經(jīng)濟(jì)。如今推動(dòng)邊緣 AI 的四項(xiàng)主要進(jìn)步是:

微控制器 (MCU) 和數(shù)字信號(hào)處理器 (DSP) - 矢量處理器變得更加強(qiáng)大,同時(shí)芯片供應(yīng)商也在對(duì)其進(jìn)行自定義以滿足 AI 處理的需求。這些類(lèi)型的處理器目前在 AI 硬件中占據(jù)著主導(dǎo)地位。

GPU(圖形處理單元)- 最初用于圖形密集型應(yīng)用,如游戲和視頻編輯,GPU 現(xiàn)在已用于訓(xùn)練 AI 模型和運(yùn)行推斷。

AI 加速器 ASIC - 雖然在 AI 相關(guān)任務(wù)中 GPU 的性能優(yōu)于 CPU,但為 AI 工作負(fù)載量身定制的自定義專(zhuān)用集成電路 (ASIC) 可以提供更高的速度和效率。神經(jīng)處理單元 (NPU) 是一種專(zhuān)門(mén)為處理 AI 模型而設(shè)計(jì)的 ASIC,因此它們比 CPU 更適合這項(xiàng)任務(wù)。

模型壓縮方法 - 由于邊緣設(shè)備通常在內(nèi)存和處理能力方面存在限制,因此在保持類(lèi)似準(zhǔn)確性和性能水平的同時(shí)壓縮模型至關(guān)重要。如今最常見(jiàn)的 AI 壓縮方法有:

剪枝 - 刪除不必要或不太重要的參數(shù),以提高 AI 模型的效率、速度和內(nèi)存需求,同時(shí)最大限度地避免性能下降。

量化 - 通過(guò)降低模型中數(shù)值的精度來(lái)降低內(nèi)存負(fù)載,提高模型的推斷速度和能效。

知識(shí)蒸餾 - 將復(fù)雜模型的知識(shí)遷移到更緊湊的模型中,以模擬原始模型的行為和性能。

低秩分解 - 通過(guò)將高維數(shù)據(jù)分解為低維表示來(lái)壓縮高維數(shù)據(jù),以簡(jiǎn)化復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型,同時(shí)保留辨識(shí)特征。

使用邊緣 AI 減少對(duì)云計(jì)算的依賴

雖然邊緣 AI 可能不會(huì)完全取代基于云的計(jì)算,但處理日益增長(zhǎng)的海量數(shù)據(jù)的需求清楚地表明了一點(diǎn):工程師無(wú)法忽視當(dāng)今邊緣 AI 改變游戲規(guī)則的優(yōu)勢(shì)。邊緣 AI 的主要優(yōu)勢(shì)是實(shí)時(shí)的處理和決策,這會(huì)縮短延遲并降低與耗電和云處理相關(guān)聯(lián)的成本?;诰植繑?shù)據(jù)運(yùn)行推斷會(huì)減少發(fā)送到公共云、私有云或混合云進(jìn)行處理的原始數(shù)據(jù)。云服務(wù)在特定應(yīng)用中至關(guān)重要,并且可以通過(guò)在邊緣設(shè)備上運(yùn)行數(shù)據(jù)推斷來(lái)得到增強(qiáng)。

通過(guò)減少對(duì)持續(xù)互聯(lián)網(wǎng)連接的依賴,工程師能夠在許多行業(yè)更高效地實(shí)現(xiàn)邊緣 AI 模型?,F(xiàn)已有超出 400 個(gè)邊緣計(jì)算用例[4],涵蓋 19 個(gè)行業(yè)和 6 個(gè)技術(shù)領(lǐng)域。集成到邊緣設(shè)備中的 AI 模型在一些應(yīng)用中(例如汽車(chē)和醫(yī)學(xué))可能能夠拯救生命。

邊緣 AI 支持在設(shè)備上的實(shí)時(shí)智能決策,可顯著提高許多應(yīng)用的效率、響應(yīng)能力和自適應(yīng)性。

汽車(chē)安全關(guān)鍵型系統(tǒng)

汽車(chē)就是一個(gè)邊緣設(shè)備在本地收集和處理數(shù)據(jù)從而減少必須發(fā)送到云的數(shù)據(jù)量的一個(gè)示例。由于汽車(chē)電子控制單元 (ECU) 的自包含性質(zhì),數(shù)據(jù)處理必須在本地執(zhí)行,安全關(guān)鍵決策必須實(shí)時(shí)作出。汽車(chē) ECU 等邊緣設(shè)備上的機(jī)器學(xué)習(xí)模型通過(guò)使用實(shí)時(shí)數(shù)據(jù)來(lái)適應(yīng)路況并減少碰撞,從而確保乘客安全。

一家汽車(chē)制造商訓(xùn)練機(jī)器學(xué)習(xí)模型來(lái)檢測(cè)過(guò)度轉(zhuǎn)向 - 車(chē)輛后輪在轉(zhuǎn)彎時(shí)失去對(duì)路面的抓地力時(shí)會(huì)出現(xiàn)過(guò)度轉(zhuǎn)向。制造商采集了成千上萬(wàn)個(gè)與車(chē)輛加速度、轉(zhuǎn)向和偏航率(角速度)相關(guān)的數(shù)據(jù)點(diǎn)。通過(guò)將數(shù)據(jù)加載到 MATLAB 中,工程師可以使用 Statistics and Machine Learning Toolbox [5] 訓(xùn)練機(jī)器學(xué)習(xí)模型來(lái)識(shí)別過(guò)度轉(zhuǎn)向。然后,他們使用 MATLAB Coder [6] 將機(jī)器學(xué)習(xí)模型部署并集成到 ECU 中。

ee227628-aa1f-11ee-8b88-92fbcf53809c.png

MATLAB 和 Simulink 的自動(dòng)代碼生成功能支持在嵌入式設(shè)備上進(jìn)行快速原型構(gòu)建和部署邊緣 AI 應(yīng)用,彌合理論和實(shí)踐之間的差距。

醫(yī)療器械中的實(shí)時(shí)決策

邊緣 AI 在醫(yī)療設(shè)備領(lǐng)域的一個(gè)優(yōu)勢(shì)是能夠快速作出決策。實(shí)時(shí)數(shù)據(jù)分析和異常檢測(cè)可實(shí)現(xiàn)及時(shí)干預(yù),并降低與威脅生命和長(zhǎng)期健康狀態(tài)相關(guān)聯(lián)的風(fēng)險(xiǎn)。醫(yī)療邊緣設(shè)備還可以與云中的應(yīng)用程序進(jìn)行通信以記錄數(shù)據(jù),而這不是一項(xiàng)時(shí)間敏感型任務(wù)。這樣,云計(jì)算并不會(huì)阻礙反而增強(qiáng)了邊緣設(shè)備上的數(shù)據(jù)推斷,從而創(chuàng)建了更加強(qiáng)大的設(shè)備網(wǎng)絡(luò)。

例如,某技術(shù)研究所研究小組為人工胰腺 (AP) 系統(tǒng)開(kāi)發(fā)了預(yù)測(cè)算法,可檢測(cè)即將發(fā)生的低血糖和高血糖。該小組創(chuàng)建了虛擬患者,并使用 MATLAB 模擬心率和能量消耗等生理信號(hào)。完整的算法部署在移動(dòng)設(shè)備上,該設(shè)備與胰島素泵、血糖監(jiān)測(cè)儀和可穿戴腕帶通信以實(shí)現(xiàn)有效的血糖濃度控制。最終,該研究小組創(chuàng)建了一個(gè)邊緣設(shè)備網(wǎng)絡(luò),作為一個(gè)集成的健康監(jiān)控系統(tǒng)協(xié)同工作。

結(jié)束語(yǔ)

工程師必須管理的數(shù)據(jù)量日益增長(zhǎng),邊緣 AI 的實(shí)現(xiàn)有助于保持運(yùn)營(yíng)和成本效率,同時(shí)減少對(duì)云處理的依賴。隨著工程師構(gòu)建云推斷和 AI 賦能技術(shù)的不斷發(fā)展,將 AI 集成到邊緣設(shè)備很快成為公司打造特色產(chǎn)品的必要條件。最重要的是,邊緣 AI 應(yīng)被視為云推斷的附加工具,而不是當(dāng)前基于 AI 的系統(tǒng)的替代或全面革新。通過(guò)在邊緣實(shí)現(xiàn) AI 并將云用于允許時(shí)間延遲的應(yīng)用,任何行業(yè)的工程師都可以擴(kuò)展其 AI 工具箱。







審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 微控制器
    +關(guān)注

    關(guān)注

    48

    文章

    7552

    瀏覽量

    151404
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19281

    瀏覽量

    229789
  • 集成電路
    +關(guān)注

    關(guān)注

    5388

    文章

    11545

    瀏覽量

    361784
  • 物聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    2909

    文章

    44625

    瀏覽量

    373243
  • AI加速器
    +關(guān)注

    關(guān)注

    1

    文章

    69

    瀏覽量

    8635

原文標(biāo)題:邊緣 AI:支持在物聯(lián)網(wǎng)設(shè)備上實(shí)現(xiàn)實(shí)時(shí)決策

文章出處:【微信號(hào):MATLAB,微信公眾號(hào):MATLAB】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    邊緣網(wǎng)關(guān)的介紹

    來(lái)自終端設(shè)備的數(shù)據(jù),并將處理后的有價(jià)值信息上傳至云端,同時(shí)實(shí)現(xiàn)對(duì)設(shè)備的遠(yuǎn)程監(jiān)控和控制。 聯(lián)網(wǎng)
    的頭像 發(fā)表于 11-18 17:17 ?247次閱讀

    如何使聯(lián)網(wǎng)邊緣設(shè)備高效節(jié)能?

    電源效率對(duì)于聯(lián)網(wǎng)的成功至關(guān)重要。設(shè)備的效率越高,其功能壽命就越長(zhǎng),用戶體驗(yàn)就越好。您是否組織中實(shí)施了
    的頭像 發(fā)表于 09-24 15:18 ?536次閱讀
    如何使<b class='flag-5'>物</b><b class='flag-5'>聯(lián)網(wǎng)</b><b class='flag-5'>邊緣</b><b class='flag-5'>設(shè)備</b>高效節(jié)能?

    NVIDIA IGX平臺(tái)加速實(shí)時(shí)邊緣AI應(yīng)用

    實(shí)時(shí)邊緣 AI 對(duì)于醫(yī)療、工業(yè)和科學(xué)計(jì)算至關(guān)重要,因?yàn)檫@些任務(wù)關(guān)鍵型應(yīng)用需要即時(shí)數(shù)據(jù)處理、低延遲和高可靠性,以確保作出及時(shí)準(zhǔn)確的決策。這些挑戰(zhàn)不僅涉及硬件平臺(tái)上的高帶寬傳感器處理和
    的頭像 發(fā)表于 09-09 10:14 ?519次閱讀
    NVIDIA IGX平臺(tái)加速<b class='flag-5'>實(shí)時(shí)</b><b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>應(yīng)用

    邊緣計(jì)算聯(lián)網(wǎng)平臺(tái)是什么

    隨著聯(lián)網(wǎng)(IoT)技術(shù)的飛速發(fā)展,萬(wàn)互聯(lián)已成為現(xiàn)實(shí)。然而,面對(duì)海量數(shù)據(jù)的處理與實(shí)時(shí)響應(yīng)需求,傳統(tǒng)的云計(jì)算模式逐漸顯露出其局限性,如數(shù)據(jù)傳
    的頭像 發(fā)表于 09-07 14:16 ?272次閱讀

    芯品# 聯(lián)網(wǎng)市場(chǎng)性能最高的 NPU

    隨著人工智能 (AI我們的日常生活中繼續(xù)發(fā)揮更大的影響力和影響,該領(lǐng)域正在從基于云的推理遷移到邊緣和端點(diǎn)推理?;?b class='flag-5'>邊緣的推理為各種
    的頭像 發(fā)表于 06-26 17:28 ?7830次閱讀
    芯品# <b class='flag-5'>物</b><b class='flag-5'>聯(lián)網(wǎng)</b>市場(chǎng)性能最高的 NPU

    邊緣AI網(wǎng)關(guān),將具備更強(qiáng)大的計(jì)算和學(xué)習(xí)能力

    和管理設(shè)備數(shù)據(jù),提供連接、計(jì)算、存儲(chǔ)和安全等功能的關(guān)鍵設(shè)備。它將聯(lián)網(wǎng)節(jié)點(diǎn)、終端設(shè)備與云平臺(tái)連接在一起,
    的頭像 發(fā)表于 06-06 00:26 ?3525次閱讀

    邊緣計(jì)算智能網(wǎng)關(guān)為聯(lián)網(wǎng)設(shè)備高效通信賦能

    聯(lián)網(wǎng)的世界中,數(shù)以億計(jì)的設(shè)備不斷產(chǎn)生、傳輸和處理數(shù)據(jù)。然而,傳統(tǒng)的云計(jì)算架構(gòu)面對(duì)這些實(shí)時(shí)
    的頭像 發(fā)表于 05-29 14:40 ?690次閱讀

    支持大模型部署和運(yùn)行的邊緣計(jì)算SoC芯片

    的處理器核心、AI加速器、內(nèi)存控制器、外設(shè)接口以及通信接口等關(guān)鍵組件,旨在在數(shù)據(jù)產(chǎn)生的源頭附近(即邊緣實(shí)現(xiàn)實(shí)時(shí)的數(shù)據(jù)處理、分析和決策。
    的頭像 發(fā)表于 05-27 08:00 ?3424次閱讀

    部署邊緣設(shè)備的輕量級(jí)模型

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計(jì)算能力放置接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被部署
    的頭像 發(fā)表于 05-11 00:17 ?2607次閱讀

    聯(lián)網(wǎng)邊緣網(wǎng)關(guān)優(yōu)勢(shì)有哪些及相關(guān)優(yōu)勢(shì)產(chǎn)品

    聯(lián)網(wǎng)應(yīng)用提供了強(qiáng)大的支持。 聯(lián)網(wǎng)邊緣網(wǎng)關(guān)的應(yīng)用場(chǎng)景廣泛,幾乎涵蓋了所有需要
    的頭像 發(fā)表于 03-26 15:20 ?346次閱讀
    <b class='flag-5'>物</b><b class='flag-5'>聯(lián)網(wǎng)</b><b class='flag-5'>邊緣</b>網(wǎng)關(guān)優(yōu)勢(shì)有哪些及相關(guān)優(yōu)勢(shì)產(chǎn)品

    NanoEdge AI的技術(shù)原理、應(yīng)用場(chǎng)景及優(yōu)勢(shì)

    NanoEdge AI 是一種基于邊緣計(jì)算的人工智能技術(shù),旨在將人工智能算法應(yīng)用于聯(lián)網(wǎng)(IoT)設(shè)備和傳感器。這種技術(shù)的核心思想是將數(shù)據(jù)處
    發(fā)表于 03-12 08:09

    基于聯(lián)網(wǎng)平臺(tái)與邊緣計(jì)算網(wǎng)關(guān),打造高效能工廠設(shè)備監(jiān)控系統(tǒng)方案

    ,利用邊緣計(jì)算網(wǎng)關(guān)與聯(lián)網(wǎng)平臺(tái)構(gòu)建工廠車(chē)間在線檢測(cè)設(shè)備監(jiān)控系統(tǒng),實(shí)現(xiàn)實(shí)時(shí)監(jiān)控成為迫切需求。 二、方案介紹 萬(wàn)
    的頭像 發(fā)表于 03-08 15:21 ?464次閱讀
    基于<b class='flag-5'>物</b><b class='flag-5'>聯(lián)網(wǎng)</b>平臺(tái)與<b class='flag-5'>邊緣</b>計(jì)算網(wǎng)關(guān),打造高效能工廠<b class='flag-5'>設(shè)備</b>監(jiān)控系統(tǒng)方案

    智慧社區(qū)建設(shè)中應(yīng)用AI邊緣智能分析設(shè)備、邊緣設(shè)備可以解決哪些問(wèn)題?

    “智慧社區(qū)”的建設(shè)除了可以安裝監(jiān)控?cái)z像頭、AI面部攝像機(jī)等智能設(shè)備來(lái)守護(hù)社區(qū)居民的安全,還可以引入AI邊緣智能分析設(shè)備。例如安裝布置
    的頭像 發(fā)表于 01-15 15:05 ?556次閱讀
    智慧社區(qū)建設(shè)中應(yīng)用<b class='flag-5'>AI</b><b class='flag-5'>邊緣</b>智能分析<b class='flag-5'>設(shè)備</b>、<b class='flag-5'>邊緣</b><b class='flag-5'>設(shè)備</b>可以解決哪些問(wèn)題?

    邊緣AI它到底是什么?能做什么?

    邊緣,減少了數(shù)據(jù)的傳輸延遲和依賴云端的通信需求。邊緣AI能夠接近數(shù)據(jù)源的設(shè)備上進(jìn)行實(shí)時(shí)
    的頭像 發(fā)表于 01-11 14:44 ?1306次閱讀

    工業(yè)聯(lián)網(wǎng)網(wǎng)關(guān)實(shí)現(xiàn)數(shù)據(jù)采集云解決方案 ?

    數(shù)字化轉(zhuǎn)型與決策升級(jí)。對(duì)此,通博聯(lián)基于豐富成熟的行業(yè)落地經(jīng)驗(yàn),提供基于工業(yè)聯(lián)網(wǎng)網(wǎng)關(guān)實(shí)現(xiàn)數(shù)據(jù)采集
    的頭像 發(fā)表于 01-11 14:30 ?600次閱讀
    工業(yè)<b class='flag-5'>物</b><b class='flag-5'>聯(lián)網(wǎng)</b>網(wǎng)關(guān)<b class='flag-5'>實(shí)現(xiàn)</b>數(shù)據(jù)采集<b class='flag-5'>上</b>云解決方案  ?