0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

最大限度地減少算法占用空間并在AI網(wǎng)絡(luò)邊緣進(jìn)行訓(xùn)練

星星科技指導(dǎo)員 ? 來源:嵌入式計算設(shè)計 ? 作者:Yasser Khan ? 2022-11-24 15:24 ? 次閱讀

數(shù)據(jù)處理當(dāng)然不是一個新概念,算法也不是。然而,算法被訓(xùn)練和運行的地方正在迅速發(fā)展。近年來,機(jī)器學(xué)習(xí)(ML)算法的訓(xùn)練基本上是在云環(huán)境中進(jìn)行的,因為能夠利用臨時計算資源來執(zhí)行這些數(shù)據(jù)密集型任務(wù)。

如今,人們大力推動盡可能靠近源頭處理數(shù)據(jù)。這是由于物聯(lián)網(wǎng)IoT)和現(xiàn)在正在生成大量數(shù)據(jù)的各種技術(shù)的出現(xiàn)。所有這些數(shù)據(jù)都讓組織爭先恐后地以經(jīng)濟(jì)高效的方式充分利用它。組織需要考慮從原始源到處理位置的數(shù)據(jù)傳輸成本,以及存儲和處理數(shù)據(jù)的成本,這通常是在資源密集型服務(wù)器/云環(huán)境中。

人工智能AI) 技術(shù)開始出現(xiàn),可以在低計算功率設(shè)備(如基于 ESP32 和 Cortex M4 的微控制器單元 (MCU))上實現(xiàn) ML 模型訓(xùn)練和執(zhí)行,而不是更大的微處理器單元 (MPU)。這允許數(shù)據(jù)保持本地,并且僅在必要時在云中傳輸已處理的數(shù)據(jù)。

通過將訓(xùn)練和運行 ML 模型的總體占用空間要求降低到 100kb 以下,嵌入式計算中的 AI 正在進(jìn)入一個新的領(lǐng)域。例如,與合并排序算法相比,嵌入式算法工程師更歡迎氣泡排序算法,因為前者使用現(xiàn)有內(nèi)存。盡管已經(jīng)存在許多算法,但正在針對嵌入式環(huán)境開發(fā)和優(yōu)化新的基于AI的時間序列預(yù)測算法。通過這種新方法,AI/ML模型在嵌入式板上進(jìn)行訓(xùn)練。然后,這些模型用于在執(zhí)行期間執(zhí)行多變量統(tǒng)計推斷。

這些新的基于AI的時間序列預(yù)測算法有三個優(yōu)點:

該解決方案與網(wǎng)絡(luò)延遲無關(guān),因為計算是在本地板上進(jìn)行的,因此性能得到了提高。

原始數(shù)據(jù)的安全/隱私得到保證,因為原始信號/數(shù)據(jù)只出現(xiàn)在本地。

對于每個嵌入式板,都會訓(xùn)練一個新的 ML/AI 模型。這可能是這種方法的核心優(yōu)勢,因為在典型的工業(yè)案例中,由于環(huán)境變體、傳感器的缺陷和機(jī)器變體,不可能使用單個 ML/AI 模型來覆蓋機(jī)器特征集群。使用云服務(wù)器為每個嵌入式板訓(xùn)練模型也不是負(fù)擔(dān)得起的。

技術(shù)突破

算法在嵌入式計算中發(fā)揮著重要作用。通常,嵌入式設(shè)備執(zhí)行的算法任務(wù)包括傳感器數(shù)據(jù)清理/過濾、數(shù)據(jù)編碼/解碼和控制信號生成。由于內(nèi)存容量、CPU 功率和架構(gòu)不同,嵌入式計算環(huán)境中“最佳算法”的定義可能與 PC 和云服務(wù)器中“最佳算法”的定義大不相同。

在過去的幾年里,AI/ML算法取得了突破和非常迅速的進(jìn)步。許多努力都集中在將AI / ML模型(這些模型在其他地方訓(xùn)練)引入嵌入式上下文。換句話說,要成功部署 AI/ML 模型,需要優(yōu)化算法的內(nèi)存/CPU 使用率和功耗。

人工智能正在縮小,可以運行這些高級算法。技術(shù)進(jìn)步現(xiàn)在允許人工智能和預(yù)測性維護(hù)從基于 MPU 的設(shè)備轉(zhuǎn)向基于 MCU 的設(shè)備,占用空間小,價格顯著降低?;?MCU 的設(shè)備現(xiàn)在可以在網(wǎng)絡(luò)邊緣執(zhí)行以前僅在 MPU 上提供的任務(wù)(例如預(yù)測性維護(hù))。這一新功能使芯片制造商、原始設(shè)備制造商 (OEM) 和智能設(shè)備制造商能夠降低成本并提供差異化的產(chǎn)品。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19329

    瀏覽量

    230134
  • mcu
    mcu
    +關(guān)注

    關(guān)注

    146

    文章

    17172

    瀏覽量

    351557
  • 物聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    2909

    文章

    44713

    瀏覽量

    374258
收藏 人收藏

    評論

    相關(guān)推薦

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測模型

    。 填充(Padding): 填充(Padding)是在卷積神經(jīng)網(wǎng)絡(luò)(CNN)中為輸入張量的邊緣添加額外的像素,以控制輸出特征圖的大小并保持輸入圖像的空間尺寸。填充有助于保留輸入圖像邊緣
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何實現(xiàn)手寫數(shù)字識別

    通過移除神經(jīng)網(wǎng)絡(luò)中不重要或冗余的連接(權(quán)重)或節(jié)點來壓縮模型的技術(shù)。通常,剪枝是基于權(quán)重的絕對值大小來進(jìn)行的,即認(rèn)為較小的權(quán)重對于模型的重要性較低,可以被安全地刪除。 過程: 預(yù)訓(xùn)練階段:首先
    發(fā)表于 12-06 17:20

    TAS5630如何才能最大限度減少電壓失調(diào),或者調(diào)節(jié)為0?

    在交流耦合輸入的情況下,將 BTL 模式下的輸出失調(diào)電壓指定為高達(dá) 150mV。這對PBTL 模式是否同樣適用?如何才能最大限度減少電壓失調(diào),或者調(diào)節(jié)為 0?
    發(fā)表于 11-08 08:02

    最大限度減少TRF7964A和TRF7970A省電模式下的電流消耗

    電子發(fā)燒友網(wǎng)站提供《最大限度減少TRF7964A和TRF7970A省電模式下的電流消耗.pdf》資料免費下載
    發(fā)表于 10-26 10:57 ?0次下載
    <b class='flag-5'>最大限度</b>地<b class='flag-5'>減少</b>TRF7964A和TRF7970A省電模式下的電流消耗

    最大限度地提高M(jìn)SP430? FRAM的寫入速度

    電子發(fā)燒友網(wǎng)站提供《最大限度地提高M(jìn)SP430? FRAM的寫入速度.pdf》資料免費下載
    發(fā)表于 10-18 10:09 ?0次下載
    <b class='flag-5'>最大限度</b>地提高M(jìn)SP430? FRAM的寫入速度

    最大限度減少TPS53355和TPS53353系列器件的開關(guān)振鈴

    電子發(fā)燒友網(wǎng)站提供《最大限度減少TPS53355和TPS53353系列器件的開關(guān)振鈴.pdf》資料免費下載
    發(fā)表于 10-15 11:17 ?0次下載
    <b class='flag-5'>最大限度</b>地<b class='flag-5'>減少</b>TPS53355和TPS53353系列器件的開關(guān)振鈴

    最大限度地提高GSPS ADC中的SFDR性能:雜散源和Mitigat方法

    電子發(fā)燒友網(wǎng)站提供《最大限度地提高GSPS ADC中的SFDR性能:雜散源和Mitigat方法.pdf》資料免費下載
    發(fā)表于 10-10 09:16 ?0次下載
    <b class='flag-5'>最大限度</b>地提高GSPS ADC中的SFDR性能:雜散源和Mitigat方法

    利用智能eFuses最大限度地縮短系統(tǒng)停機(jī)時間

    電子發(fā)燒友網(wǎng)站提供《利用智能eFuses最大限度地縮短系統(tǒng)停機(jī)時間.pdf》資料免費下載
    發(fā)表于 09-25 10:25 ?0次下載
    利用智能eFuses<b class='flag-5'>最大限度</b>地縮短系統(tǒng)停機(jī)時間

    最大限度減少UCC287XX系列的待機(jī)消耗

    電子發(fā)燒友網(wǎng)站提供《最大限度減少UCC287XX系列的待機(jī)消耗.pdf》資料免費下載
    發(fā)表于 09-25 09:35 ?0次下載
    <b class='flag-5'>最大限度</b>地<b class='flag-5'>減少</b>UCC287XX系列的待機(jī)消耗

    如何在C2000設(shè)備中最大限度地利用GPIO

    電子發(fā)燒友網(wǎng)站提供《如何在C2000設(shè)備中最大限度地利用GPIO.pdf》資料免費下載
    發(fā)表于 09-19 13:40 ?0次下載
    如何在C2000設(shè)備中<b class='flag-5'>最大限度</b>地利用GPIO

    通過優(yōu)化補償最大限度減少導(dǎo)通時間抖動和紋波

    電子發(fā)燒友網(wǎng)站提供《通過優(yōu)化補償最大限度減少導(dǎo)通時間抖動和紋波.pdf》資料免費下載
    發(fā)表于 08-26 11:34 ?0次下載
    通過優(yōu)化補償<b class='flag-5'>最大限度</b>地<b class='flag-5'>減少</b>導(dǎo)通時間抖動和紋波

    如何使用低電容探頭最大限度減少探頭負(fù)載

    探測電路總是會對信號產(chǎn)生一定的影響。探頭負(fù)載會改變被探測的信號,可能導(dǎo)致測量問題,甚至可能導(dǎo)致電路執(zhí)行不同的操作。減少電容負(fù)載可以幫助最大限度減少這些影響。在本應(yīng)用中,您將了解低電容探頭如何改進(jìn)
    的頭像 發(fā)表于 03-25 10:51 ?524次閱讀
    如何使用低電容探頭<b class='flag-5'>最大限度</b>地<b class='flag-5'>減少</b>探頭負(fù)載

    快充對電池有傷害嗎 如何最大限度減少快充對電池的影響

    快充對電池有傷害嗎 如何最大限度減少快充對電池的影響 快速充電(也被稱為快充)是一種可快速給手機(jī)電池充電的技術(shù)。雖然快充在我們?nèi)粘I钪袔砹吮憷?,但很多人?dān)心它是否會對手機(jī)電池的壽命產(chǎn)生負(fù)面影響
    的頭像 發(fā)表于 02-19 10:01 ?1992次閱讀

    用于并行采樣的EVADC同步轉(zhuǎn)換,如何在最大化采樣率的同時最大限度減少抖動?

    在我的應(yīng)用程序中,HSPDM 觸發(fā) EVADC 同時對兩個通道進(jìn)行采樣。 我應(yīng)該如何配置 EVADC 以最大限度減少采樣抖動并最大限度地提高采樣率? 在用戶手冊中,它提到 SSE=
    發(fā)表于 01-18 07:59

    Wi-SUN 可最大限度地提高太陽能跟蹤器的性能

    目前,隨著光伏系統(tǒng)技術(shù)的進(jìn)步,智能跟蹤得以實現(xiàn),可最大限度地提高太陽光能的輸出。不同于固定式電池板,太陽能光伏 (PV) 跟蹤器能夠全天將太陽能電池板朝向太陽,并在惡劣天氣下保護(hù)電池板免受冰雹或狂風(fēng)
    的頭像 發(fā)表于 01-07 08:38 ?735次閱讀
    Wi-SUN 可<b class='flag-5'>最大限度</b>地提高太陽能跟蹤器的性能