0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

開發(fā)TinyML系統(tǒng)必須考慮的四大指標(biāo)

瑞薩MCU小百科 ? 來源:瑞薩MCU小百科 ? 作者:瑞薩MCU小百科 ? 2023-01-11 12:10 ? 次閱讀

最近,隨著機器學(xué)習(xí)(ML, Machine Learning)的進步出現(xiàn)了分歧,分為兩個規(guī)模:一個是傳統(tǒng)的大型ML(云ML),模型越來越大,以實現(xiàn)準(zhǔn)確性方面的最佳性能;另外一個是新興的微型機器學(xué)習(xí)(TinyML)領(lǐng)域,其中模型被縮小以適應(yīng)受限設(shè)備以超低功耗執(zhí)行。由于TinyML是一個新興領(lǐng)域,本篇文章將討論在開發(fā)TinyML和當(dāng)前行業(yè)標(biāo)準(zhǔn)納入TinyML設(shè)備基準(zhǔn)測試的系統(tǒng)時要考慮的各種參數(shù)。

系統(tǒng)指標(biāo)要求根據(jù)正在開發(fā)的用例會有很大差異。我們來看下四個指標(biāo):準(zhǔn)確性、功耗、延遲和內(nèi)存要求。

準(zhǔn)確性

在過去十年中,準(zhǔn)確性一直被用作衡量機器學(xué)習(xí)模型性能的主要指標(biāo),較大的模型往往優(yōu)于較小的。在TinyML系統(tǒng)中,準(zhǔn)確性也是一個關(guān)鍵指標(biāo),但與云ML相比,與其他指標(biāo)的平衡更為必要。

功耗

由于TinyML系統(tǒng)預(yù)計將長時間使用電池運行,因此考慮TinyML模型的功耗(通常為mW量級)至關(guān)重要。TinyML模型的功耗將取決于可用的硬件指令集,例如,由于采用了氦氣指令集,ARM Cortex-M85比ARM Cortex-M7更節(jié)能。此外,功耗還取決于用于運行模型的底層軟件,即推理引擎。例如,與參考內(nèi)核相比,使用CMSIS-NN庫可顯著提高性能。

延遲

TinyML系統(tǒng)在端點運行并且不需要云連接,因此,此類系統(tǒng)的推理速度明顯優(yōu)于基于云的系統(tǒng)。在某些用例中,擁有超高的推理速度對于生產(chǎn)就緒至關(guān)重要(ms為單位)。與功耗指標(biāo)類似,延遲取決于底層硬件和軟件。

內(nèi)存

內(nèi)存是TinyML的一大障礙,它擠壓了ML模型以適應(yīng)資源受限的MCU(內(nèi)存小于1MB的MCU更常見)。所以,降低內(nèi)存需求一直是一個挑戰(zhàn)。在模型開發(fā)過程中,會使用許多技術(shù),例如:剪枝和量化。此外,底層軟件發(fā)揮著重要作用,因為更好的推理引擎可以更有效地優(yōu)化模型(更好的內(nèi)存管理和用于執(zhí)行層的庫)。

由于這四個參數(shù)是相關(guān)的(往往是準(zhǔn)確性和內(nèi)存之間的負相關(guān),但內(nèi)存、延遲和功耗之間存在正相關(guān)),改進一個參數(shù)可能會影響其他參數(shù)。在開發(fā)TinyML系統(tǒng)時,仔細考慮這些因素很重要。一般的經(jīng)驗法則是根據(jù)用例定義所需的必要模型準(zhǔn)確性,將各種開發(fā)的模型與其他三個指標(biāo)進行比較。如下圖所示,給定已訓(xùn)練的各種模型的虛擬示例。

61eff49c-9165-11ed-bfe3-dac502259ad0.png

不同標(biāo)記形狀表示具有不同超參數(shù)的模型架構(gòu)(超參數(shù),是指機器學(xué)習(xí)算法中的調(diào)優(yōu)參數(shù),需要人為設(shè)定)。這些超參數(shù)往往會隨著架構(gòu)大小的增加而提高準(zhǔn)確性,但卻犧牲了其他3個指標(biāo)。根據(jù)系統(tǒng)定義的用例,顯示一個典型的相關(guān)區(qū)域,由此,只有一個模型具有90%的精度,如果需要更高的精度,則應(yīng)重新考慮整個系統(tǒng)以適應(yīng)其他指標(biāo)的增加。

在此,提一下“基準(zhǔn)測試”(benchmark),它是設(shè)置可重復(fù)標(biāo)準(zhǔn)以比較不同技術(shù)、架構(gòu)、軟件等的必要工具。在AI/ML中,準(zhǔn)確性是衡量不同模型的關(guān)鍵指標(biāo)。在嵌入式系統(tǒng)中,常見的基準(zhǔn)測試包括CoreMark和EEMBC的ULPMark用以測量性能和功耗。就TinyML而言,MLCommons作為行業(yè)標(biāo)準(zhǔn)越來越受到關(guān)注,它可以評估前面討論的四個指標(biāo),并且由于TinyML系統(tǒng)的異構(gòu)性,為了確保公平性,使用了4個具有4個不同AI模型的AI用例,并且必須達到一定水平的準(zhǔn)確性才能獲得基準(zhǔn)測試資格。

作為端點AI領(lǐng)域的行業(yè)領(lǐng)導(dǎo)者,瑞薩計劃將率先支持Cortex-M85內(nèi)核的MCU推向市場,TinyML系統(tǒng)將進一步開發(fā)各種用例,讓我們的生活更輕松。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • mcu
    mcu
    +關(guān)注

    關(guān)注

    146

    文章

    17763

    瀏覽量

    358941
  • 瑞薩
    +關(guān)注

    關(guān)注

    36

    文章

    22361

    瀏覽量

    87640
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33760

    瀏覽量

    274537
  • 機器學(xué)習(xí)
    +關(guān)注

    關(guān)注

    66

    文章

    8482

    瀏覽量

    133931
  • TinyML
    +關(guān)注

    關(guān)注

    0

    文章

    43

    瀏覽量

    1451

原文標(biāo)題:開發(fā)TinyML系統(tǒng)必須考慮的四大指標(biāo)

文章出處:【微信號:瑞薩MCU小百科,微信公眾號:瑞薩MCU小百科】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 0人收藏

    評論

    相關(guān)推薦
    熱點推薦

    【先楫HPM5361EVK開發(fā)板試用體驗】:4、TinyML測試(1)

    1、TinyML簡介 TinyML是指在邊緣設(shè)備上運行的機器學(xué)習(xí)模型,通常是在資源受限的嵌入式系統(tǒng)上運行的輕量級模型。這些設(shè)備可以是智能手機、傳感器、微控制器或其他嵌入式設(shè)備。TinyML
    發(fā)表于 12-22 10:12

    EMC 四大設(shè)計技巧

    本帖最后由 eehome 于 2013-1-5 09:54 編輯 EMC 四大設(shè)計技巧
    發(fā)表于 08-17 16:09

    dcdc電源模塊的三大指標(biāo)是?

    解答:dcdc電源模塊的三大指標(biāo):(1)功率 P=UI,是輸出電壓和輸出電流的乘積。 (2)輸入電壓分交流輸入和直流輸入2種。 (3)輸出電壓一般是直流輸出,但也有交流輸出的。
    發(fā)表于 07-11 13:35

    集成電路應(yīng)用四大技術(shù)比較

    ■ 愛特梅爾(Atmel)公司 Peter Bishop集成電路應(yīng)用中的四大挑戰(zhàn)采用的晶體管數(shù)目晶體管數(shù)目會直接影響到裸片和封裝尺寸、芯片成本及功耗。盡管生產(chǎn)工藝的不斷進步使晶體管的面積越來越小,但
    發(fā)表于 07-25 06:14

    什么是PCB射頻電路四大基礎(chǔ)?

    什么是PCB射頻電路四大基礎(chǔ)?在PCB設(shè)計過程中需要特別注意的重要因素有哪些?
    發(fā)表于 08-21 06:22

    Java互聯(lián)網(wǎng)四大項目開發(fā)案例教學(xué)

    Java互聯(lián)網(wǎng)四大項目開發(fā)案例教學(xué),阿里天貓核心技術(shù)首次公布!
    發(fā)表于 06-16 09:56

    單片機開發(fā)需要掌握的四大基本技巧分享

    掌握的四大基本技巧,不要錯過哦~二、如何減少程序中的bug? 對于如何減少程序的bug,給出了一些建議,指出系統(tǒng)運行中應(yīng)考慮的超范圍管理參數(shù)有: 1.物理參數(shù)。這些參數(shù)主要是系統(tǒng)的輸入
    發(fā)表于 10-21 08:46

    LoRa天線電路設(shè)計四大要點

    參考LoRa天線電路設(shè)計四大要點SX1278芯片LoRa通信官方驅(qū)動源碼詳細講解LoRa芯片SX1278官方驅(qū)動移植SX1268驅(qū)動程序設(shè)計LORAWAN在嵌入式系統(tǒng)中的實現(xiàn)–節(jié)點端(三
    發(fā)表于 12-07 06:23

    什么是TinyML?微型機器學(xué)習(xí)

    : TensorFlow在很多方面,TinyML 背后的工具和概念背后的軟件是它最重要的特性。一般來說,TinyML 開發(fā)中最流行和內(nèi)置的生態(tài)系統(tǒng)是微控制器用 TensorFlow L
    發(fā)表于 04-12 10:20

    向太陽能電網(wǎng)添加儲能系統(tǒng)四大設(shè)計注意事項

    向太陽能電網(wǎng)添加儲能系統(tǒng)四大設(shè)計注意事項
    發(fā)表于 01-17 09:25

    大指標(biāo)衡量電池性能

    大指標(biāo)衡量電池性能
    發(fā)表于 11-10 16:31 ?1.5w次閱讀

    熟練了解工控四大儀表并對儀表故障原因進行診斷和處理

    因此,工控人員必須熟練掌握四大儀表的物理構(gòu)造、測量原理以及性能指標(biāo)等,能夠準(zhǔn)確地對儀表故障進行診斷和處理,從而保證工業(yè)生產(chǎn)的正常進行。
    的頭像 發(fā)表于 01-08 15:32 ?4005次閱讀

    使用TinyML來預(yù)測與氣壓系統(tǒng)(APS)故障

    電子發(fā)燒友網(wǎng)站提供《使用TinyML來預(yù)測與氣壓系統(tǒng)(APS)故障.zip》資料免費下載
    發(fā)表于 10-31 14:53 ?0次下載
    使用<b class='flag-5'>TinyML</b>來預(yù)測與氣壓<b class='flag-5'>系統(tǒng)</b>(APS)故障

    IoT 開發(fā)人員必須考慮設(shè)計和安全性

    IoT 開發(fā)人員必須考慮設(shè)計和安全性
    的頭像 發(fā)表于 01-03 09:45 ?640次閱讀

    使用TinyML開發(fā)私人教練

    電子發(fā)燒友網(wǎng)站提供《使用TinyML開發(fā)私人教練.zip》資料免費下載
    發(fā)表于 06-12 14:38 ?0次下載
    使用<b class='flag-5'>TinyML</b><b class='flag-5'>開發(fā)</b>私人教練

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品