0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA與恩智浦聯(lián)手,在邊緣設(shè)備上部署AI模型

微云疏影 ? 來(lái)源:綜合整理 ? 作者:綜合整理 ? 2024-03-25 16:05 ? 次閱讀

Nvidia與恩智浦宣布展開(kāi)新合作,將Nvidia的AI模型運(yùn)用到恩智浦邊緣處理設(shè)備當(dāng)中。這項(xiàng)合作將讓開(kāi)發(fā)者借助Nvidia TAO工具包,無(wú)縫地將其集成進(jìn)NXP的eIQ機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境,共同推動(dòng)AI的加速發(fā)展。據(jù)悉,恩智浦是首個(gè)直接內(nèi)置Nvidia TAO API于AI產(chǎn)品半導(dǎo)體廠商。

恩智浦工業(yè)IoT邊緣高級(jí)副總裁Charles Dachs表示,人工智能的創(chuàng)新將塑造智能互聯(lián)世界的未來(lái),融入Nvidia先進(jìn)的AI培訓(xùn)技術(shù)以及恩智浦在工業(yè)及物聯(lián)網(wǎng)邊緣科研實(shí)力,將產(chǎn)生協(xié)同效益,讓用戶(hù)能更迅速地將自家AI模型推向市場(chǎng)。

Nvidia機(jī)器人與邊緣計(jì)算副總裁Deepu Talla則強(qiáng)調(diào),Nvidia TAO大大簡(jiǎn)化了AI模型的創(chuàng)建和部署過(guò)程,無(wú)論是復(fù)雜的生成式AI模型亦能輕松應(yīng)對(duì)。這次合作帶來(lái)高精度且經(jīng)Nvidia TAO精心優(yōu)化的AI模型,可無(wú)縫整合進(jìn)NXP的eIQ開(kāi)發(fā)環(huán)境,從而加速邊緣AI的部署。

恩智浦的 eIQ 機(jī)器學(xué)習(xí)軟件開(kāi)發(fā)環(huán)境支持廣泛的微控制器微處理器上進(jìn)行AI算法的運(yùn)用。作為完全集成在恩智浦MCUXpresso SDK和Yocto Project Linux開(kāi)發(fā)環(huán)境中的特色功能,eIQ機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境和Nvidia TAO的打通可為模型AI訓(xùn)練、優(yōu)化和部署提供統(tǒng)一平臺(tái),使得AI業(yè)務(wù)的研發(fā)更為簡(jiǎn)便。同時(shí),Nvidia TAO還提供API驅(qū)動(dòng)的工作流程,利用一系列預(yù)訓(xùn)練模型和遷移學(xué)習(xí),盡享人性化的設(shè)計(jì)。此外,AI模型的剪裁等優(yōu)化措施還能有效提升預(yù)測(cè)效率。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 恩智浦
    +關(guān)注

    關(guān)注

    14

    文章

    5860

    瀏覽量

    107456
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4986

    瀏覽量

    103046
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    47274

    瀏覽量

    238467
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI模型部署邊緣設(shè)備的奇妙之旅:目標(biāo)檢測(cè)模型

    以及邊緣計(jì)算能力的增強(qiáng),越來(lái)越多的目標(biāo)檢測(cè)應(yīng)用開(kāi)始直接在靠近數(shù)據(jù)源的邊緣設(shè)備上運(yùn)行。這不僅減少了數(shù)據(jù)傳輸延遲,保護(hù)了用戶(hù)隱私,同時(shí)也減輕了云端服務(wù)器的壓力。然而,
    發(fā)表于 12-19 14:33

    AI模型部署邊緣設(shè)備的奇妙之旅:如何實(shí)現(xiàn)手寫(xiě)數(shù)字識(shí)別

    處理,而不必傳輸?shù)酵獠糠?wù)器,這有助于更好地保護(hù)用戶(hù)隱私和數(shù)據(jù)安全。 然而,邊緣計(jì)算也帶來(lái)了獨(dú)特的挑戰(zhàn),特別是資源受限的嵌入式系統(tǒng)中部署復(fù)雜的AI
    發(fā)表于 12-06 17:20

    如何在邊緣設(shè)備上部署LLM

    開(kāi)放式聊天機(jī)器人到任務(wù)型助手。雖然LLM主要聚焦基于云和服務(wù)器端的應(yīng)用,但人們對(duì)嵌入式系統(tǒng)和邊緣設(shè)備部署這些模型的興趣也
    的頭像 發(fā)表于 11-29 09:39 ?341次閱讀

    如何在STM32f4系列開(kāi)發(fā)板上部署STM32Cube.AI,

    已下載STM32Cube.AI擴(kuò)展包,但是無(wú)法使用,感覺(jué)像是沒(méi)有部署AI模型,我是想要通過(guò)攝像頭拍照,上傳圖像后,經(jīng)過(guò)開(kāi)發(fā)板處理器進(jìn)行AI
    發(fā)表于 11-18 09:39

    eIQ AI和機(jī)器學(xué)習(xí)開(kāi)發(fā)軟件增加兩款新工具

    eIQ AI和機(jī)器學(xué)習(xí)開(kāi)發(fā)軟件中增加了帶有檢索增強(qiáng)生成(RAG)與微調(diào)的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MC
    的頭像 發(fā)表于 11-01 11:39 ?510次閱讀

    NXP推出集成NPU的MCU,支持AI邊緣設(shè)備!MCU實(shí)現(xiàn)AI功能的多種方式

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,宣布推出全新i.MX RT700跨界MCU系列,支持智能AI邊緣設(shè)備,例如可穿戴
    的頭像 發(fā)表于 09-29 01:11 ?3809次閱讀

    半導(dǎo)體發(fā)布i.MX RT700系列MCU,賦能智能AI邊緣設(shè)備

    半導(dǎo)體近期震撼發(fā)布了其最新力作——i.MX RT700跨界微控制器(MCU)系列,專(zhuān)為推動(dòng)智能AI邊緣
    的頭像 發(fā)表于 09-26 16:06 ?686次閱讀

    利用云實(shí)驗(yàn)室部署AI模型

    如今,人工智能(AI)非?;鸨?,這個(gè)風(fēng)口該如何把握?作為一個(gè)電子工程師,和AI最主要的交集應(yīng)該就是邊緣計(jì)算了,具體來(lái)講,就是一些性能、功耗以及價(jià)格相對(duì)較低的嵌入式平臺(tái)
    的頭像 發(fā)表于 08-02 11:46 ?2769次閱讀
    利用<b class='flag-5'>恩</b>智<b class='flag-5'>浦</b>云實(shí)驗(yàn)室<b class='flag-5'>部署</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b>

    NVIDIA 通過(guò) Holoscan 為 NVIDIA IGX 提供企業(yè)軟件支持,實(shí)現(xiàn)邊緣實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) AI 應(yīng)用

    美敦力、SETI協(xié)會(huì)以及領(lǐng)先的制造商正在構(gòu)建? NVIDIA IGX 系統(tǒng), 為 ?AI 工業(yè)邊緣賦能 ? ? COMPUTEX — 2024 年 6 月 2 日 —
    發(fā)表于 06-03 09:48 ?307次閱讀
      <b class='flag-5'>NVIDIA</b> 通過(guò) Holoscan 為 <b class='flag-5'>NVIDIA</b> IGX 提供企業(yè)軟件支持,實(shí)現(xiàn)<b class='flag-5'>邊緣</b>實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) <b class='flag-5'>AI</b> 應(yīng)用

    基于stm32h743IIKcubeai上部署keras模型,模型輸出結(jié)果都是同一組概率數(shù)組,為什么?

    基于stm32h743IIK,cubeai上部署keras模型,模型輸出結(jié)果都是同一組概率數(shù)組,一點(diǎn)也搞不明白,看社區(qū)也有相同的問(wèn)題,但沒(méi)有解決方案
    發(fā)表于 05-20 08:18

    部署邊緣設(shè)備上的輕量級(jí)模型

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)邊緣AI算法是一種將人工智能(AI)算法和計(jì)算能力放置接近數(shù)據(jù)源的終端設(shè)備中的策略。這種算法通常被
    的頭像 發(fā)表于 05-11 00:17 ?2607次閱讀

    邊緣AI需求大爆發(fā),安全連接和模擬電源方面有怎樣的思考?

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)通過(guò)將邊緣計(jì)算與 AI進(jìn)行深度融合,目前邊緣AI已經(jīng)成為工業(yè)制造、零售和醫(yī)療等領(lǐng)域打造差異化產(chǎn)品創(chuàng)新的主要手段之一。針對(duì)不同應(yīng)用場(chǎng)景,
    的頭像 發(fā)表于 04-28 02:59 ?4062次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>需求大爆發(fā),<b class='flag-5'>恩</b>智<b class='flag-5'>浦</b><b class='flag-5'>在</b>安全連接和模擬電源方面有怎樣的思考?

    亮相2024國(guó)際嵌入式大會(huì),展示智能邊緣技術(shù)

    4月9日至11日,德國(guó)紐倫堡舉辦的2024國(guó)際嵌入式大會(huì)(Embedded World)上,盛裝亮相,展示最新技術(shù)成果如何為創(chuàng)新方案打造堅(jiān)實(shí)的基石,詮釋
    的頭像 發(fā)表于 04-15 09:26 ?1015次閱讀

    NVIDIA TAO工具套件功能與eIQ機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境的集成

    半導(dǎo)體宣布與NVIDIA合作,將NVIDIA經(jīng)過(guò)訓(xùn)練的人工智能模型通過(guò)eIQ機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境部署
    的頭像 發(fā)表于 03-22 09:11 ?971次閱讀

    邊緣側(cè)部署模型優(yōu)勢(shì)多!模型量化解決邊緣設(shè)備資源限制問(wèn)題

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)大模型邊緣部署是將大模型部署
    的頭像 發(fā)表于 01-05 00:06 ?3554次閱讀