0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

【NVIDIA生態(tài)】具有100 TOPS強(qiáng)勁算力的AIBOX!

Firefly開源團(tuán)隊(duì) ? 2024-12-05 03:00 ? 次閱讀

近年來,AI 正在通過自動化、改進(jìn)數(shù)據(jù)分析以及提升參與度來推動企業(yè)變革。借助強(qiáng)大的嵌入式 AI 計(jì)算機(jī),為生成式 AI、計(jì)算機(jī)視覺和高級機(jī)器人技術(shù)打造新一代產(chǎn)品。

Firefly 推出搭載 NVIDIA 原裝Jetson Orin 模組的高算力AI主機(jī):AIBOX-OrinNano 和 AIBOX-OrinNX

英偉達(dá)系列 AIBOX

該系列可提供 40 或 100 TOPS的 AI 計(jì)算能力、大容量統(tǒng)一內(nèi)存和全面的軟件堆棧,能夠以超高能效驅(qū)動 Transformer 架構(gòu)下大模型,最新的生成式 AI 應(yīng)用。

fb5e23ae-b271-11ef-8084-92fbcf53809c.jpg

邊緣生成式 AI

支持目前主流大模型的本地化運(yùn)行,包括LLaMa3,ChatGLM3,Qwen等語言大模型,SAM等視覺大模型,以及Stable Diffusion AI繪圖。

嵌入式軟件堆棧

借助全面的 AI 軟件堆棧和生態(tài)系統(tǒng),使邊緣 AI 和機(jī)器人應(yīng)用開發(fā)實(shí)現(xiàn)大眾化。為 AI 應(yīng)用提供端到端加速,并可利用驅(qū)動數(shù)據(jù)中心和云部署的技術(shù)能力,快捷推動更多 AI 產(chǎn)品上市。

fb87b426-b271-11ef-8084-92fbcf53809c.png

邊緣計(jì)算的優(yōu)勢

物聯(lián)網(wǎng)和移動設(shè)備采用嵌入式處理器收集數(shù)據(jù),邊緣計(jì)算將 AI 直接引入這些設(shè)備,在捕獲數(shù)據(jù)的邊緣端處理數(shù)據(jù),而不是在云端或數(shù)據(jù)中心,從而加快實(shí)時(shí)決策和自主機(jī)器的 AI 工作流。

AIBOX在MLPerf?的實(shí)測表現(xiàn)

MLPerf?是一個用于衡量機(jī)器學(xué)習(xí)硬件、軟件和服務(wù)性能的標(biāo)準(zhǔn)化基準(zhǔn)測試平臺,通過一系列標(biāo)準(zhǔn)化的基準(zhǔn)測試任務(wù)和數(shù)據(jù)集,來評估和比較不同系統(tǒng)在執(zhí)行機(jī)器學(xué)習(xí)任務(wù)時(shí)的性能,AIBOX-OrinNX 在該平臺的實(shí)測中表現(xiàn)出卓越 AI 性能。

fbadbd6a-b271-11ef-8084-92fbcf53809c.png

支持多種深度學(xué)習(xí)框架

支持所有主流大模型深度學(xué)習(xí)框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定義算子開發(fā)。

邊緣 AI 應(yīng)用場景

可廣泛適用于邊緣計(jì)算、機(jī)器人、大模型本地化、智慧城市、智慧醫(yī)療、智慧工業(yè)等行業(yè)領(lǐng)域。

產(chǎn)品參數(shù)

fbea78fe-b271-11ef-8084-92fbcf53809c.jpg

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 嵌入式
    +關(guān)注

    關(guān)注

    5087

    文章

    19150

    瀏覽量

    306356
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5047

    瀏覽量

    103326
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31225

    瀏覽量

    269579
收藏 人收藏

    評論

    相關(guān)推薦

    ThinkPad X1 Carbon Aura:以120TOPS、986克重量打造行業(yè)新巔峰!

    方式。聯(lián)想近期發(fā)布的ThinkPad X1 Carbon Aura AI元啟版,便是在這一背景下推出的重磅之作。它以120TOPS的AI、重量低于1千克(986克)的輕薄設(shè)計(jì),以及行業(yè)首創(chuàng)的跨
    的頭像 發(fā)表于 12-30 15:26 ?175次閱讀

    AIBOX應(yīng)用】通過 NVIDIA TensorRT 實(shí)現(xiàn)實(shí)時(shí)快速的語義分割

    NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭載NVIDIA原裝JetsonOrin核心板模組,標(biāo)配工業(yè)級全金屬外殼,鋁合金結(jié)構(gòu)導(dǎo)熱,頂蓋外殼側(cè)面采用條幅格柵
    的頭像 發(fā)表于 12-18 16:33 ?210次閱讀
    【<b class='flag-5'>AIBOX</b>應(yīng)用】通過 <b class='flag-5'>NVIDIA</b> TensorRT 實(shí)現(xiàn)實(shí)時(shí)快速的語義分割

    杰和課堂|帶你認(rèn)識

    主板內(nèi)置34TOPS的NPU。那么究竟什么是?一、
    的頭像 發(fā)表于 12-06 10:24 ?351次閱讀
    杰和課堂|帶你認(rèn)識<b class='flag-5'>算</b><b class='flag-5'>力</b>

    超緊湊模塊提供高達(dá) 39 TOPS AI

    的 XDNA? NPU 和強(qiáng)大的 Radeon RDNA 3? 圖形處理器,可為AI推理提供高達(dá)39 TOPS的驚人。 ? ?? 這使得全新conga-TCR8 Type 6模塊在大批量、
    發(fā)表于 09-25 13:46 ?1333次閱讀
     超緊湊模塊提供高達(dá) 39 <b class='flag-5'>TOPS</b> AI <b class='flag-5'>算</b><b class='flag-5'>力</b>

    AIBOX旗艦版:內(nèi)置NVIDIA核心模組

    AIBOX-OrinNano和AIBOX-OrinNX均搭載NVIDIA原裝JetsonOrin核心板模組,該系列可提供40~100TOPS的AI計(jì)算能力、大容量統(tǒng)一內(nèi)存和全面的軟件堆
    的頭像 發(fā)表于 08-30 11:51 ?414次閱讀
    <b class='flag-5'>AIBOX</b>旗艦版:內(nèi)置<b class='flag-5'>NVIDIA</b>核心模組

    ARMxy工業(yè)控制器為視頻監(jiān)控提供1Tops支持

    ARMxy ARM工業(yè)控制器以其1TopsNPU,在視頻監(jiān)控中的應(yīng)用展現(xiàn)出了不錯的性能和廣泛的應(yīng)用,為用戶提供了高效、穩(wěn)定和可靠的解決方案,一起看看它的具體應(yīng)用吧。 一、ARMxy ARM工業(yè)
    的頭像 發(fā)表于 08-20 12:03 ?348次閱讀
    ARMxy工業(yè)控制器為視頻監(jiān)控提供1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>支持

    用ARMxy ARM工業(yè)控制器自帶的1Tops實(shí)現(xiàn)高性能圖像處理

    ARMxy ARM工業(yè)控制器憑借其強(qiáng)大的性能、靈活的配置和高度集成的特性,尤其是其內(nèi)置的1TopsNPU(神經(jīng)網(wǎng)絡(luò)處理單元),在圖像識別領(lǐng)域展現(xiàn)出了良好的處理性能。本文將簡易說明ARMxy ARM工業(yè)控制器如何利用其1
    的頭像 發(fā)表于 08-20 11:55 ?463次閱讀
    用ARMxy ARM工業(yè)控制器自帶的1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>實(shí)現(xiàn)高性能圖像處理

    AIBOX青春版上線!1399把AI帶回家

    BM1688,高達(dá)16TOPS,支持主流大模型的私有化部署,把AI的能力私有化,滿足個性化的AI部署。人工智能私有化部署語言大模型支持Transformer架構(gòu)下超大規(guī)
    的頭像 發(fā)表于 08-08 08:02 ?690次閱讀
    <b class='flag-5'>AIBOX</b>青春版上線!1399把AI帶回家

    刷新AI PC NPU,AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS

    NPU性能第一梯隊(duì)。而此次推出的Ryzen AI 9 HX 375進(jìn)一步提升至55 TOPS。在NPU這條路上AMD甚是積極。 ?
    的頭像 發(fā)表于 08-07 00:28 ?3466次閱讀
    刷新AI PC NPU<b class='flag-5'>算</b><b class='flag-5'>力</b>,AMD銳龍AI 9 HX 375領(lǐng)銜55 <b class='flag-5'>TOPS</b>

    光子計(jì)算芯片最新突破,峰值超1000tops,比電芯片更適合大模型

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,國內(nèi)光計(jì)算芯片公司光本位科技宣布,公司已完成算密度和精度均達(dá)到商用標(biāo)準(zhǔn)的光計(jì)算芯片流片。這顆芯片的矩陣規(guī)模為128×128,峰值
    的頭像 發(fā)表于 07-08 07:18 ?4797次閱讀
    光子計(jì)算芯片最新突破,峰值<b class='flag-5'>算</b><b class='flag-5'>力</b>超1000<b class='flag-5'>tops</b>,比電芯片更適合大模型

    AIBOX-1684X:把大語言模型“裝”進(jìn)小盒子

    AIBOX-1684X支持主流大模型私有化部署,高達(dá)32TOPS,同時(shí)也支持CNN、RNN、LSTM等傳統(tǒng)網(wǎng)絡(luò)架構(gòu),支持TensorFNNX和Darknet等深度學(xué)習(xí)架構(gòu),并支持自
    的頭像 發(fā)表于 04-20 08:02 ?1336次閱讀
    <b class='flag-5'>AIBOX</b>-1684X:把大語言模型“裝”進(jìn)小盒子

    AMD推出銳龍8000嵌入式處理器,AI高達(dá)39 T

    此款CPU選用4納米制程、AMD基于“Zen 4”架構(gòu)的CPU核心以及使用RDNA 3架構(gòu)GPU和XDNA架構(gòu)NPU,實(shí)現(xiàn)高達(dá)39TOPS的AI,其中NPU
    的頭像 發(fā)表于 04-03 10:39 ?924次閱讀

    256Tops!CSA1-N8S1684X服務(wù)器

    (基于BM1684X的高服務(wù)器)高AI處理器BM1684X搭載了BM1684AISo
    的頭像 發(fā)表于 03-23 08:02 ?1686次閱讀
    256<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)器

    能RADXA微服務(wù)器試用體驗(yàn)】Radxa Fogwise 1684X Mini 規(guī)格

    通過網(wǎng)絡(luò)可以了解到,能RADXA微服務(wù)器的具體規(guī)格: 處理器:BM1684X :高達(dá)32Tops INT8峰值
    發(fā)表于 02-28 11:21

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52