近年來,AI 正在通過自動化、改進(jìn)數(shù)據(jù)分析以及提升參與度來推動企業(yè)變革。借助強(qiáng)大的嵌入式 AI 計(jì)算機(jī),為生成式 AI、計(jì)算機(jī)視覺和高級機(jī)器人技術(shù)打造新一代產(chǎn)品。
Firefly 推出搭載 NVIDIA 原裝Jetson Orin 模組的高算力AI主機(jī):AIBOX-OrinNano 和 AIBOX-OrinNX
英偉達(dá)系列 AIBOX
該系列可提供 40 或 100 TOPS的 AI 計(jì)算能力、大容量統(tǒng)一內(nèi)存和全面的軟件堆棧,能夠以超高能效驅(qū)動 Transformer 架構(gòu)下大模型,最新的生成式 AI 應(yīng)用。
邊緣生成式 AI
支持目前主流大模型的本地化運(yùn)行,包括LLaMa3,ChatGLM3,Qwen等語言大模型,SAM等視覺大模型,以及Stable Diffusion AI繪圖。
嵌入式軟件堆棧
借助全面的 AI 軟件堆棧和生態(tài)系統(tǒng),使邊緣 AI 和機(jī)器人應(yīng)用開發(fā)實(shí)現(xiàn)大眾化。為 AI 應(yīng)用提供端到端加速,并可利用驅(qū)動數(shù)據(jù)中心和云部署的技術(shù)能力,快捷推動更多 AI 產(chǎn)品上市。
邊緣計(jì)算的優(yōu)勢
物聯(lián)網(wǎng)和移動設(shè)備采用嵌入式處理器收集數(shù)據(jù),邊緣計(jì)算將 AI 直接引入這些設(shè)備,在捕獲數(shù)據(jù)的邊緣端處理數(shù)據(jù),而不是在云端或數(shù)據(jù)中心,從而加快實(shí)時(shí)決策和自主機(jī)器的 AI 工作流。
AIBOX在MLPerf?的實(shí)測表現(xiàn)
MLPerf?是一個用于衡量機(jī)器學(xué)習(xí)硬件、軟件和服務(wù)性能的標(biāo)準(zhǔn)化基準(zhǔn)測試平臺,通過一系列標(biāo)準(zhǔn)化的基準(zhǔn)測試任務(wù)和數(shù)據(jù)集,來評估和比較不同系統(tǒng)在執(zhí)行機(jī)器學(xué)習(xí)任務(wù)時(shí)的性能,AIBOX-OrinNX 在該平臺的實(shí)測中表現(xiàn)出卓越 AI 性能。
支持多種深度學(xué)習(xí)框架
支持所有主流大模型深度學(xué)習(xí)框架,包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定義算子開發(fā)。
邊緣 AI 應(yīng)用場景
可廣泛適用于邊緣計(jì)算、機(jī)器人、大模型本地化、智慧城市、智慧醫(yī)療、智慧工業(yè)等行業(yè)領(lǐng)域。
產(chǎn)品參數(shù)
-
嵌入式
+關(guān)注
關(guān)注
5087文章
19150瀏覽量
306356 -
NVIDIA
+關(guān)注
關(guān)注
14文章
5047瀏覽量
103326 -
AI
+關(guān)注
關(guān)注
87文章
31225瀏覽量
269579
發(fā)布評論請先 登錄
相關(guān)推薦
評論