近日,備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構的新版本1.17.0,這一里程碑式的更新意味著龍芯平臺上的AI推理應用開發(fā)與部署將更加便捷。
ONNX Runtime(ORT)作為近年來興起的AI推理框架軟件,已逐漸成為眾多AI應用的首選基礎推理引擎。此次更新不僅豐富了ORT的算力后端支持,更在軟件生態(tài)層面為龍架構注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入,覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺,從而滿足各種復雜的AI推理需求。
此次ONNX Runtime對龍架構的支持,無疑將進一步推動龍芯平臺在AI領域的應用和發(fā)展,為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時,這也標志著龍架構軟件生態(tài)正在不斷完善,為未來的AI技術革新奠定了堅實基礎。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。
舉報投訴
相關推薦
近日,開源軟件世界和云計算領域重要的操作系統(tǒng)發(fā)行版社區(qū)Alpine Linux正式發(fā)布3.21最新版本,以完整的系統(tǒng)形態(tài)實現對龍架構的原生支持,將有力促進龍
發(fā)表于 12-10 11:12
?294次閱讀
AMD在AI領域的雄心壯志再添新翼,近日宣布以49億美元巨資并購全球領先的超大規(guī)模計算AI基礎設施提供商ZT Systems。這一戰(zhàn)略舉措不
發(fā)表于 08-26 16:44
?636次閱讀
NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1 系列開源模型一起,為全球企業(yè)的生成式 AI 提供強力
發(fā)表于 07-25 09:48
?709次閱讀
使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 05-27 07:15
ONNX是什么?
發(fā)表于 05-15 09:49
?1839次閱讀
成為處理萬億參數生成式AI模型的理想選擇。
NVL72 機架級系統(tǒng)支持萬億參數 LLM 訓練和實時推理
GB200 NVL72 的機架級設計,通過在單個 NVIDIA NVLink 域上連接 72 個
發(fā)表于 05-13 17:16
近日,聯想旗下的小新 Pro 2024 AI 銳龍版迎來了新的 OTA 升級,并支持高達 7500MHz 的內存頻率(實測為 7467 MT/s)。
發(fā)表于 04-30 15:17
?1151次閱讀
必易微砥礪奮進,再添新翼! 近日,必易微青島辦事處正式成立,是必易微在華東區(qū)域的又一重要戰(zhàn)略布局。 青島作為國家打造“一帶一路”國際合作新平臺的重點城市,將集成電路產業(yè)放在新興產業(yè)發(fā)展重要位置,匯集
發(fā)表于 04-14 10:34
?439次閱讀
應用的demo。
應用程序通過相機進行預覽,對預覽畫面中的物體進行目標識別,目前該應用程序支持識別100種物體。
系統(tǒng)架構
下圖為demo應用以及Openharmony AI子系統(tǒng)的架構
發(fā)表于 04-11 16:14
cubemx ai導入onnx模型后壓縮失敗。請問我怎么解決
發(fā)表于 03-19 07:58
報錯顯示張量不能大于四維的,想請教解決一下,我再此之后通過onnx-simplifier對.onnx進行簡化之后再通過cube-ai進行分
發(fā)表于 03-15 06:54
使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 03-14 07:09
近日,知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍
發(fā)表于 03-12 12:23
?580次閱讀
作為微軟的 JavaScript 庫,ONNX Runtime Web 使得網絡開發(fā)者能在瀏覽器環(huán)境下部署機器學習模型,并提供多種硬件加速的后端支持。
發(fā)表于 03-05 14:23
?1103次閱讀
據稱,有了這項技術革新的推動力,微軟與英特爾緊密協作,更深入地與三星展開深度對話,共同致力于提高使用 DirectML 的AI相關應用程序的處理效率。
發(fā)表于 02-02 14:21
?954次閱讀
評論