0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ONNX Runtime支持龍架構,AI推理生態(tài)再添新翼

CHANBAEK ? 來源:網絡整理 ? 2024-03-27 10:58 ? 次閱讀

近日,備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構的新版本1.17.0,這一里程碑式的更新意味著龍芯平臺上的AI推理應用開發(fā)與部署將更加便捷。

ONNX Runtime(ORT)作為近年來興起的AI推理框架軟件,已逐漸成為眾多AI應用的首選基礎推理引擎。此次更新不僅豐富了ORT的算力后端支持,更在軟件生態(tài)層面為龍架構注入了新的活力。新版本將支持PyTorch、TensorflowTFLite等多種模型格式輸入,覆蓋CPUGPU、IoT、NPU、FPGA等多樣化算力平臺,從而滿足各種復雜的AI推理需求。

此次ONNX Runtime對龍架構的支持,無疑將進一步推動龍芯平臺在AI領域的應用和發(fā)展,為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時,這也標志著龍架構軟件生態(tài)正在不斷完善,為未來的AI技術革新奠定了堅實基礎。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • 龍芯
    +關注

    關注

    3

    文章

    341

    瀏覽量

    31252
  • AI
    AI
    +關注

    關注

    87

    文章

    30894

    瀏覽量

    269085
  • 開源
    +關注

    關注

    3

    文章

    3349

    瀏覽量

    42500
收藏 人收藏

    評論

    相關推薦

    Alpine操作系統(tǒng)社區(qū)發(fā)布架構版本

    近日,開源軟件世界和云計算領域重要的操作系統(tǒng)發(fā)行版社區(qū)Alpine Linux正式發(fā)布3.21最新版本,以完整的系統(tǒng)形態(tài)實現對架構的原生支持,將有力促進
    的頭像 發(fā)表于 12-10 11:12 ?294次閱讀

    AMD以49億美元收購ZT Systems,強化AI芯片競爭力

    AMD在AI領域的雄心壯志新翼,近日宣布以49億美元巨資并購全球領先的超大規(guī)模計算AI基礎設施提供商ZT Systems。這一戰(zhàn)略舉措不
    的頭像 發(fā)表于 08-26 16:44 ?636次閱讀

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1 系列開源模型一起,為全球企業(yè)的生成式 AI 提供強力
    的頭像 發(fā)表于 07-25 09:48 ?709次閱讀

    STM CUBE AI錯誤導入onnx模型報錯的原因?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    發(fā)表于 05-27 07:15

    ONNX是什么?

    ONNX是什么?
    的頭像 發(fā)表于 05-15 09:49 ?1839次閱讀

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    成為處理萬億參數生成式AI模型的理想選擇。 NVL72 機架級系統(tǒng)支持萬億參數 LLM 訓練和實時推理 GB200 NVL72 的機架級設計,通過在單個 NVIDIA NVLink 域上連接 72 個
    發(fā)表于 05-13 17:16

    聯想小新Pro 2024 AI支持7500MHz內存與核顯性能提升

    近日,聯想旗下的小新 Pro 2024 AI版迎來了新的 OTA 升級,并支持高達 7500MHz 的內存頻率(實測為 7467 MT/s)。
    的頭像 發(fā)表于 04-30 15:17 ?1151次閱讀

    必易微新翼 必易微青島辦事處正式成立

    必易微砥礪奮進,新翼! 近日,必易微青島辦事處正式成立,是必易微在華東區(qū)域的又一重要戰(zhàn)略布局。 青島作為國家打造“一帶一路”國際合作新平臺的重點城市,將集成電路產業(yè)放在新興產業(yè)發(fā)展重要位置,匯集
    的頭像 發(fā)表于 04-14 10:34 ?439次閱讀

    開發(fā)者手機 AI - 目標識別 demo

    應用的demo。 應用程序通過相機進行預覽,對預覽畫面中的物體進行目標識別,目前該應用程序支持識別100種物體。 系統(tǒng)架構 下圖為demo應用以及Openharmony AI子系統(tǒng)的架構
    發(fā)表于 04-11 16:14

    cubemx ai導入onnx模型后壓縮失敗了怎么解決?

    cubemx ai導入onnx模型后壓縮失敗。請問我怎么解決
    發(fā)表于 03-19 07:58

    將yolov5s的模型轉成.onnx模型,進行cube-ai分析時報錯的原因?

    報錯顯示張量不能大于四維的,想請教解決一下,我此之后通過onnx-simplifier對.onnx進行簡化之后通過cube-ai進行分
    發(fā)表于 03-15 06:54

    使用cube-AI分析模型時報錯的原因有哪些?

    使用cube-AI分析模型時報錯,該模型是pytorch的cnn轉化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    發(fā)表于 03-14 07:09

    AI推理框架軟件ONNX Runtime正式支持架構

    近日,知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持
    的頭像 發(fā)表于 03-12 12:23 ?580次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>框架軟件<b class='flag-5'>ONNX</b> <b class='flag-5'>Runtime</b>正式<b class='flag-5'>支持</b><b class='flag-5'>龍</b><b class='flag-5'>架構</b>

    微軟推出ONNX Runtime Web,利用WebGPU優(yōu)化瀏覽器機器學習性能

    作為微軟的 JavaScript 庫,ONNX Runtime Web 使得網絡開發(fā)者能在瀏覽器環(huán)境下部署機器學習模型,并提供多種硬件加速的后端支持。
    的頭像 發(fā)表于 03-05 14:23 ?1103次閱讀

    微軟推出DirectML 1.13.1和ONNX Runtime 1.17預覽版,支持英特爾

    據稱,有了這項技術革新的推動力,微軟與英特爾緊密協作,更深入地與三星展開深度對話,共同致力于提高使用 DirectML 的AI相關應用程序的處理效率。
    的頭像 發(fā)表于 02-02 14:21 ?954次閱讀