0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Tengine全力投入到AI芯片工作中,助力解決開發(fā)者的一系列問(wèn)題

姚小熊27 ? 來(lái)源:人工智能實(shí)驗(yàn)室 ? 作者:人工智能實(shí)驗(yàn)室 ? 2020-10-13 10:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近兩個(gè)月來(lái),由于國(guó)際局勢(shì)導(dǎo)致海思的芯片供應(yīng)鏈出現(xiàn)問(wèn)題,海思的安防芯片缺口逐漸擴(kuò)大,從華南地區(qū)逐步擴(kuò)散至其他城市,從高端型號(hào)延伸到中低端型號(hào),價(jià)格一路飆漲,能否有持續(xù)穩(wěn)定的貨源成為了從業(yè)者的心頭病。

算法模型迅速、高效化的工業(yè)化落地,是當(dāng)前行業(yè)的面臨的一大問(wèn)題。原本學(xué)術(shù)界與工業(yè)界就存在較大 GAP,加上 NPU 芯片的突然興起,說(shuō)是為了提高工業(yè)界的效率,事實(shí)上很多常規(guī)的的學(xué)術(shù)界模型都較難快速部署到 NPU 芯片上。本質(zhì)原因是芯片產(chǎn)品的迭代周期往往以年為計(jì)數(shù)單位,且NPU屬于低可編程ASIC芯片,很多NPU沒(méi)有較完整的指令集,直接對(duì)寄存器進(jìn)行操作;而學(xué)術(shù)界的各種 Operator 是以季度為單位在更新,因此模型算子不支持的問(wèn)題在NPU部署場(chǎng)景預(yù)期會(huì)長(zhǎng)期存在,現(xiàn)在業(yè)界對(duì)NPU部署很多基于較為傳統(tǒng)的模型或者基于NPU可支持的操作選型模型。

為了解決AI邊緣應(yīng)用開發(fā)部署遇到的真實(shí)問(wèn)題,OPEN AI LAB的邊緣AI推理框架Tengine團(tuán)隊(duì)今年全力投入到賦能 AI 芯片的工作中,打通從算法到AI芯片部署的環(huán)節(jié),助力解決開發(fā)者自行適配難、效率低、性能差的問(wèn)題。

Tengine團(tuán)隊(duì)也在今年八月開始了對(duì)RV1109/RV1126的適配支持,目前Tengine已經(jīng)完美適配 RV1109/RV1126 芯片。Tengine 對(duì)RV1109/1126的適配做到了算子級(jí)的封裝調(diào)度,框架自動(dòng)對(duì)底層算力資源進(jìn)行調(diào)度,包括NPU、CPU用于神經(jīng)網(wǎng)絡(luò)推理以及2D圖形加速用于神經(jīng)網(wǎng)絡(luò)圖片前后處理。
責(zé)任編輯:YYX

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 神經(jīng)網(wǎng)絡(luò)

    關(guān)注

    42

    文章

    4814

    瀏覽量

    103510
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1983

    瀏覽量

    35883
  • Tengine
    +關(guān)注

    關(guān)注

    1

    文章

    47

    瀏覽量

    3082
收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    2025 TUYA全球開發(fā)者大會(huì)成功閉幕,涂鴉智能以下AI硬件重構(gòu)人機(jī)交互邊界?

    4月23日,涂鴉智能攜一系列前沿AI爆款產(chǎn)品重磅亮相2025TUYA全球開發(fā)者大會(huì)現(xiàn)場(chǎng),吸引了眾多與會(huì)駐足體驗(yàn),并引發(fā)了現(xiàn)場(chǎng)熱烈的技術(shù)交流與討論?!?025TUYA全球
    的頭像 發(fā)表于 05-08 19:07 ?314次閱讀
    2025 TUYA全球<b class='flag-5'>開發(fā)者</b>大會(huì)成功閉幕,涂鴉智能以下<b class='flag-5'>一</b>代<b class='flag-5'>AI</b>硬件重構(gòu)人機(jī)交互邊界?

    NVIDIA 推出開放推理 AI 模型系列助力開發(fā)者和企業(yè)構(gòu)建代理式 AI 平臺(tái)

    月 18 日 —— ?NVIDIA 今日發(fā)布具有推理功能的開源 Llama Nemotron 模型系列,旨在為開發(fā)者和企業(yè)提供業(yè)務(wù)就緒型基礎(chǔ),助力構(gòu)建能夠獨(dú)立工作或以團(tuán)隊(duì)形式完成復(fù)雜
    發(fā)表于 03-19 09:31 ?230次閱讀
    NVIDIA 推出開放推理 <b class='flag-5'>AI</b> 模型<b class='flag-5'>系列</b>,<b class='flag-5'>助力</b><b class='flag-5'>開發(fā)者</b>和企業(yè)構(gòu)建代理式 <b class='flag-5'>AI</b> 平臺(tái)

    云端AI開發(fā)者工具的核心功能

    當(dāng)今,云端AI開發(fā)者工具已成為推動(dòng)科技創(chuàng)新與行業(yè)升級(jí)的重要力量。那么,云端AI開發(fā)者工具有哪些核心功能呢?下面,AI部落小編帶您深入探討。
    的頭像 發(fā)表于 02-28 11:46 ?467次閱讀

    涂鴉智能與火山引擎達(dá)成重磅合作,億元補(bǔ)貼全力構(gòu)建AIoT開發(fā)者生態(tài)

    場(chǎng)景應(yīng)用落地。 同時(shí),為助力AI硬件開發(fā)者進(jìn)步創(chuàng)新,涂鴉智能結(jié)合豆包大模型的語(yǔ)言、語(yǔ)音、視頻等能力,推出了行業(yè)首個(gè)面向AIoT開發(fā)者的億元
    的頭像 發(fā)表于 02-28 09:01 ?320次閱讀
    涂鴉智能與火山引擎達(dá)成重磅合作,億元補(bǔ)貼<b class='flag-5'>全力</b>構(gòu)建AIoT<b class='flag-5'>開發(fā)者</b>生態(tài)

    Apex平臺(tái):簡(jiǎn)化AI API開發(fā),賦能開發(fā)者

    Apex是個(gè)由Arya.ai公司傾力打造的AI API平臺(tái),該平臺(tái)通過(guò)提供一系列預(yù)訓(xùn)練的AI模型,極大地簡(jiǎn)化了
    的頭像 發(fā)表于 02-20 09:45 ?473次閱讀

    HarmonyOS 應(yīng)用開發(fā)賦能套件:鴻蒙原生應(yīng)用開發(fā)的 “神助攻”

    隨著鴻蒙生態(tài)的快速發(fā)展,越來(lái)越多的開發(fā)者投身于鴻蒙原生應(yīng)用的開發(fā)。然而,在學(xué)習(xí)鴻蒙原生應(yīng)用開發(fā)時(shí),許多開發(fā)者仍面臨
    發(fā)表于 02-17 16:37

    華為推出HarmonyOS應(yīng)用開發(fā)賦能套件

    隨著鴻蒙生態(tài)的快速發(fā)展,越來(lái)越多的開發(fā)者投身于鴻蒙原生應(yīng)用的開發(fā)。然而,在學(xué)習(xí)鴻蒙原生應(yīng)用開發(fā)時(shí),許多開發(fā)者仍面臨
    的頭像 發(fā)表于 02-12 13:57 ?615次閱讀

    蘋芯出席2024國(guó)AI芯片開發(fā)者論壇

    12月5日,蘋芯科技CTO章堯君受邀出席了2024國(guó)AI芯片開發(fā)者論壇,并發(fā)表了題為《存算體技術(shù)的內(nèi)核與應(yīng)用進(jìn)階》的主題演講。此次論壇匯
    的頭像 發(fā)表于 02-05 16:51 ?677次閱讀
    蘋芯出席2024<b class='flag-5'>中</b>國(guó)<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>開發(fā)者</b>論壇

    亞馬遜轉(zhuǎn)向Trainium芯片,全力投入AI模型訓(xùn)練

    近日,亞馬遜宣布了項(xiàng)重大決策,決定停止Inferentia AI芯片開發(fā),轉(zhuǎn)而將全部精力投入
    的頭像 發(fā)表于 12-13 14:14 ?636次閱讀

    蘋芯科技亮相2024國(guó)AI芯片開發(fā)者論壇

    近日,蘋芯科技CTO章堯君受邀出席了2024國(guó)AI芯片開發(fā)者論壇,并發(fā)表了題為《存算體技術(shù)的內(nèi)核與應(yīng)用進(jìn)階》的主題演講。此次論壇匯聚了眾
    的頭像 發(fā)表于 12-10 16:21 ?510次閱讀

    云端AI開發(fā)者工具怎么用

    云端AI開發(fā)者工具通常包括代碼編輯器、模型訓(xùn)練平臺(tái)、自動(dòng)化測(cè)試工具、代碼管理工具等。這些工具不僅降低了AI開發(fā)的門檻,還極大地提高了開發(fā)效率
    的頭像 發(fā)表于 12-05 13:31 ?557次閱讀

    2024深圳 | 中國(guó)AI芯片開發(fā)者論壇

    “2024國(guó)AI芯片開發(fā)者論壇”將于12月5-6日在深圳舉辦。本次論壇由車乾信息&熱設(shè)計(jì)網(wǎng)主辦,深圳工業(yè)展協(xié)辦,本次論壇重點(diǎn)探討:高算力AI
    的頭像 發(fā)表于 11-20 01:02 ?2017次閱讀
    2024深圳 | 中國(guó)<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>開發(fā)者</b>論壇

    香橙派與昇思MindSpore合作提速,軟硬結(jié)合助力開發(fā)者構(gòu)建創(chuàng)新AI應(yīng)用

    近日,昇思MindSpore開源社區(qū)與香橙派合作成果加速落地,持續(xù)為開發(fā)者提供普惠的端側(cè)算力與好用的AI框架,軟硬結(jié)合助力高校AI課程建設(shè),幫助開發(fā)
    的頭像 發(fā)表于 11-01 17:02 ?1267次閱讀
    香橙派與昇思MindSpore合作提速,軟硬結(jié)合<b class='flag-5'>助力</b><b class='flag-5'>開發(fā)者</b>構(gòu)建創(chuàng)新<b class='flag-5'>AI</b>應(yīng)用

    Altera推出一系列FPGA軟、硬件和開發(fā)工具

    近期,英特爾子公司Altera推出了一系列FPGA軟、硬件和開發(fā)工具,使其可編程解決方案更易應(yīng)用于廣泛的用例和市場(chǎng)。Altera在年度開發(fā)者大會(huì)上公布了下代能效與成本優(yōu)化的Agile
    的頭像 發(fā)表于 10-12 10:47 ?1003次閱讀

    領(lǐng)航AI時(shí)代,涂鴉智能2024 TUYA開發(fā)者大會(huì)(蘇州)即將震撼來(lái)襲

    制造業(yè)重鎮(zhèn),蘇州直積極擁抱智能化,并致力于成為“AI+”示范城市。針對(duì)這目標(biāo)趨勢(shì),蘇州出臺(tái)了一系列政策,旨在發(fā)揮AI在制造業(yè)設(shè)計(jì)創(chuàng)新、能
    的頭像 發(fā)表于 09-20 08:06 ?713次閱讀
    領(lǐng)航<b class='flag-5'>AI</b>時(shí)代,涂鴉智能2024 TUYA<b class='flag-5'>開發(fā)者</b>大會(huì)(蘇州)即將震撼來(lái)襲

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品