0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepCube宣布推出唯一基于軟件的推理加速器

倩倩 ? 來源:百度粉絲網(wǎng) ? 2020-09-10 14:40 ? 次閱讀

DeepCube 宣布推出唯一基于軟件的推理加速器,該加速器可大幅提高任何現(xiàn)有硬件上的深度學(xué)習(xí)性能。

如今,深度學(xué)習(xí)部署非常有限,并且主要針對云進行了優(yōu)化。并且,即使在這些情況下,由于密集的計算需求,它們也會產(chǎn)生大量的處理成本,顯著的內(nèi)存需求以及昂貴的電源成本。這些挑戰(zhàn)也困擾著在邊緣設(shè)備上進行深度學(xué)習(xí)部署,包括無人機,移動設(shè)備,安全攝像機,農(nóng)業(yè)機器人,醫(yī)療診斷工具等,而深度神經(jīng)網(wǎng)絡(luò)的當(dāng)前規(guī)模和速度限制了它們的潛力。

DeepCube專注于深度學(xué)習(xí)技術(shù)的研發(fā),這些技術(shù)可改善AI系統(tǒng)的實際部署。該公司的眾多專利創(chuàng)新包括更快,更準確地訓(xùn)練深度學(xué)習(xí)模型的方法,以及在智能邊緣設(shè)備上大大提高的推理性能的方法。DeepCube的專有框架可以部署在數(shù)據(jù)中心和邊緣設(shè)備中的任何現(xiàn)有硬件(CPUGPU,ASIC)之上,從而使速度提高和內(nèi)存減少超過10倍。

DeepCube聯(lián)合創(chuàng)始人Eli David博士說:“許多深度學(xué)習(xí)框架是由研究人員為研究人員開發(fā)的,不適用于商業(yè)部署,因為它們受到技術(shù)限制和現(xiàn)實應(yīng)用中高成本要求的阻礙?!??!?DeepCube的技術(shù)可以在自動駕駛汽車,農(nóng)業(yè)機械,無人機中實現(xiàn)真正的深度學(xué)習(xí)功能,甚至可以幫助潛在地監(jiān)視和預(yù)防未來的全球健康危機,就像我們在2020年面臨的危機一樣?!?/p>

受到人腦在幼兒時期的發(fā)育方式的啟發(fā),DeepCube的專利技術(shù)在訓(xùn)練階段不斷重構(gòu)和稀疏深度學(xué)習(xí)模型,以保持高精度并大大減小AI模型的大小。幾家最大的半導(dǎo)體公司已經(jīng)在使用DeepCube的技術(shù)來顯著提高速度,并減少用于深度學(xué)習(xí)推理的內(nèi)存,同時降低精度。

DeepCube由Eli David博士和Yaron Eitan博士共同創(chuàng)立,他們不僅在深度學(xué)習(xí)研究和實際執(zhí)行中,而且在技術(shù)企業(yè)家精神方面都擁有數(shù)十年的經(jīng)驗。 Eli David博士 是領(lǐng)先的深度學(xué)習(xí)專家,在領(lǐng)先的人工智能期刊和會議上發(fā)表了五十多篇論文,主要關(guān)注深度學(xué)習(xí)和遺傳算法在各種現(xiàn)實世界中的應(yīng)用。在加入DeepCube之前,David博士與他人共同創(chuàng)立了世界經(jīng)濟論壇技術(shù)先驅(qū)Deep Instinct,并且是第一家將深度學(xué)習(xí)應(yīng)用于網(wǎng)絡(luò)安全的公司。Yaron Eitan是一位連續(xù)技術(shù)企業(yè)家和投資者,擁有三十多年的經(jīng)驗,他將用于指導(dǎo)DeepCube的業(yè)務(wù)執(zhí)行。

“我們通過POC產(chǎn)生的初步改進表明,該技術(shù)可以在任何部門或行業(yè)的整個AI部署市場中實現(xiàn)真正的深度學(xué)習(xí)功能,這對于AI繼續(xù)滲透新市場并極大地改進AI流程至關(guān)重要。 DeepCube聯(lián)合創(chuàng)始人Yaron Eitan補充說,像醫(yī)學(xué)領(lǐng)域這樣的行業(yè)最需要它。

迄今為止,DeepCube已經(jīng)獲得了四項專利,此外還申請了另外四項專利。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    799

    瀏覽量

    37897
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5503

    瀏覽量

    121206
收藏 人收藏

    評論

    相關(guān)推薦

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創(chuàng)意加速器

    加速器
    龍智DevSecOps
    發(fā)布于 :2024年11月26日 13:42:47

    IBM將在云平臺部署AMD加速器

    IBM與AMD近期宣布項重要合作協(xié)議,根據(jù)協(xié)議,IBM將在其云平臺上部署AMD Instinct MI300X加速器。這舉措旨在提升企業(yè)客戶在生成式AI模型方面的性能和能效,進
    的頭像 發(fā)表于 11-19 16:24 ?228次閱讀

    微軟攜手英偉達與GitHub推出生成式AI加速器

    近日,微軟宣布在英國推出項重大合作項目——生成式人工智能加速器。這項目由微軟、英偉達和GitHub三家科技巨頭強強聯(lián)手,旨在
    的頭像 發(fā)表于 11-05 14:58 ?401次閱讀

    Cloudera推出機器學(xué)習(xí)項目加速器 (AMP) 的全新套件

    / --?Cloudera是唯一真正意義上的數(shù)據(jù)、分析和人工智能混合平臺,該平臺今天宣布推出多款全新機器學(xué)習(xí)項目加速器 (AMP) ,旨在縮短企業(yè)人工智能用例的價值實現(xiàn)時間。 新增功能
    的頭像 發(fā)表于 09-13 14:51 ?275次閱讀

    LLM大模型推理加速的關(guān)鍵技術(shù)

    LLM(大型語言模型)大模型推理加速是當(dāng)前人工智能領(lǐng)域的個研究熱點,旨在提高模型在處理復(fù)雜任務(wù)時的效率和響應(yīng)速度。以下是對LLM大模型推理加速
    的頭像 發(fā)表于 07-24 11:38 ?900次閱讀

    “白地板”方案,智算中心加速器

    明德源能白地板方案,智算中心加速器
    的頭像 發(fā)表于 06-21 11:54 ?807次閱讀

    西門子推出Catapult AI NN:重塑神經(jīng)網(wǎng)絡(luò)加速器設(shè)計的未來

    的需求,西門子數(shù)字化工業(yè)軟件日前推出款名為Catapult AI NN的創(chuàng)新軟件,旨在幫助神經(jīng)網(wǎng)絡(luò)加速器在專用集成電路(ASIC)和芯片
    的頭像 發(fā)表于 06-19 16:40 ?724次閱讀

    西門子推出Catapult AI NN軟件,賦能神經(jīng)網(wǎng)絡(luò)加速器設(shè)計

    西門子數(shù)字化工業(yè)軟件近日發(fā)布了Catapult AI NN軟件,這款軟件在神經(jīng)網(wǎng)絡(luò)加速器設(shè)計領(lǐng)域邁出了重要步。Catapult AI NN
    的頭像 發(fā)表于 06-19 11:27 ?871次閱讀

    Arm發(fā)布新代Ethos-U AI加速器 Arm旨在瞄準國產(chǎn)CPU市場

    Arm發(fā)布的新代Ethos-U AI加速器確實在業(yè)界引起了廣泛關(guān)注。
    的頭像 發(fā)表于 04-18 15:59 ?766次閱讀

    Arm推動生成式AI落地邊緣!全新Ethos-U85 AI加速器支持Transformer 架構(gòu),性能提升四倍

    等領(lǐng)先企業(yè)均已推出搭載 Ethos-U 的量產(chǎn)芯片。最近,Arm發(fā)布Arm Ethos-U85 AI加速器,這款加速器在性能、算力、應(yīng)用場景方面進步拓展,著
    的頭像 發(fā)表于 04-16 09:10 ?4625次閱讀
    Arm推動生成式AI落地邊緣!全新Ethos-U85 AI<b class='flag-5'>加速器</b>支持Transformer 架構(gòu),性能提升四倍

    Hailo獲1.2億美元新融資,首發(fā)AI加速器Hailo-10,助力邊緣設(shè)備實現(xiàn)生成式人工智能

    引入邊緣計算領(lǐng)域,為行業(yè)發(fā)展注入新動力。 邊緣人工智能處理的領(lǐng)先芯片制造商Hailo近日宣布C輪融資再獲1.2億美元投資。與此同時,Hailo還推出創(chuàng)新型Hailo-10高性能生成式人工智能(GenAI)
    的頭像 發(fā)表于 04-03 11:57 ?345次閱讀

    家居智能化,推動AI加速器的發(fā)展

    電子發(fā)燒友網(wǎng)報道(文/黃山明)AI加速芯片,也稱為人工智能加速器(AI Accelerator),是種專為執(zhí)行機器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)而設(shè)計的ASIC或定制化處理。在智能家居中,AI
    的頭像 發(fā)表于 02-23 00:18 ?4597次閱讀

    回旋加速器原理 回旋加速器的影響因素

    回旋加速器(Cyclotron)是種用于加速帶電粒子的可再生粒子加速器。它的工作原理基于帶電粒子在恒定強磁場中的運動。本文將詳細介紹回旋加速器
    的頭像 發(fā)表于 01-30 10:02 ?4020次閱讀

    回旋加速器中粒子的最大動能與什么有關(guān)

    回旋加速器種用于加速粒子的裝置,通過不斷變化的磁場和電場來不斷加速粒子,使其達到極高的速度和能量。粒子的最大動能取決于幾個關(guān)鍵因素。 首先,回旋
    的頭像 發(fā)表于 01-18 10:42 ?3215次閱讀

    Wakefield激光加速器 - 能量里程碑

    由The University of Texas at Austin物理學(xué)副教授比約恩·“曼努埃爾”·赫格利希(Bjorn “Manuel” Hegelich)領(lǐng)導(dǎo)的國際研究小組最近展示了種長度不到20米的小型粒子加速器,該加速器
    的頭像 發(fā)表于 01-14 09:38 ?1060次閱讀
    Wakefield激光<b class='flag-5'>加速器</b> - 能量里程碑