0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾發(fā)布Gaudi3 AI加速器,押注低成本優(yōu)勢(shì)挑戰(zhàn)市場(chǎng)

要長(zhǎng)高 ? 2024-09-26 16:16 ? 次閱讀

英特爾近期震撼發(fā)布了專為AI工作負(fù)載設(shè)計(jì)的Gaudi3加速器,這款新芯片雖在速度上不及英偉達(dá)熱門型號(hào)H100與H200 GPU,但英特爾巧妙地將競(jìng)爭(zhēng)優(yōu)勢(shì)聚焦于其更為親民的價(jià)格與總擁有成本(TCO)上。

Gaudi3處理器采用雙芯片設(shè)計(jì),內(nèi)置強(qiáng)大的計(jì)算單元,包括64個(gè)張量處理器核心(TPC,配備256x256 MAC結(jié)構(gòu)并集成FP32累加器)、8個(gè)高效的矩陣乘法引擎(MME,支持256位寬矢量處理)以及高達(dá)96MB的片上SRAM緩存,提供驚人的19.2TB/s帶寬。此外,它還集成了24個(gè)200GbE網(wǎng)絡(luò)接口和14個(gè)媒體引擎,后者能夠高效處理多種視頻編解碼格式,如H.265、H.264、JPEG和VP9,為視覺處理應(yīng)用增添強(qiáng)大助力。內(nèi)存方面,Gaudi3搭載了128GB HBM2E內(nèi)存,通過八個(gè)內(nèi)存堆棧實(shí)現(xiàn)高達(dá)3.67TB/s的帶寬,確保數(shù)據(jù)處理的高效流暢。

相較于前代產(chǎn)品Gaudi2,Gaudi3在架構(gòu)上進(jìn)行了顯著優(yōu)化,盡管在TPC和MME數(shù)量上有所精簡(jiǎn),但它專注于提升特定精度下的計(jì)算能力,僅支持FP8矩陣運(yùn)算及BFloat16矩陣和矢量運(yùn)算,這一調(diào)整旨在更好地滿足當(dāng)前AI工作負(fù)載的需求。

在性能表現(xiàn)上,Gaudi3提供了高達(dá)1856 TFLOPS的BF16/FP8矩陣運(yùn)算能力,以及28.7 TFLOPS的BF16矢量運(yùn)算能力,同時(shí)其熱設(shè)計(jì)功耗(TDP)約為600W。盡管在某些指標(biāo)上略遜于英偉達(dá)H100,但英特爾強(qiáng)調(diào),Gaudi3在實(shí)際應(yīng)用中的性價(jià)比優(yōu)勢(shì)將尤為突出。

英特爾為Gaudi3制定了明確的市場(chǎng)定位,旨在與AMD的Instinct MI300系列及英偉達(dá)的H100、B100/B200等高端芯片展開競(jìng)爭(zhēng)。據(jù)英特爾透露,基于8個(gè)Gaudi3芯片的加速器套件定價(jià)為125,000美元,單芯片成本約為15,625美元,相較于英偉達(dá)H100的30,678美元售價(jià),展現(xiàn)了顯著的價(jià)格優(yōu)勢(shì)。然而,面對(duì)可能具備更強(qiáng)性能的英偉達(dá)Blackwell架構(gòu)GPU(如B100/B200),英特爾能否持續(xù)保持其競(jìng)爭(zhēng)優(yōu)勢(shì),仍需市場(chǎng)進(jìn)一步驗(yàn)證。

英特爾執(zhí)行副總裁Justin Hotard表示:“AI需求的激增正驅(qū)動(dòng)數(shù)據(jù)中心領(lǐng)域的深刻變革,行業(yè)迫切需要更多元化的硬件、軟件及開發(fā)工具選擇。通過推出搭載P核與Gaudi3 AI加速器的Xeon 6,英特爾正積極構(gòu)建一個(gè)開放的生態(tài)系統(tǒng),助力客戶以更高的性能、效率和安全性應(yīng)對(duì)各種工作負(fù)載?!?/p>

目前,Gaudi3 AI加速器已通過IBM Cloud及英特爾Tiber開發(fā)者云平臺(tái)提供服務(wù),并計(jì)劃于今年第四季度通過戴爾、慧與(HPE)和Supermicro等合作伙伴全面上市,其中戴爾和Supermicro的部分系統(tǒng)將于10月開始出貨,而Supermicro的設(shè)備則將于12月抵達(dá)市場(chǎng)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10151

    瀏覽量

    173733
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    822

    瀏覽量

    38827
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33769

    瀏覽量

    274561
收藏 0人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Intel-Altera FPGA:通信行業(yè)的加速引擎,開啟高速互聯(lián)新時(shí)代

    。三、市場(chǎng)地位與挑戰(zhàn)行業(yè)格局:FPGA市場(chǎng)長(zhǎng)期由AMD(Xilinx)和英特爾(Altera)主導(dǎo),但收購(gòu)后Altera市場(chǎng)份額從40%降至
    發(fā)表于 04-25 10:19

    英特爾Gaudi 2D AI加速器助力DeepSeek Janus Pro模型性能提升

    近日,DeepSeek公司發(fā)布了備受矚目的Janus Pro模型,其憑借超強(qiáng)性能和高精度在業(yè)界引發(fā)了廣泛關(guān)注。為了進(jìn)一步提升該模型的應(yīng)用效能,英特爾宣布其Gaudi 2D AI
    的頭像 發(fā)表于 02-10 11:10 ?499次閱讀

    DeepSeek發(fā)布Janus Pro模型,英特爾Gaudi 2D AI加速器優(yōu)化支持

    Gaudi 2D AI加速器現(xiàn)已針對(duì)該模型進(jìn)行了全面優(yōu)化。這一優(yōu)化舉措使得AI開發(fā)者能夠更輕松地實(shí)現(xiàn)復(fù)雜任務(wù)的部署與優(yōu)化,從而有效滿足行業(yè)應(yīng)用對(duì)于推理算力的迫切需求。
    的頭像 發(fā)表于 02-08 14:35 ?513次閱讀

    英特爾發(fā)布全新企業(yè)AI一體化方案

    近日,英特爾正式推出了全新的企業(yè)AI一體化方案。該方案以英特爾至強(qiáng)處理英特爾Gaudi 2D
    的頭像 發(fā)表于 12-03 11:20 ?465次閱讀

    英特爾發(fā)布全新企業(yè)AI一體化解決方案

    加速器等先進(jìn)硬件。此外,它還結(jié)合了OPEA開放軟件平臺(tái),確保了方案的靈活性和兼容性。 作為該方案的首個(gè)落地實(shí)踐,英特爾攜手新華三共同發(fā)布了新華三AIGC靈犀一體機(jī)。這款一體機(jī)充分利用了英特爾
    的頭像 發(fā)表于 12-02 10:48 ?792次閱讀

    Inflection AI轉(zhuǎn)向英特爾Gaudi 3,放棄英偉達(dá)GPU

    近日,人工智能技術(shù)公司Inflection AI宣布了一項(xiàng)重要決策,其最新的企業(yè)平臺(tái)將放棄采用英偉達(dá)(Nvidia)的GPU,轉(zhuǎn)而選擇英特爾Gaudi 3
    的頭像 發(fā)表于 10-10 17:21 ?663次閱讀

    Inflection AI攜手英特爾推出企業(yè)級(jí)AI系統(tǒng)

    近日,AI初創(chuàng)企業(yè)Inflection AI英特爾聯(lián)合宣布了一項(xiàng)重大合作——推出基于英特爾Gaudi
    的頭像 發(fā)表于 10-09 16:40 ?619次閱讀

    英特爾調(diào)降明年AI服務(wù)芯片出貨目標(biāo)

    近日,有消息稱英特爾為應(yīng)對(duì)內(nèi)部策略調(diào)整及終端需求變化,已對(duì)其旗下AI服務(wù)芯片Gaudi 3的明年出貨目標(biāo)進(jìn)行了大幅調(diào)整。
    的頭像 發(fā)表于 10-08 15:38 ?436次閱讀

    RISC-V擁有巨大市場(chǎng)潛力的原因

    AI技術(shù)深度融合,例如Meta基于RISC-V架構(gòu)推出AI推理加速器,高通與谷歌合作推出基于RISC-V架構(gòu)的智能穿戴芯片等。 3、多元化應(yīng)用:RISC-V正在
    發(fā)表于 09-30 14:20

    IBM Cloud將部署英特爾Gaudi 3 AI芯片

    近日,科技巨頭IBM與英特爾宣布了一項(xiàng)重大合作計(jì)劃,雙方將共同在IBM Cloud平臺(tái)上部署英特爾最新的Gaudi 3 AI芯片,預(yù)計(jì)該服務(wù)
    的頭像 發(fā)表于 09-03 15:52 ?548次閱讀

    從運(yùn)動(dòng)員到開發(fā)者: 英特爾以開放式AI系統(tǒng)應(yīng)對(duì)多重挑戰(zhàn)

    打造的生成式AI(GenAI)檢索增強(qiáng)生成(RAG)解決方案。該成果深度展示了英特爾如何通過基于英特爾?至強(qiáng)?處理英特爾??
    的頭像 發(fā)表于 07-25 09:28 ?426次閱讀
    從運(yùn)動(dòng)員到開發(fā)者: <b class='flag-5'>英特爾</b>以開放式<b class='flag-5'>AI</b>系統(tǒng)應(yīng)對(duì)多重<b class='flag-5'>挑戰(zhàn)</b>

    英特爾以生成式AI RAG解決方案,為巴黎奧運(yùn)健兒提供便捷體驗(yàn)

    的生成式AI(GenAI)檢索增強(qiáng)生成(RAG)解決方案。該成果深度展示了英特爾如何通過基于英特爾至強(qiáng)處理英特爾?
    的頭像 發(fā)表于 07-19 19:43 ?1923次閱讀
    <b class='flag-5'>英特爾</b>以生成式<b class='flag-5'>AI</b> RAG解決方案,為巴黎奧運(yùn)健兒提供便捷體驗(yàn)

    英特爾加速AI PC發(fā)展,預(yù)計(jì)到2028年占據(jù)80%市場(chǎng)份額

    英特爾中國(guó)區(qū)董事長(zhǎng)王銳近日透露了公司未來的重要發(fā)展計(jì)劃。她表示,自英特爾酷睿Ultra處理發(fā)布以來,其卓越的性能已吸引了大量設(shè)備制造商的青睞,目前已有800萬(wàn)臺(tái)設(shè)備搭載了這款處理
    的頭像 發(fā)表于 06-18 16:26 ?745次閱讀

    英特爾發(fā)布新一代Lunar Lake處理

    在近期舉辦的中國(guó)臺(tái)北國(guó)際電腦展(Computex)上,英特爾CEO蓋爾辛格向全球展示了其最新的技術(shù)成果。他發(fā)布了第六代至強(qiáng)處理,并重點(diǎn)強(qiáng)調(diào)了Gaudi
    的頭像 發(fā)表于 06-05 11:23 ?1487次閱讀

    英特爾確認(rèn)Ponte Vecchio GPU將以云服務(wù)形式推出

    英特爾在公告中強(qiáng)調(diào),隨著AI技術(shù)需求的不斷增加,公司重點(diǎn)利用Gaudi AI加速器的性能優(yōu)勢(shì)及有
    的頭像 發(fā)表于 05-18 17:14 ?1242次閱讀

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品