0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI計(jì)算需求激增,英偉達(dá)H100功耗成挑戰(zhàn)

微云疏影 ? 來(lái)源:綜合整理 ? 作者:綜合整理 ? 2023-12-28 09:29 ? 次閱讀

伴隨著人工智能技術(shù)飛躍式的進(jìn)步,對(duì)于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前,英偉達(dá)公司的H100芯片銷售火爆。值得關(guān)注的是,單片H100芯片的峰值功率高達(dá)700瓦。隨著此類芯片的廣泛使用,預(yù)計(jì)到2024年末,其總體功耗將相當(dāng)于甚至超越某些歐洲小型國(guó)家。

根據(jù)預(yù)測(cè),若H100的年利用率保持在61%,那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬(wàn)塊H100,2024年再增加至200萬(wàn)塊,那么到2024年底,將有350萬(wàn)塊H100芯片投入使用,其總年用電量將高達(dá)130.91億千瓦小時(shí)(13091.82GWh)。相對(duì)而言,一些國(guó)家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個(gè)數(shù)量級(jí)。

盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌,但我們可以看到,AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過(guò)H100的功耗,而且還能實(shí)現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務(wù)。

很明顯,隨著AI技術(shù)的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來(lái)亟待解決的重大問(wèn)題。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    456

    文章

    50919

    瀏覽量

    424582
  • 人工智能
    +關(guān)注

    關(guān)注

    1792

    文章

    47387

    瀏覽量

    238900
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3786

    瀏覽量

    91277
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    英偉達(dá)H100芯片市場(chǎng)降溫

    隨著英偉達(dá)新一代AI芯片GB200需求的不斷攀升,其上一代明星產(chǎn)品H100芯片卻遭遇了市場(chǎng)的冷落。據(jù)業(yè)內(nèi)人士透露,搭載
    的頭像 發(fā)表于 10-28 15:42 ?629次閱讀

    英偉達(dá)面臨雙重反壟斷調(diào)查挑戰(zhàn)

    英偉達(dá),這家在人工智能芯片領(lǐng)域占據(jù)領(lǐng)先地位的科技公司,近期遭遇了前所未有的挑戰(zhàn)。在享受了數(shù)月由AI芯片需求
    的頭像 發(fā)表于 08-14 11:45 ?595次閱讀

    英偉達(dá)AI芯片需求激增,封測(cè)廠訂單量或翻倍

    在全球半導(dǎo)體行業(yè)持續(xù)演進(jìn)的背景下,英偉達(dá)(NVIDIA)的AI芯片需求正迎來(lái)前所未有的增長(zhǎng)。據(jù)悉,英偉達(dá)
    的頭像 發(fā)表于 06-24 18:05 ?1675次閱讀

    首批1024塊H100 GPU,正崴集團(tuán)將建中國(guó)臺(tái)灣最大AI計(jì)算中心

    中國(guó)臺(tái)灣當(dāng)?shù)卣思瘓F(tuán)5月27日宣布,將與日本公司Ubitus共同打造人工智能(AI計(jì)算中心,其中第一期將導(dǎo)入128個(gè)機(jī)柜,共計(jì)1024張英偉達(dá)H1
    的頭像 發(fā)表于 05-29 10:05 ?1151次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級(jí)芯片

    藥物設(shè)計(jì)、量子計(jì)算和生成式 AI 等領(lǐng)域。 為了紀(jì)念杰出的數(shù)學(xué)家David H.Blackwell,英偉達(dá) Blackwell架構(gòu)被明確設(shè)計(jì)
    發(fā)表于 05-13 17:16

    英偉達(dá)超級(jí)計(jì)算機(jī)Eos揭秘

    英偉達(dá)將Eos描述為一個(gè)可以為“AI工廠”提供動(dòng)力的系統(tǒng),因?yàn)樗且粋€(gè)非常大規(guī)模的SuperPod DGX H100系統(tǒng)。
    的頭像 發(fā)表于 04-24 10:15 ?584次閱讀

    英特爾的最強(qiáng)AI芯片要來(lái)了,聲稱性能完勝英偉達(dá)H100

    增加了近1.5倍。 與競(jìng)爭(zhēng)對(duì)手的正面對(duì)標(biāo)也不落下風(fēng)。英特爾聲稱Gaudi3已全面超越英偉達(dá)去年發(fā)布的H100芯片:運(yùn)行
    的頭像 發(fā)表于 04-11 23:36 ?485次閱讀

    英偉達(dá)H200帶寬狂飆

    英偉達(dá)H200帶寬的顯著提升主要得益于其強(qiáng)大的硬件配置和先進(jìn)的技術(shù)創(chuàng)新。H200配備了高達(dá)141GB的HBM3e顯存,與前代產(chǎn)品H100相比
    的頭像 發(fā)表于 03-07 16:44 ?969次閱讀

    英偉達(dá)H200顯卡價(jià)格

    英偉達(dá)H200顯卡的具體價(jià)格尚未公布。根據(jù)上一代H100顯卡的價(jià)格范圍,預(yù)計(jì)H200的單片價(jià)格將超過(guò)40000美元。由于新芯片通常定價(jià)較高,
    的頭像 發(fā)表于 03-07 16:09 ?5200次閱讀

    英偉達(dá)H200和H100的比較

    英偉達(dá)H200和H100是兩款不同的AI芯片,它們各自具有獨(dú)特的特點(diǎn)和優(yōu)勢(shì)。以下是關(guān)于這兩款芯片的一些比較。
    的頭像 發(fā)表于 03-07 15:53 ?4732次閱讀

    戴爾績(jī)后暴漲20% AI服務(wù)器需求激增

    盡管面臨先進(jìn)計(jì)算機(jī)芯片供應(yīng)瓶頸,戴爾科技依然努力滿足市場(chǎng)需求。Jeff Clarke表明,盡管需求持續(xù)高漲,但公司看到英偉達(dá)
    的頭像 發(fā)表于 03-01 15:53 ?980次閱讀

    美光科技啟動(dòng)高帶寬存儲(chǔ)芯片生產(chǎn) 為英偉達(dá)最新AI芯片提供支持

    英偉達(dá)下一代H200圖形處理器將采用美光HBM3E芯片,預(yù)計(jì)于今年第2季交付,有望超越現(xiàn)有的H100芯片,為美光科技貢獻(xiàn)更高業(yè)績(jī)。此外,龍頭廠商SK海力士等供應(yīng)的
    的頭像 發(fā)表于 02-27 09:33 ?711次閱讀

    英偉達(dá):預(yù)計(jì)下一代AI芯片B100短缺,計(jì)劃擴(kuò)產(chǎn)并采用新架構(gòu)

    近期熱門的 H100 芯片運(yùn)期短縮數(shù)天后,英偉達(dá)新型 AI 旗艦芯片 B100搭載全新的 Blackwell,有望使
    的頭像 發(fā)表于 02-25 09:29 ?947次閱讀

    【機(jī)器視覺(jué)】歡創(chuàng)播報(bào) | 英偉達(dá)拿下全球90%的AI芯片市場(chǎng)

    預(yù)計(jì)最高可能已經(jīng)達(dá)到了90%,創(chuàng)下新高紀(jì)錄。在目前的人工智能智能加速芯片市場(chǎng),英偉達(dá)的A100/H100系列AI GPU可謂是市場(chǎng)的首選。
    的頭像 發(fā)表于 02-01 11:29 ?756次閱讀

    猛獸財(cái)經(jīng):2024年繼續(xù)看好英偉達(dá)的兩個(gè)理由

    2023年可以說(shuō)是英偉達(dá)成立近30年以來(lái)最好的一年。由于大語(yǔ)言模型帶動(dòng)的訓(xùn)練和推理算力需求的增加,導(dǎo)致市場(chǎng)對(duì)英偉達(dá)AI芯片(
    的頭像 發(fā)表于 01-11 16:24 ?947次閱讀
    猛獸財(cái)經(jīng):2024年繼續(xù)看好<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>的兩個(gè)理由