伴隨著人工智能技術(shù)飛躍式的進(jìn)步,對(duì)于計(jì)算機(jī)運(yùn)算能力的需求同樣大幅提升。目前,英偉達(dá)公司的H100芯片銷售火爆。值得關(guān)注的是,單片H100芯片的峰值功率高達(dá)700瓦。隨著此類芯片的廣泛使用,預(yù)計(jì)到2024年末,其總體功耗將相當(dāng)于甚至超越某些歐洲小型國(guó)家。
根據(jù)預(yù)測(cè),若H100的年利用率保持在61%,那么單臺(tái)設(shè)備每年將耗電3740千瓦小時(shí)左右。如果英偉達(dá)在2023年售出150萬(wàn)塊H100,2024年再增加至200萬(wàn)塊,那么到2024年底,將有350萬(wàn)塊H100芯片投入使用,其總年用電量將高達(dá)130.91億千瓦小時(shí)(13091.82GWh)。相對(duì)而言,一些國(guó)家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個(gè)數(shù)量級(jí)。
盡管H100的電力消耗數(shù)字讓人瞠目結(jié)舌,但我們可以看到,AI以及高性能計(jì)算GPU的能效正逐步改善。英偉達(dá)下一代Blackwell架構(gòu)的B100芯片不僅可能擁有超過(guò)H100的功耗,而且還能實(shí)現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務(wù)。
很明顯,隨著AI技術(shù)的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來(lái)亟待解決的重大問(wèn)題。
-
芯片
+關(guān)注
關(guān)注
456文章
50919瀏覽量
424582 -
人工智能
+關(guān)注
關(guān)注
1792文章
47387瀏覽量
238900 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3786瀏覽量
91277
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論