0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI時代算力的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

要長高 ? 2024-11-04 11:45 ? 次閱讀

AI時代,算力扮演著至關重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么算力則是其強大的“動力引擎”。據(jù)資料顯示,為了訓練GPT大模型,Open AI耗費了40TB的數(shù)據(jù),并每天消耗高達50萬千瓦時的電力。訓練一次擁有1746億參數(shù)的GPT-3模型,所需的算力更是高達3640PFlops,耗資466萬美元。

隨著人工智能成為全球關注的焦點,各國紛紛加大對算力的追求。在中國,數(shù)據(jù)中心的建設速度同樣驚人。據(jù)2024中國算力大會透露,目前全國在用算力中心機架總規(guī)模已超過830萬標準機架,算力總規(guī)模達到246EFlops,位居世界前列,且年均增長率超過30%。

然而,在算力迅猛增長的同時,關于算力是否過剩的爭論也一直存在。一方面,算力作為人工智能發(fā)展的基石和經(jīng)濟社會的基礎設施,進行適度超前的建設是必要的。全球范圍內,算力投資建設均呈現(xiàn)出迅猛增長的態(tài)勢?!吨袊C合算力指數(shù)報告(2024)》顯示,截至2023年底,全球算力基礎設施總規(guī)模達到910EFlops,同比增長40%。

但另一方面,我們也要看到算力應用尚處于起步階段。當前,更多的算力增長是被以ChatGPT為代表的人工智能所牽引,而人工智能浪潮在經(jīng)歷過度炒作后正陷入低谷期,突破乏力。因此,有觀點認為智算中心的建設應放緩節(jié)奏,以避免在居高不下的成本壓力下,投資過多的算力導致運營困局。

然而,放棄算力的大力發(fā)展也將面臨在競爭中落伍的風險。從供需兩端來看,算力供給與應用存在不匹配的情況。AI算力供給緊缺的局面已有所緩解,但高端算力如AI專項算力、高性能算力等仍存在缺口,而通用算力利用率則相對較低。同時,智算中心的數(shù)量和機柜利用率也不及預期。

盡管如此,人工智能技術仍在社會上帶來了應用創(chuàng)新。目前,全國在工業(yè)、教育、醫(yī)療、能源等多個領域的算力應用項目已超過1.3萬個,云計算、元宇宙以及智慧城市建設等對算力的依賴程度持續(xù)增加,相關需求依然旺盛。

因此,算力是否過剩并沒有一個絕對的答案。在特定時期和特定領域,可能會出現(xiàn)算力利用率低的情況,但從長遠來看,隨著人工智能技術的不斷發(fā)展和應用場景的不斷拓展,算力需求將持續(xù)增長。

為此,我們需要根據(jù)具體情況來控制算力建設的節(jié)奏,并采取相應措施來優(yōu)化算力資源配置。既要避免盲目建設造成的資源浪費,又要保持戰(zhàn)略眼光,確保在人工智能的大國博弈中占據(jù)有利地位。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    33468

    瀏覽量

    274040
  • 人工智能
    +關注

    關注

    1804

    文章

    48415

    瀏覽量

    244678
收藏 0人收藏

    評論

    相關推薦

    維諦技術(Vertiv)發(fā)布兆瓦級UPS新品,破局高密AI負載供電挑戰(zhàn)

    AI時代,數(shù)據(jù)中心需要什么樣的供電系統(tǒng)?隨著AIGC業(yè)務需求的快速發(fā)展,導致機柜功率密度迅速增加,高密負載對數(shù)據(jù)中心的影響正日益加大。
    的頭像 發(fā)表于 04-03 11:01 ?307次閱讀
    維諦技術(Vertiv)發(fā)布兆瓦級UPS新品,破局高密<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>負載供電<b class='flag-5'>挑戰(zhàn)</b>

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發(fā)展AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對
    發(fā)表于 03-25 12:00

    當我問DeepSeek AI爆發(fā)時代的FPGA是否重要?答案是......

    提高了系統(tǒng)的整體性能。 綜上所述,F(xiàn)PGA在AI時代重要性不僅體現(xiàn)在其強大的硬件加速能力和高能效比上,更在于其高度的靈活性和定制化能力,使其能夠適應不斷變化的AI需求,為
    發(fā)表于 02-19 13:55

    AI:智能時代的核心驅動力

    引言在當今數(shù)字化時代,重要性不言而喻。12月28日,央視和國務院國資委聯(lián)合制作的紀錄片《大國基石》第三期《
    的頭像 發(fā)表于 01-22 12:58 ?498次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:智能<b class='flag-5'>時代</b>的核心驅動力

    中心的如何衡量?

    作為當下科技發(fā)展重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應用的運行。以下是對智中心算
    的頭像 發(fā)表于 01-16 14:03 ?1454次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)向專業(yè)的提供商租用所需的計算資源,以滿足其AI應用的需求。
    的頭像 發(fā)表于 11-14 09:30 ?1976次閱讀

    億鑄科技熊大鵬探討AI芯片的挑戰(zhàn)與解決策略

    在SEMiBAY2024《HBM與存儲器技術與應用論壇》上,億鑄科技的創(chuàng)始人、董事長兼CEO熊大鵬博士發(fā)表了題為《超越極限:大芯片的技術挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型
    的頭像 發(fā)表于 10-25 11:52 ?730次閱讀

    芯片 高性能 CPU/GPU/NPU 微架構分析》第1-4章閱讀心得——之巔:從基準測試到CPU微架構的深度探索

    ,還優(yōu)化了能效比,使天河二號在Green500榜單上也表現(xiàn)出色。另一方面,MLPerf的出現(xiàn)標志著AI時代需求的變化。它涵蓋了圖像分類
    發(fā)表于 10-19 01:21

    青云科技強化AI架構,升級產(chǎn)品與服務體系

    10月9日,青云科技正式揭曉了其升級版的產(chǎn)品與服務陣容、行業(yè)及場景定制化解決方案,以及全新的生態(tài)戰(zhàn)略。該公司旨在通過AI平臺、AI
    的頭像 發(fā)表于 10-10 16:42 ?712次閱讀

    并重:數(shù)據(jù)時代的雙刃劍

    在2024年的今天,人工智能(AI)技術已經(jīng)全面滲透至我們生活的方方面面,從醫(yī)療診斷到智能交通,從金融分析到智能家居,AI正以前所未有的速度重塑我們的世界。這一變革背后,和存
    的頭像 發(fā)表于 10-08 16:00 ?1220次閱讀

    平衡傳輸線標準的重要性

    對于需要長距離通信的系統(tǒng)。本文將探討平衡傳輸線標準的重要性。 一、平衡傳輸線標準的必要 1. 提高信號完整 在長距離傳輸中,信號完整
    的頭像 發(fā)表于 10-04 17:26 ?561次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    ,在全球范圍內,對于推動科技進步、經(jīng)濟發(fā)展及社會整體的運作具有至關重要的作用。隨著信息技術的高速發(fā)展,高性能計算(HPC)和人工智能(AI
    發(fā)表于 09-02 10:09

    大模型時代需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為
    發(fā)表于 08-20 09:04

    平衡創(chuàng)新與倫理:AI時代的隱私保護和算法公平

    發(fā)展不應背離人類的倫理道德。在推動技術創(chuàng)新的同時,我們必須確保每一步都走得穩(wěn)健和負責。通過提高透明度、保障算法公平、保護個人隱私權以及加強國際合作,我們可以確保AI技術的健康發(fā)展,
    發(fā)表于 07-16 15:07

    2024多樣產(chǎn)業(yè)峰會:江波龍解碼AI存儲方案的未來之路

    6月18日,多樣產(chǎn)業(yè)峰會2024在北京圓滿舉行,江波龍企業(yè)級存儲事業(yè)部市場總監(jiān)曹潯峰受邀出席本次峰會并發(fā)表了《大模型時代AI存儲方案
    的頭像 發(fā)表于 06-21 08:20 ?796次閱讀
    2024多樣<b class='flag-5'>性</b><b class='flag-5'>算</b><b class='flag-5'>力</b>產(chǎn)業(yè)峰會:江波龍解碼<b class='flag-5'>AI</b>存儲方案的未來之路

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品