0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

驅(qū)動 AI 的未來

Molex莫仕連接器 ? 來源:Molex莫仕連接器 ? 2023-12-07 15:10 ? 次閱讀

人工智能AI)性能的新突破,掀起了一場未來強大數(shù)據(jù)中心的競賽。隨著 AI 應用的復雜性不斷提高,以及對計算的需求呈指數(shù)級增長,電源可能決定著哪些數(shù)據(jù)中心可提升到更高一級的處理水平并保持領先地位。

近年來,AI 在各行各業(yè)帶來了翻天覆地的變化——從醫(yī)療保健和金融到交通運輸。機器學習算法和深度神經(jīng)網(wǎng)絡已成為數(shù)據(jù)分析、模式識別和決策方面的強大工具。然而,這些 AI 應用需要大量的計算能力和能源才能有效運作。

訓練大的 AI 模型可能會消耗大量電力,圖形處理器 (GPU) 或張量處理器 (TPU) 等專用硬件常常被用來執(zhí)行深度學習算法所需的復雜矩陣計算,這樣的計算速度比傳統(tǒng) CPU 快得多。這些專用硬件單元旨在處理大量數(shù)據(jù)以及優(yōu)化機器學習所需的處理。

當大模型開始擴展

近期的例子表明,訓練模型可能需要多達數(shù)百千瓦的電力。例如,OpenAI 的大語言模型 (LLM) GPT-3 的訓練使用了 1,750 億個參數(shù)和來自互聯(lián)網(wǎng)的 570GB 數(shù)據(jù),據(jù)稱消耗了 355 兆瓦的電力。

OpenAI 的下一個版本 GPT-4 比 GPT-3 強大數(shù)百倍,其訓練集包括 170 萬億個參數(shù),使其成為有史以來最強大的 AI 引擎——至少在目前是這樣。

OpenAI 使用了 Microsoft Azure 數(shù)據(jù)中心來開展 GPT 項目。公司將會繼續(xù)在自己的場所內(nèi)打造并維護數(shù)據(jù)中心,以幫助提升自身知名度或迅速擴大用戶群。但公司可能還需要依賴基于云的服務,例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供額外計算能力來滿足突然激增的需求。

這些大規(guī)模云平臺一直引領著超大規(guī)模數(shù)據(jù)中心最佳實踐的發(fā)展,并推動數(shù)據(jù)中心在計算速度和帶寬方面的性能不斷進步。

在這個競爭激烈的環(huán)境中,前景廣闊 AI 項目將會在最大計算處理負載的可靠數(shù)據(jù)中心方面展開爭奪。展望 AI 發(fā)展和數(shù)據(jù)中心升級的下一階段,可能沒有足夠的優(yōu)質(zhì)數(shù)據(jù)中心服務供每個人使用。

造成瓶頸的原因在很大程度上可能是電力限制。一項以 800 多名設計工程師及其經(jīng)理為調(diào)查對象的 Molex莫仕調(diào)查顯示,40% 的受訪者將電源管理列為在數(shù)據(jù)中心實施電源系統(tǒng)時面臨的最大挑戰(zhàn)。有 20% 的受訪者認為,配電問題是第二大挑戰(zhàn)。

讓數(shù)據(jù)能力翻倍

當今一流的數(shù)據(jù)中心可提供高達 112 Gbps 的數(shù)據(jù)傳輸率。許多數(shù)據(jù)中心正在升級硬件和連接器,以期達到這種速度和性能水平。

打造224 Gbps-PAM4數(shù)據(jù)中心趨勢已初現(xiàn)端倪,以滿足不斷增長的 AI 處理需求。然而,適用于 224G 的基礎設施組件還處于上市的早期階段,這意味著完全采用 224G 技術(shù)的設施要在幾年后才會普及。

讓全世界數(shù)據(jù)中心的數(shù)據(jù)傳輸率總體上翻倍將是一項艱巨的任務,因為這需要大幅增加發(fā)電量。鑒于如今 AI 消耗的能源量占了能源消耗總量的 2%,未來的升級可能相當于在這個世界新增幾個大城市,每個城市需要有自己的發(fā)電廠。

事實上,典型 GPU 模塊的電力需求已從 2018 年的每個模塊 450W 增加到 2022 年的 1000W,OCP OAM 的電力需求從每個機箱 3600W 增加到 8000W——推動這種增長的因素是對更強計算能力的需求。這種電力增長帶來了前所未有的高發(fā)熱量,并促使需要能夠耐受更高溫度的散熱片和組件。Molex莫仕 Mirror Mezz 連接器可滿足更高的電力需求并實現(xiàn)相關的熱管理。這些連接器可用于 450W 和 1000W GPU 型號,且具有出色的氣冷和液冷性能。

適應未來發(fā)展趨勢

AI 數(shù)據(jù)中心的電力需求成倍增長,這與現(xiàn)有設施的局限性形成了矛盾,解決這種矛盾需要創(chuàng)造性的解決方案。目前,一些超大規(guī)模數(shù)據(jù)中心可能只是因為地理位置不佳而無法進行下一代升級。某些地區(qū)可能不會選擇將本已有限的發(fā)電量分配給云服務提供商。而且,老舊的電網(wǎng)(即使已開始過渡到使用可再生資源)可能會出現(xiàn)間歇性停電,事實證明,這種情況會導致數(shù)據(jù)服務出現(xiàn)問題。

隨著數(shù)據(jù)中心從一種技術(shù)過渡到另一種技術(shù)并充分利用內(nèi)部配電架構(gòu),數(shù)據(jù)中心內(nèi)部也可能會出現(xiàn)瓶頸。除了硬件投資外,行業(yè)打造 AI 驅(qū)動的數(shù)據(jù)中心的趨勢,數(shù)據(jù)中心還必須著眼于尋找新方法優(yōu)化自身的功耗。優(yōu)化功耗的方法可能包括使用先進的冷卻系統(tǒng)、高效節(jié)能的硬件和創(chuàng)新的電源管理策略。對于想方設法優(yōu)化現(xiàn)有資源的數(shù)據(jù)中心來說,AI 驅(qū)動的管理工具甚至可能是理想的未來解決方案。

AI 不斷重塑計算世界,數(shù)據(jù)中心必須做出調(diào)整,以滿足這些應用不斷增長的需求。隨著 AI 領域的發(fā)展,以及越來越多公司希望在業(yè)務中部署 AI 應用,對強大計算資源的爭奪將愈演愈烈。數(shù)據(jù)中心運營商必須投資于最新的技術(shù)和策略,以在這個不斷變化的環(huán)境中保持領先地位和競爭優(yōu)勢。因此,Molex莫仕投資于未來的技術(shù),其中包括 224 Gbps-PAM4 功能以及一整套數(shù)據(jù)中心電源管理解決方案。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 連接器
    +關注

    關注

    98

    文章

    14861

    瀏覽量

    137914
  • AI
    AI
    +關注

    關注

    87

    文章

    32490

    瀏覽量

    271701
  • 機器學習
    +關注

    關注

    66

    文章

    8460

    瀏覽量

    133437
  • 莫仕
    +關注

    關注

    0

    文章

    94

    瀏覽量

    11718
收藏 人收藏

    評論

    相關推薦

    數(shù)據(jù)采集在AI行業(yè)的應用、優(yōu)勢及未來發(fā)展趨勢

    人工智能(AI)作為21世紀最具革命性的技術(shù)之一,正在深刻改變各行各業(yè)。AI的核心驅(qū)動力是數(shù)據(jù),而數(shù)據(jù)采集則是AI發(fā)展的基石。無論是機器學習、深度學習,還是自然語言處理、計算機視覺等領
    的頭像 發(fā)表于 03-07 14:12 ?281次閱讀
    數(shù)據(jù)采集在<b class='flag-5'>AI</b>行業(yè)的應用、優(yōu)勢及<b class='flag-5'>未來</b>發(fā)展趨勢

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    ”“大模型圈的大黑馬”“硅谷震驚了”“來自中國的學霸級AI”…… 從智能手機到自動駕駛,從數(shù)據(jù)中心到物聯(lián)網(wǎng),F(xiàn)PGA 正悄然改變著我們的生活。未來,F(xiàn)PGA 又將如何塑造世界?DeepSeek 帶你一起
    發(fā)表于 03-03 11:21

    數(shù)據(jù)驅(qū)動AI工具好用嗎

    當今,數(shù)據(jù)驅(qū)動AI工具,正逐漸成為企業(yè)和研究機構(gòu)提升效率、優(yōu)化決策、創(chuàng)新服務的關鍵手段。那么,數(shù)據(jù)驅(qū)動AI工具好用嗎?下面,AI部落小編帶您
    的頭像 發(fā)表于 02-14 09:17 ?112次閱讀

    數(shù)據(jù)驅(qū)動AI工具在哪

    數(shù)據(jù)驅(qū)動AI工具并不遙遠,它們就存在于我們的日常生活中,只是我們可能沒有意識到。這些工具通常被嵌入到各種應用程序、軟件和服務中,為我們提供便利。接下來,AI部落小編為您詳細介紹數(shù)據(jù)驅(qū)動
    的頭像 發(fā)表于 12-09 10:52 ?240次閱讀

    AI云平臺的未來趨勢與發(fā)展方向

    AI云平臺通過提供高效的數(shù)據(jù)處理、模型訓練、推理服務以及便捷的開發(fā)工具,極大地降低了企業(yè)應用AI的門檻,加速了AI技術(shù)的普及與創(chuàng)新。以下是對AI云平臺
    的頭像 發(fā)表于 12-02 17:34 ?453次閱讀

    AI技術(shù)驅(qū)動半導體產(chǎn)業(yè)升級,芯原布局未來智能計算領域

    “塑造智能計算的未來AI技術(shù)的普及與應用”這一主題,探討了AI技術(shù)在各大應用領域的新機遇,并分享了芯原在相關領域的戰(zhàn)略布局。
    的頭像 發(fā)表于 11-06 13:53 ?622次閱讀

    未來AI大模型的發(fā)展趨勢

    未來AI大模型的發(fā)展趨勢將呈現(xiàn)多元化和深入化的特點,以下是對其發(fā)展趨勢的分析: 一、技術(shù)驅(qū)動與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應用,AI大模型在特征提取和
    的頭像 發(fā)表于 10-23 15:06 ?1236次閱讀

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第6章人AI與能源科學讀后感

    幸得一好書,特此來分享。感謝平臺,感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅(qū)動科學創(chuàng)新》的第6章后,我深刻感受到人工智能在能源科學領域中的巨大潛力和廣泛應用。這一章詳細
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章-AI與生命科學讀后感

    農(nóng)業(yè)、環(huán)保等,為人類社會的可持續(xù)發(fā)展做出貢獻。 總結(jié) 《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章關于AI與生命科學的部分,為我們展示了一個充滿希望和機遇的未來。在這個
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章AI for Science的技術(shù)支撐學習心得

    非常高興本周末收到一本新書,也非常感謝平臺提供閱讀機會。 這是一本挺好的書,包裝精美,內(nèi)容詳實,干活滿滿。 關于《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第二章“AI
    發(fā)表于 10-14 09:16

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第一章人工智能驅(qū)動的科學創(chuàng)新學習心得

    。 5. 展望未來 最后,第一章讓我對人工智能驅(qū)動的科學創(chuàng)新未來充滿了期待。隨著技術(shù)的不斷進步和應用場景的拓展,AI將在更多領域發(fā)揮關鍵作用,從基礎科學到應用科學,從理論研究到實踐應用
    發(fā)表于 10-14 09:12

    英特爾攜手運營商伙伴,共探AI驅(qū)動通信網(wǎng)絡新未來

    ,深度探討了英特爾網(wǎng)絡與邊緣AI技術(shù)如何驅(qū)動通信和網(wǎng)絡轉(zhuǎn)型,全方位展示了未來AI與網(wǎng)絡融合的智慧藍圖。 英特爾中國網(wǎng)絡與邊緣事業(yè)部網(wǎng)絡事業(yè)總經(jīng)理阮伯超表示:“電信行業(yè)是英特爾重點投入的
    的頭像 發(fā)表于 09-27 09:26 ?356次閱讀
    英特爾攜手運營商伙伴,共探<b class='flag-5'>AI</b><b class='flag-5'>驅(qū)動</b>通信網(wǎng)絡新<b class='flag-5'>未來</b>

    嵌入式系統(tǒng)的未來趨勢有哪些?

    嵌入式系統(tǒng)是指將我們的操作系統(tǒng)和功能軟件集成于計算機硬件系統(tǒng)之中,形成一個專用的計算機系統(tǒng)。那么嵌入式系統(tǒng)的未來趨勢有哪些呢? 1. 人工智能與機器學習的整合 隨著現(xiàn)代人工智能(AI)和機器學習
    發(fā)表于 09-12 15:42

    Imagination 引領邊緣計算和AI創(chuàng)新,擁抱AI未來發(fā)展

    ,致力于推動技術(shù)創(chuàng)新,擁抱人工智能的未來發(fā)展。同時他也介紹了Imagination在計算領域的戰(zhàn)略布局、產(chǎn)品技術(shù)以及對未來AI發(fā)展的深刻洞察。Imagination
    的頭像 發(fā)表于 06-28 08:28 ?654次閱讀
    Imagination 引領邊緣計算和<b class='flag-5'>AI</b>創(chuàng)新,擁抱<b class='flag-5'>AI</b><b class='flag-5'>未來</b>發(fā)展

    AI芯片未來會控制這個世界嗎?

    AI芯片行業(yè)資訊
    芯廣場
    發(fā)布于 :2024年03月27日 18:21:28