0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Supermicro推出適用于AI存儲的機柜級全方位解決方案 加速高性能AI訓(xùn)練和推理的數(shù)據(jù)存取

話說科技 ? 來源:話說科技 ? 作者:話說科技 ? 2024-02-01 17:56 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

【2024年2月1日,美國圣何塞訊】Supermicro, Inc.(納斯達克股票代碼:SMCI)作為AI、云端、存儲和5G/邊緣領(lǐng)域的全方位IT解決方案制造商,推出適用于人工智能(AI)和機器學(xué)習(xí)(ML)數(shù)據(jù)存取的完整優(yōu)化解決方案,覆蓋從數(shù)據(jù)收集到高性能數(shù)據(jù)傳輸?shù)母鱾€環(huán)節(jié)。此全新解決方案能通過將GPU數(shù)據(jù)傳輸管道完全利用使AI價值實現(xiàn)時間最小化。在AI訓(xùn)練方面,該解決方案可收集、轉(zhuǎn)換大量PB級原始資料,并加載到企業(yè)AI工作流程管道。這種多層式Supermicro解決方案通過證實可在生產(chǎn)制造環(huán)境中為人工智能運營(AIOps)和機器學(xué)習(xí)運營(MLOps)提供PB規(guī)模級數(shù)據(jù)量。Supermicro的多機柜級解決方案旨在降低落地風(fēng)險,讓組織能更快速地訓(xùn)練模型,并迅速將處理后的數(shù)據(jù)應(yīng)用到AI推理。

Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)表示:“通過由每機柜20 PB高性能快閃存儲容量所驅(qū)動并搭載四個專為應(yīng)用優(yōu)化的NVIDIA HGX H100 8-GPU的氣冷服務(wù)器或搭載八個NVIDIA HGX H100 8-GPU的液冷服務(wù)器,客戶能以機柜規(guī)模加速AI和ML應(yīng)用運行。此項解決方案能為每個存儲叢集提供270 GB/s的讀取吞吐量和390萬IOPS做為最低部署,并輕松擴大至數(shù)百PB的規(guī)模。借由使用具有PCIe 5.0與E3.S存儲裝置,以及WEKA Data Platform軟件的最新Supermicro系統(tǒng),這項通過場域測試的機柜級解決方案將可為使用者帶來AI 應(yīng)用性能的大幅提升。有了此項適用于 AI 訓(xùn)練的全新存儲解決方案,客戶將能完全發(fā)揮我們最先進GPU服務(wù)器機柜級解決方案的使用潛能,進而降低總擁有成本(TCO)并時提高AI性能?!?/p>

為了使GPU有成效地運行,具備低延遲、高帶寬數(shù)據(jù)處理性能的GPU服務(wù)器必須要能存取用于大規(guī)模 AI 訓(xùn)練運行的未結(jié)構(gòu)化PB量級數(shù)據(jù)。Supermicro擁有基于IntelAMD技術(shù)的廣泛存儲服務(wù)器產(chǎn)品組合,是AI管道必不可少的要素。這些產(chǎn)品包括Supermicro Petascale All-Flash存儲服務(wù)器,其中每部服務(wù)器擁有983.04* TB的NVMe Gen 5快閃數(shù)據(jù)容量,可提供高達230 GB/s的讀取帶寬和3,000萬IOPS。本解決方案還包括適用于容量物件層級并具備90個存儲硬盤槽的Supermicro SuperServer存儲服務(wù)器。全球客戶已可取得此經(jīng)過測試的完善解決方案并用于ML、GenAI和其他復(fù)雜計算的工作負載。

全新存儲解決方案包含:

·All-Flash層級 - Supermicro Petascale Storage Servers

·應(yīng)用層級 - Supermicro 8U GPU服務(wù)器:AS -8125GS-TNHR和 SYS-821GE-TNHR

·物件層級 - Supermicro 90 drive bay 4U SuperStorage Server,運行Quantum ActiveScale物件存儲

·軟件:WEKA Data Platform和Quantum ActiveScale物件存儲

·交換機:Supermicro InfiniBand 和以太網(wǎng)絡(luò)交換機

WEKA總裁Jonathan Martin表示:“具高性能和高度快閃數(shù)據(jù)容量的Supermicro PB級All-Flash存儲服務(wù)器能與WEKA的AI原生數(shù)據(jù)平臺軟件完美互補搭配,并為現(xiàn)今的企業(yè)AI客戶提供空前的速度、規(guī)模和簡易性?!?/p>

Supermicro將在一場網(wǎng)絡(luò)研討會中介紹其優(yōu)化存儲架構(gòu)的更多細節(jié)。若要參加該場于2024年2月1日舉辦的直播網(wǎng)絡(luò)研討會,或觀看Supermicro和WEKA的網(wǎng)絡(luò)研討會回放,請瀏覽:https://www.brighttalk.com/webcast/17278/604378

深入了解全系列Supermicro存儲系統(tǒng):https://www.supermicro.org.cn/en/products/storage

*原始值是基于30.72 TB的廠商原始基本容量。TB是以10為基礎(chǔ)的十進制。30.72 TB E3.S SSD的取得需視廠商供貨狀態(tài)而定。

關(guān)于Super Micro Computer, Inc.

Supermicro(納斯達克股票代碼:SMCI)為應(yīng)用優(yōu)化全方位IT解決方案的全球領(lǐng)導(dǎo)者。Supermicro的成立據(jù)點及運營中心位于美國加州圣何塞,致力為企業(yè)、云端、AI和5G電信/邊緣IT基礎(chǔ)架構(gòu)提供領(lǐng)先市場的創(chuàng)新技術(shù)。我們正轉(zhuǎn)型為全方位的IT解決方案制造商,提供服務(wù)器、AI、存儲、物聯(lián)網(wǎng)、交換器系統(tǒng)、軟件及服務(wù),并供應(yīng)先進大量主板、電源和機箱產(chǎn)品。這些產(chǎn)品皆由企業(yè)內(nèi)部團隊設(shè)計及制造(在美國、亞洲及荷蘭),通過全球化運營實現(xiàn)極佳的規(guī)模與效率,并借運營優(yōu)化降低總體擁有成本(TCO),以及經(jīng)由綠色計算技術(shù)減少環(huán)境沖擊。屢獲殊榮的Server Building Block Solutions?產(chǎn)品組合讓客戶可以從極多元形式的系統(tǒng)建構(gòu)中自由選擇具高度彈性、可重復(fù)使用的建構(gòu)組件,使工作負載與應(yīng)用達到最佳效能。這些建構(gòu)組件支持各種外形尺寸、處理器、內(nèi)存、GPU、存儲、網(wǎng)絡(luò)、能耗和散熱解決方案(空調(diào)、自然氣冷或液冷)。

Supermicro、Server Building Block Solutions和We Keep IT Green皆為Super Micro Computer, Inc. 的商標和/或注冊商標。

所有其他品牌、名稱和商標皆為其各自所有者之財產(chǎn)。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4531

    瀏覽量

    87428
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35093

    瀏覽量

    279506
收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    AI推理存儲,看好SRAM?

    看到了其前景并提前布局。AI推理也使得存儲HBM不再是唯一熱門,更多存儲芯片與AI推理芯片結(jié)合,
    的頭像 發(fā)表于 03-03 08:51 ?1675次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>的<b class='flag-5'>存儲</b>,看好SRAM?

    Supermicro推出全新Data Center Building Block Solutions?,可簡化并加速全球規(guī)模的AI/IT液冷數(shù)據(jù)中心建設(shè)

    分享到: ? ? ? ? 此項易于設(shè)計、建構(gòu)、部署及運營的解決方案適用于所有關(guān)鍵型計算和冷卻基礎(chǔ)設(shè)施 快速部署、啟動上線,完整配備AI/IT數(shù)據(jù)中心的必須組件 通過從系統(tǒng)、機架再到
    的頭像 發(fā)表于 06-03 16:31 ?163次閱讀
    <b class='flag-5'>Supermicro</b><b class='flag-5'>推出</b>全新Data Center Building Block Solutions?,可簡化并<b class='flag-5'>加速</b>全球規(guī)模的<b class='flag-5'>AI</b>/IT液冷<b class='flag-5'>數(shù)據(jù)</b>中心建設(shè)

    海思SD3403邊緣計算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶特定應(yīng)用場景,用戶采集照片或視頻,通過AI數(shù)據(jù)訓(xùn)練工程師**(用戶公司**
    發(fā)表于 04-28 11:11

    首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0,在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面躍遷,為開發(fā)者提供了更全面、更開放、更強大的端側(cè)AI
    發(fā)表于 04-13 19:52

    曙光存儲全新升級AI存儲方案

    近日,曙光存儲全新升級AI存儲方案,秉持“AI加速”理念,面向
    的頭像 發(fā)表于 03-31 11:27 ?494次閱讀

    適用于數(shù)據(jù)中心和AI時代的800G網(wǎng)絡(luò)

    ,成為新一代AI數(shù)據(jù)中心的核心驅(qū)動力。 AI時代的兩大數(shù)據(jù)中心:AI工廠與AI
    發(fā)表于 03-25 17:35

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)

    存儲設(shè)計,輕松應(yīng)對復(fù)雜AI模型與實時推理。其堅固耐用的工業(yè)品質(zhì)與超低成本,不僅適應(yīng)嚴苛環(huán)境的應(yīng)用,更為工程師提供了極致靈活的開發(fā)體驗,堪稱推動開源生態(tài)與人工智能未來的標桿之選?!?瑞
    發(fā)表于 03-19 17:54

    數(shù)字化時代的存儲變革:閃迪引領(lǐng)AI應(yīng)用的數(shù)據(jù)支持

    ,AI模型的訓(xùn)練推理需要海量的高質(zhì)量數(shù)據(jù)支持,而高效的存儲解決方案能夠確保
    的頭像 發(fā)表于 03-19 08:59 ?318次閱讀
    數(shù)字化時代的<b class='flag-5'>存儲</b>變革:閃迪引領(lǐng)<b class='flag-5'>AI</b>應(yīng)用的<b class='flag-5'>數(shù)據(jù)</b>支持

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功怎么處理?

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功咋辦,試了好幾個模型壓縮了也不行,ram占用過大,有無解決方案?
    發(fā)表于 03-11 07:18

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測......

    和并行計算能力,將AI模型(如CNN、LSTM、Transformer等)部署到FPGA上,實現(xiàn)高效的數(shù)據(jù)預(yù)處理、實時推理和后處理。? 定制化解決方案:根據(jù)具體應(yīng)用場景(如自動駕駛、機
    發(fā)表于 03-03 11:21

    讓大模型訓(xùn)練更高效,奇異摩爾用互聯(lián)創(chuàng)新方案定義下一代AI計算

    訓(xùn)練成本,使得企業(yè)能夠以低成本實現(xiàn)高性能AI大模型的訓(xùn)練;在推理端,DeepSeek加速
    的頭像 發(fā)表于 02-18 09:19 ?1313次閱讀
    讓大模型<b class='flag-5'>訓(xùn)練</b>更高效,奇異摩爾用互聯(lián)創(chuàng)新<b class='flag-5'>方案</b>定義下一代<b class='flag-5'>AI</b>計算

    Supermicro提高NVIDIA Blackwell機架解決方案產(chǎn)量

    Supermicro, Inc.,作為人工智能/機器學(xué)習(xí)、高性能計算、云、存儲和5G/Edge領(lǐng)域的整體IT解決方案提供商,近日宣布其基于NVIDIA Blackwell平臺
    的頭像 發(fā)表于 02-11 09:45 ?408次閱讀

    Supermicro推出直接液冷優(yōu)化的NVIDIA Blackwell解決方案

    ,宣布推出高性能的SuperCluster。這一端對端AI數(shù)據(jù)中心解決方案采用NVIDIA Blackwell平臺,專為兆
    發(fā)表于 11-25 10:39 ?779次閱讀
    <b class='flag-5'>Supermicro</b><b class='flag-5'>推出</b>直接液冷優(yōu)化的NVIDIA Blackwell<b class='flag-5'>解決方案</b>

    NVIDIA助力麗蟾科技打造AI訓(xùn)練推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業(yè)和科研機構(gòu)提供了一套高效、靈活的 AI 訓(xùn)練推理加速
    的頭像 發(fā)表于 10-27 10:03 ?816次閱讀
    NVIDIA助力麗蟾科技打造<b class='flag-5'>AI</b><b class='flag-5'>訓(xùn)練</b>與<b class='flag-5'>推理</b><b class='flag-5'>加速</b><b class='flag-5'>解決方案</b>

    SiFive發(fā)布MX系列高性能AI加速器IP

    AI技術(shù)日新月異的今天,RISC-V IP設(shè)計領(lǐng)域的領(lǐng)軍企業(yè)SiFive再次引領(lǐng)行業(yè)潮流,正式推出了其革命性的SiFive Intelligence XM系列高性能AI
    的頭像 發(fā)表于 09-24 14:46 ?821次閱讀

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品