0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

是德科技推出AI數(shù)據(jù)中心構(gòu)建器

是德科技快訊 ? 來源:是德科技快訊 ? 2025-04-07 11:06 ? 次閱讀

?通過模擬真實工作負(fù)載驗證AI基礎(chǔ)設(shè)施的性能

?通過評估新算法、組件或協(xié)議提高AI訓(xùn)練的性能

?在不投資昂貴的大規(guī)模部署的情況下,調(diào)整和優(yōu)化AI工作負(fù)載和系統(tǒng)基礎(chǔ)設(shè)施的參數(shù)

是德科技(NYSE:KEYS)推出Keysight AI (KAI)數(shù)據(jù)中心構(gòu)建器,這是一款先進(jìn)的軟件套件,通過模擬真實工作負(fù)載來評估新算法、組件和協(xié)議對AI訓(xùn)練性能的影響。KAI數(shù)據(jù)中心構(gòu)建器的工作負(fù)載模擬功能將大型語言模型(LLM)和其他人工智能(AI)模型訓(xùn)練工作負(fù)載集成到AI基礎(chǔ)設(shè)施組件的設(shè)計和驗證中——包括網(wǎng)絡(luò)、主機和加速器。該解決方案實現(xiàn)了硬件設(shè)計、協(xié)議、架構(gòu)和AI訓(xùn)練算法之間的更緊密協(xié)同,提升系統(tǒng)性能。

Keysight AI (KAI)數(shù)據(jù)中心構(gòu)建器是一款先進(jìn)的軟件套件,通過模擬真實工作負(fù)載來評估新算法、組件和協(xié)議對AI訓(xùn)練性能的影響。

AI服務(wù)提供商使用各種并行處理策略(也稱為數(shù)據(jù)或模型并行)來加速AI模型訓(xùn)練。將模型并行與AI集群拓?fù)浜团渲脤R可以提高訓(xùn)練性能。在AI集群設(shè)計階段,關(guān)鍵問題最好通過實驗來回答。許多問題集中在圖形處理單元(GPU)之間的數(shù)據(jù)傳輸效率上。關(guān)鍵考慮因素包括:

?AI主機或機架內(nèi)GPU互連的scale up設(shè)計

?Scale out網(wǎng)絡(luò)設(shè)計,包括每個GPU的帶寬和拓?fù)?/p>

?網(wǎng)絡(luò)負(fù)載均衡和擁塞控制的配置

?訓(xùn)練框架參數(shù)的調(diào)整

KAI數(shù)據(jù)中心構(gòu)建器的工作負(fù)載模擬解決方案再現(xiàn)了真實AI訓(xùn)練任務(wù)的網(wǎng)絡(luò)通信模式,加速實驗,降低達(dá)到熟練程度所需的學(xué)習(xí)曲線,并更深入洞察性能下降的原因,這些是通過真實AI訓(xùn)練任務(wù)實驗難以獲得的。是德科技客戶可以訪問包括GPT和Llama在內(nèi)的LLM工作負(fù)載庫,以及數(shù)據(jù)并行(DP)、全分片數(shù)據(jù)并行(FSDP)和三維(3D)并行等流行的模型分區(qū)方案。

使用KAI數(shù)據(jù)中心構(gòu)建器中的工作負(fù)載模擬應(yīng)用程序,AI服務(wù)提供商可以:

?實驗并行參數(shù),包括并行數(shù)據(jù)大小及其在可用AI基礎(chǔ)設(shè)施上的分布(調(diào)度)

?了解并行內(nèi)和并行間通信對整體任務(wù)完成時間(JCT)的影響

?識別低性能的集合通信操作并深入識別瓶頸

?分析網(wǎng)絡(luò)利用率、尾部延遲和擁塞,了解它們對JCT的影響

KAI數(shù)據(jù)中心構(gòu)建器的新工作負(fù)載模擬功能使AI服務(wù)提供商、GPU云提供商和基礎(chǔ)設(shè)施供應(yīng)商能夠?qū)⒄鎸嵉腁I工作負(fù)載引入其實驗室環(huán)境,以驗證AI集群和新組件的不斷演變的設(shè)計。他們還可以通過實驗微調(diào)模型并行方案、參數(shù)和算法,以優(yōu)化基礎(chǔ)設(shè)施并提高AI工作負(fù)載性能。

是德科技網(wǎng)絡(luò)測試與安全解決方案副總裁兼總經(jīng)理Ram Periakaruppan表示:“隨著AI基礎(chǔ)設(shè)施規(guī)模和復(fù)雜性的增長,對全棧驗證和優(yōu)化的需求變得至關(guān)重要。為了避免昂貴的延誤和返工,必須將驗證轉(zhuǎn)移到設(shè)計和制造周期的早期階段。KAI數(shù)據(jù)中心構(gòu)建器的工作負(fù)載模擬為AI組件和系統(tǒng)設(shè)計提供了非常高的真實性,優(yōu)化工作負(fù)載以實現(xiàn)最佳性能?!?/p>

KAI數(shù)據(jù)中心構(gòu)建器是是德科技人工智能(KAI)架構(gòu)的基礎(chǔ),這是一系列端到端解決方案,旨在通過使用真實AI工作負(fù)載模擬驗證AI集群組件,幫助客戶在數(shù)據(jù)中心擴(kuò)展人工智能(AI)處理能力。

是德科技在2025年4月1日至3日于舊金山Moscone中心舉行的OFC 2025會議上展示KAI數(shù)據(jù)中心構(gòu)建器及其工作負(fù)載模擬功能,展位號1301。

關(guān)于是德科技

是德科技(NYSE:KEYS)啟迪并賦能創(chuàng)新者,助力他們將改變世界的技術(shù)帶入生活。作為一家標(biāo)準(zhǔn)普爾 500 指數(shù)公司,我們提供先進(jìn)的設(shè)計、仿真和測試解決方案,旨在幫助工程師在整個產(chǎn)品生命周期中更快地完成開發(fā)和部署,同時控制好風(fēng)險。我們的客戶遍及全球通信、工業(yè)自動化、航空航天與國防、汽車、半導(dǎo)體和通用電子等市場。我們與客戶攜手,加速創(chuàng)新,創(chuàng)造一個安全互聯(lián)的世界。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    5173

    瀏覽量

    73304
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    34597

    瀏覽量

    276350
  • 是德科技
    +關(guān)注

    關(guān)注

    21

    文章

    990

    瀏覽量

    83377

原文標(biāo)題:是德科技推出AI數(shù)據(jù)中心構(gòu)建器以驗證和優(yōu)化網(wǎng)絡(luò)架構(gòu)和主機設(shè)計

文章出處:【微信號:KeysightGCFM,微信公眾號:是德科技快訊】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 0人收藏

    評論

    相關(guān)推薦
    熱點推薦

    納微半導(dǎo)體推出12kW超大規(guī)模AI數(shù)據(jù)中心電源

    近日,納微半導(dǎo)體宣布推出專為超大規(guī)模AI數(shù)據(jù)中心設(shè)計的最新12kW量產(chǎn)電源參考設(shè)計,可適配功率密度達(dá)120kW的高功率服務(wù)機架。
    的頭像 發(fā)表于 05-27 16:35 ?416次閱讀

    華為面向中東中亞地區(qū)發(fā)布全新星河AI數(shù)據(jù)中心網(wǎng)絡(luò)

    聯(lián)接、AI網(wǎng)元三層網(wǎng)絡(luò)架構(gòu),為企業(yè)構(gòu)建智聯(lián)滿載算力,業(yè)務(wù)永續(xù)護(hù)航的數(shù)據(jù)中心網(wǎng)絡(luò),助力中東中亞地區(qū)網(wǎng)絡(luò)基礎(chǔ)設(shè)施升級與業(yè)務(wù)創(chuàng)新。
    的頭像 發(fā)表于 05-21 15:49 ?230次閱讀

    科技推出用于大規(guī)模AI數(shù)據(jù)中心的系列解決方案

    ·?為AI基礎(chǔ)設(shè)施提供商提供從物理層到應(yīng)用層數(shù)據(jù)中心模擬和優(yōu)化解決方案 ·?驗證和優(yōu)化系統(tǒng)級性能,確保AI數(shù)據(jù)中心的無縫互操作性 ·?主動識別可能導(dǎo)致
    的頭像 發(fā)表于 04-10 08:51 ?228次閱讀
    是<b class='flag-5'>德</b>科技<b class='flag-5'>推出</b>用于大規(guī)模<b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>的系列解決方案

    科技推出AI數(shù)據(jù)中心構(gòu)建以驗證和優(yōu)化網(wǎng)絡(luò)架構(gòu)和主機設(shè)計

    : KEYS )推出Keysight AI (KAI)數(shù)據(jù)中心構(gòu)建,這是一款先進(jìn)的軟件套件,通過模擬真實工作負(fù)載來評估新算法、組件和協(xié)議對
    的頭像 發(fā)表于 04-10 08:50 ?249次閱讀

    適用于數(shù)據(jù)中心AI時代的800G網(wǎng)絡(luò)

    隨著人工智能(AI)技術(shù)的迅猛發(fā)展,數(shù)據(jù)中心面臨著前所未有的計算和網(wǎng)絡(luò)壓力。從大語言模型(LLM)訓(xùn)練到生成式AI應(yīng)用,海量數(shù)據(jù)處理需求推動了網(wǎng)絡(luò)帶寬的快速增長。在此背景下,800G網(wǎng)
    發(fā)表于 03-25 17:35

    華為全新升級星河AI數(shù)據(jù)中心網(wǎng)絡(luò)

    在華為中國合作伙伴大會2025期間,以 “星河AI數(shù)據(jù)中心網(wǎng)絡(luò),賦AI時代新動能”為主題的數(shù)據(jù)中心網(wǎng)絡(luò)分論壇圓滿落幕。本次論壇匯聚了來自全國的300多位客戶和伙伴,共同探討
    的頭像 發(fā)表于 03-24 14:46 ?411次閱讀

    Cadence顛覆AI數(shù)據(jù)中心設(shè)計

    日前舉辦的英偉達(dá) GTC 2025 開發(fā)者大會匯聚了眾多行業(yè)精英,共同探討人工智能的未來。而人工智能正在重塑全球數(shù)據(jù)中心的格局。據(jù)預(yù)測,未來將有 1 萬億美元用于 AI 驅(qū)動的數(shù)據(jù)中心升級。然而
    的頭像 發(fā)表于 03-21 15:43 ?399次閱讀

    韓國將建全球最大AI數(shù)據(jù)中心

    據(jù)最新報道,韓國即將啟動一項雄心勃勃的計劃——建設(shè)全球最大的人工智能(AI)數(shù)據(jù)中心。該數(shù)據(jù)中心不僅在規(guī)模上令人矚目,更在技術(shù)和投資上展現(xiàn)了韓國的強大實力。 據(jù)悉,該數(shù)據(jù)中心的電力容量
    的頭像 發(fā)表于 02-20 09:24 ?514次閱讀

    亞馬遜云科技發(fā)布全新數(shù)據(jù)中心組件

    設(shè)計等多個方面進(jìn)行深度優(yōu)化和創(chuàng)新,成功構(gòu)建了一個更加高效節(jié)能的數(shù)據(jù)中心。這些創(chuàng)新不僅提升了數(shù)據(jù)中心的運行效率,更為客戶在AI等領(lǐng)域的進(jìn)一步創(chuàng)新提供了堅實的基礎(chǔ)。 據(jù)悉,亞馬遜云科技將在
    的頭像 發(fā)表于 12-24 15:05 ?513次閱讀

    Meta AI數(shù)據(jù)中心網(wǎng)絡(luò)用了哪家的芯片

    ? 在Meta,我們相信開放的硬件會推動創(chuàng)新。在當(dāng)今世界,越來越多的數(shù)據(jù)中心基礎(chǔ)設(shè)施致力于支持新興的AI技術(shù),開放硬件在協(xié)助分解方面發(fā)揮著重要作用。通過將傳統(tǒng)數(shù)據(jù)中心技術(shù)分解為其核心組件,我們可以
    的頭像 發(fā)表于 11-25 10:05 ?1339次閱讀
    Meta <b class='flag-5'>AI</b><b class='flag-5'>數(shù)據(jù)中心</b>網(wǎng)絡(luò)用了哪家的芯片

    怎樣保障數(shù)據(jù)中心不間斷電源不斷電 提供可靠安全的供配電#數(shù)據(jù)中心

    數(shù)據(jù)中心配電系統(tǒng)
    安科瑞王金晶
    發(fā)布于 :2024年08月29日 14:51:36

    Molex連接助力構(gòu)建未來數(shù)據(jù)中心 充分發(fā)揮人工智能AI的力量

    AI數(shù)據(jù)中心計算龐大的數(shù)據(jù)集,并且以文本、視頻、音頻、圖片等形式做出實時響應(yīng)。 為了滿足性能需求,數(shù)據(jù)中心架構(gòu)師必須擴(kuò)展系統(tǒng)結(jié)構(gòu),通過 PAM4 調(diào)制方案支持 224 Gbps
    的頭像 發(fā)表于 08-29 11:57 ?2421次閱讀
    Molex連接<b class='flag-5'>器</b>助力<b class='flag-5'>構(gòu)建</b>未來<b class='flag-5'>數(shù)據(jù)中心</b> 充分發(fā)揮人工智能<b class='flag-5'>AI</b>的力量

    SK電訊將與Lambda合作打造AI數(shù)據(jù)中心

    韓國領(lǐng)先的電信巨頭SK電訊(SK Telecom)宣布了一項重要合作計劃,將與美國知名的云GPU服務(wù)提供商Lambda攜手,于2024年12月在首爾共同推出一個先進(jìn)的人工智能(AI數(shù)據(jù)中心。該
    的頭像 發(fā)表于 08-23 17:29 ?1564次閱讀

    探索新潮流 — AI服務(wù)引領(lǐng)數(shù)據(jù)中心的發(fā)展

    電子發(fā)燒友網(wǎng)站提供《探索新潮流 — AI服務(wù)引領(lǐng)數(shù)據(jù)中心的發(fā)展.pdf》資料免費下載
    發(fā)表于 07-26 13:35 ?368次下載

    AI時代,我們需要怎樣的數(shù)據(jù)中心?AI重新定義數(shù)據(jù)中心

    超過60%的中國企業(yè)計劃在未來12至24個月內(nèi)部署生成式人工智能。AI、模型的構(gòu)建,將顛覆數(shù)據(jù)中心基礎(chǔ)設(shè)施的建設(shè)、運維和運營。一個全新的數(shù)據(jù)中心智能化時代已經(jīng)拉開序幕。
    發(fā)表于 07-16 11:33 ?1048次閱讀
    <b class='flag-5'>AI</b>時代,我們需要怎樣的<b class='flag-5'>數(shù)據(jù)中心</b>?<b class='flag-5'>AI</b>重新定義<b class='flag-5'>數(shù)據(jù)中心</b>

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學(xué)習(xí)
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品