COMPUTEX2023 | NVIDIA 推出面向超大規(guī)模生成式 AI 的加速以太網(wǎng)平臺

全新的 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺集 NVIDIA Spectrum-4、BlueField-3 DPU 和加速軟件于一身；全球頭部云服務(wù)提供商采用該平臺來橫向擴(kuò)展其生成式 AI 服務(wù)

COMPUTEX—2023 年 5 月 29 日—NVIDIA 于今日宣布推出 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺，該平臺是一個(gè)加速網(wǎng)絡(luò)平臺，致力于提高基于以太網(wǎng) AI 云的性能與效率。

NVIDIA Spectrum-X 是基于網(wǎng)絡(luò)創(chuàng)新的新成果而構(gòu)建 —— 將 NVIDIA Spectrum-4 以太網(wǎng)交換機(jī)與 NVIDIA BlueField-3 DPU 緊密結(jié)合，取得了 1.7 倍的整體 AI 性能和能效提升，同時(shí)可在多租戶環(huán)境中提供一致、可預(yù)測的性能。Spectrum-X 還提供 NVIDIA 加速軟件和軟件開發(fā)套件（SDK），使開發(fā)人員能夠構(gòu)建軟件定義的云原生 AI 應(yīng)用。

這種端到端的功能交付，可以減少基于 transformer 的大規(guī)模生成式 AI 模型的運(yùn)行時(shí)間，助力網(wǎng)絡(luò)工程師、AI 數(shù)據(jù)科學(xué)家和云服務(wù)商及時(shí)取得更好的結(jié)果，并更快做出明智的決策。

全球頭部超大規(guī)模云服務(wù)商正在采用 NVIDIA Spectrum-X，包括領(lǐng)先的云創(chuàng)新企業(yè)。

作為 NVIDIA Spectrum-X 參考設(shè)計(jì)的藍(lán)圖和測試平臺，NVIDIA 正在構(gòu)建一臺超大規(guī)模生成式 AI 超級計(jì)算機(jī)，命名為 Israel-1。它將被部署在 NVIDIA 以色列數(shù)據(jù)中心，由基于 NVIDIA HGX 平臺的戴爾 PowerEdge XE9680 服務(wù)器、BlueField-3 DPU 和 Spectrum-4 交換機(jī)等打造而成。

NVIDIA 網(wǎng)絡(luò)高級副總裁 Gilad Shainer 表示：“諸如生成式 AI 等革命性技術(shù)正在推動各家企業(yè)提升數(shù)據(jù)中心性能的極限，從而獲得更多競爭優(yōu)勢。作為新一代以太網(wǎng)絡(luò)，NVIDIA Spectrum-X 為新一代 AI 工作負(fù)載掃清障礙，將會徹底改變整個(gè)行業(yè)。”

NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺具有高度的通用性，可用于各種 AI 應(yīng)用。它采用完全標(biāo)準(zhǔn)的以太網(wǎng)，與現(xiàn)有以太網(wǎng)的堆棧實(shí)現(xiàn)互通。

該平臺起步于 Spectrum-4，這是全球首款專為 AI 網(wǎng)絡(luò)打造的 51Tb/s 以太網(wǎng)交換機(jī)。先進(jìn)的 RoCE 擴(kuò)展功能可以跨 Spectrum-4 交換機(jī)、BlueField-3 DPU 和 NVIDIA LinkX 光纖相互協(xié)同，共同構(gòu)建了一個(gè)專為 AI 云優(yōu)化的端到端 400GbE 網(wǎng)絡(luò)。

NVIDIA Spectrum-X 通過性能隔離增強(qiáng)了多租戶環(huán)境，確保租戶的 AI 工作負(fù)載能以最佳性能持續(xù)運(yùn)行。NVIDIA Spectrum-X 還提供了更好的 AI 性能可見性，它可以識別性能瓶頸，而且具有全自動網(wǎng)絡(luò)驗(yàn)證功能。

驅(qū)動 Spectrum-X 的加速軟件包括 Cumulus Linux、純 SONiC 和 NetQ 等性能強(qiáng)大的 NVIDIA SDK，共同助力該網(wǎng)絡(luò)平臺實(shí)現(xiàn)極致性能。另外，Spectrum-X 還包括 BlueField DPU 的核心軟件—— NVIDIA DOCA 軟件框架。

NVIDIA Spectrum-X 單臺交換機(jī)即可實(shí)現(xiàn)突破性的 256 個(gè) 200Gb/s 端口的連接，使用兩層葉脊拓?fù)淇梢赃B接 16,000 個(gè)端口，以支持 AI 云的增長和擴(kuò)展，同時(shí)保持極高的性能和極低的網(wǎng)絡(luò)延時(shí)。

生態(tài)采用情況

提供 NVIDIA Spectrum-X 方案的公司包括戴爾科技、聯(lián)想和超微。

供貨情況

NVIDIA Spectrum-X、Spectrum-4 交換機(jī)、BlueField-3 DPU 和 400G LinkX 光纖現(xiàn)已上市。

聆聽 COMPUTEX 主題演講，進(jìn)一步了解 NVIDIA Spectrum-X。

點(diǎn)擊 “閱讀原文”，或掃描下方海報(bào)二維碼，觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來的主題演講直播回放，了解 AI、圖形及其他領(lǐng)域的最新進(jìn)展！