NVIDIA 與軟銀公司合作，利用 Grace Hopper 超級芯片建設面向生成式 AI 和 5G/6G 的軟銀下一代數(shù)據中心

基于 Arm 架構的超級芯片和 BlueField-3 DPU 帶來革命性的架構，以實現(xiàn)生成式 AI 驅動的無線通信

COMPUTEX—2023 年 5 月 29 日—NVIDIA 和軟銀公司今天宣布，雙方正在合作打造一個基于 NVIDIA GH200 Grace Hopper 超級芯片、面向生成式 AI 和 5G/6G 應用的開創(chuàng)性平臺。軟銀計劃在日本各地的全新分布式 AI 數(shù)據中心采用該平臺。

為在全球范圍內快速部署生成式 AI 應用和服務鋪平道路，通過與 NVIDIA 合作，軟銀將打造能夠在多租戶通用服務器平臺上托管生成式 AI 和無線應用的數(shù)據中心，以降低成本和更節(jié)能。

該平臺將使用全新 NVIDIA MGX 參考架構和基于 Arm Neoverse 的 GH200 超級芯片，有望提高應用程序工作負載的性能、可擴展性和資源利用率。

軟銀公司總裁兼首席執(zhí)行官 Junichi Miyakawa 表示：“隨著我們進入一個社會與 AI 共存的時代，對數(shù)據處理和電力的需求將不斷增長。軟銀將提供下一代社會基礎設施，以支持日本的超級數(shù)字化社會。與 NVIDIA 的合作將幫助我們的基礎設施利用 AI 實現(xiàn)更高的性能，包括對 RAN 的優(yōu)化。我們期待這也可以幫助我們降低能耗，創(chuàng)建一個互連的數(shù)據中心網絡，用于共享資源并托管一系列生成式 AI 應用。”

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“對加速計算和生成式 AI 的需求正在推動數(shù)據中心架構的根本性變革。NVIDIA Grace Hopper 是一個革命性的計算平臺，專為處理和擴展生成式 AI 服務而設計。與以往富有遠見的其它舉措一樣，軟銀正在引領世界創(chuàng)建一個電信網絡來承載生成式 AI 服務?！?/p>

相比以往的數(shù)據中心，這些新數(shù)據中心的分布將更加均衡，并能夠同時處理 AI 和 5G 工作負載。這將讓它們更好地保持峰值運行，同時保持低時延并大幅降低總體能源成本。

軟銀正在為自動駕駛、AI 工廠、增強現(xiàn)實和虛擬現(xiàn)實、計算機視覺和數(shù)字孿生開發(fā) 5G 應用。

虛擬 RAN 的吞吐量破紀錄

NVIDIA Grace Hopper 和 NVIDIA BlueField-3 DPU 將加速軟件定義的 5G vRAN 以及生成式 AI 應用，而無需定制硬件加速器或專用 5G CPU。此外，配備 BlueField-3 的 NVIDIA Spectrum 以太網交換機將為 5G 提供高精度時間同步協(xié)議。

該解決方案在 NVIDIA 加速的 1U MGX 服務器設計上實現(xiàn)了突破性的 5G 速度，根據公開的 5G 加速器數(shù)據，它實現(xiàn)了業(yè)內吞吐量最高的 36Gbps 下行鏈路容量。運營商一直難以通過行業(yè)標準服務器實現(xiàn)如此高的下行鏈路容量。

全新參考架構

NVIDIA MGX 是一個模塊化參考架構，讓系統(tǒng)制造商和超大規(guī)模企業(yè)客戶能夠快速、經濟地構建 100 多種服務器機型，適用于各種 AI、HPC 和 NVIDIA Omniverse應用。

通過將 NVIDIA Aerial軟件引入到高性能的軟件定義的云原生 5G 網絡中，這些 5G 基站將允許運營商動態(tài)地分配計算資源，并實現(xiàn)比競品高 2.5 倍的能效。

Arm 首席執(zhí)行官 Rene Haas 表示：“生成式 AI 的未來發(fā)展需要高性能、節(jié)能的計算，就像 NVIDIA 基于 Arm Neoverse 的 Grace Hopper 超級芯片那樣。結合 NVIDIA BlueField DPU，Grace Hopper 使軟銀新的 5G 數(shù)據中心能夠運行最苛刻的計算和內存密集型應用，并為 Arm 上的軟件定義 5G 和 AI 帶來指數(shù)級的能效提升?！?/p>

點擊 “閱讀原文”，或掃描下方海報二維碼，觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來的主題演講直播回放，了解 AI、圖形及其他領域的最新進展！