GTC23 | NVIDIA 推出 DGX Cloud，使每個企業(yè)通過瀏覽器就能即時接入 AI 超級計算機

Oracle Cloud Infrastructure 率先運行 NVIDIA AI 超級計算實例；微軟 Azure、谷歌云等即將托管 DGX Cloud

加利福尼亞州圣克拉拉市 – GTC – 太平洋時間 2023 年 3 月 21 日 – NVIDIA 今日發(fā)布 NVIDIA DGX Cloud。這項 AI 超級計算服務(wù)使企業(yè)能夠即時接入用于訓(xùn)練生成式 AI 等開創(chuàng)性應(yīng)用的高級模型所需的基礎(chǔ)設(shè)施和軟件。

DGX Cloud 可提供 NVIDIA DGX AI 超級計算專用集群，并配以 NVIDIA AI 軟件。這項服務(wù)使得每個企業(yè)都可以通過一個簡單的網(wǎng)絡(luò)瀏覽器就能訪問自己的 AI 超級計算機，免除了購置、部署和管理本地基礎(chǔ)設(shè)施的復(fù)雜性。

企業(yè)可按月租用 DGX Cloud 集群，以便能夠快速、輕松地擴展大型多節(jié)點訓(xùn)練工作負載的開發(fā)，無須等待需求量通常很大的加速計算資源。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“我們正處于 AI 的‘iPhone’時刻。初創(chuàng)企業(yè)正在競相打造顛覆性的產(chǎn)品和商業(yè)模式，老牌企業(yè)則在尋求應(yīng)對之法。DGX Cloud 使客戶能夠在全球規(guī)模的云上即時接入 NVIDIA AI 超級計算。”

NVIDIA 正在與領(lǐng)先的云服務(wù)商聯(lián)合托管 DGX Cloud 基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure（OCI）將首當其沖，通過其 OCI 超級集群，提供專門構(gòu)建的 RDMA 網(wǎng)絡(luò)、裸金屬計算以及高性能本地塊存儲，可擴展到超過 32,000 個 GPU 所組成的超級集群。

微軟 Azure 預(yù)計將在下個季度開始托管 DGX Cloud。這項服務(wù)還將在不久之后擴展到谷歌云等。

行業(yè)巨頭利用 NVIDIA DGX Cloud

加速取得成功

首批使用 DGX Cloud 的 AI 行業(yè)先鋒包括全球領(lǐng)先的生物技術(shù)公司安進（Amgen）、保險科技領(lǐng)導(dǎo)者 CCC Intelligent Solutions（CCC）以及數(shù)字業(yè)務(wù)平臺提供商 ServiceNow。

安進正在使用 DGX Cloud 與 NVIDIA BioNeMo 大型語言模型軟件來加速藥物研發(fā)，比如包含 NVIDIA RAPIDS 數(shù)據(jù)科學(xué)加速庫的 NVIDIA AI Enterprise 軟件。

安進數(shù)字創(chuàng)新研究加速中心、生物制劑治療研究執(zhí)行總監(jiān) Peter Grandsard 表示：“借助 NVIDIA DGX Cloud 和 NVIDIA BioNeMo，我們的研究人員能夠把精力集中在更深層次的生物學(xué)研究上，無需再處理 AI 基礎(chǔ)設(shè)施和設(shè)置機器學(xué)習(xí)工程。相較于其他平臺，我們借助 DGX Cloud 的強大算力和多節(jié)點能力，同時結(jié)合 BioNeMo 將蛋白質(zhì) LLM 的訓(xùn)練速度提高了 3 倍，使用 NVIDIA RAPIDS 將訓(xùn)練后分析速度提高了 100 倍?！?/p>

財產(chǎn)和意外保險領(lǐng)域的領(lǐng)先云平臺 CCC 正在使用 DGX Cloud，以加快和擴展其 AI 模型的開發(fā)與訓(xùn)練。這些模型為該公司的創(chuàng)新汽車理賠解決方案賦能， 幫助加速該行業(yè)的智能自動化，并為每天數(shù)百萬的企業(yè)用戶及其消費者改進理賠體驗。

ServiceNow 正在使用 DGX Cloud 與本地 NVIDIA DGX 超級計算機，來構(gòu)建靈活可擴展的混合云 AI 超級計算，以來幫助其在大型語言模型、代碼生成和因果分析方面的 AI 研究。ServiceNow 還與其他機構(gòu)共同發(fā)起了一個負責任的開放科學(xué)生成式 AI 倡議——BigCode 項目，其在 NVIDIA 的 Megatron-LM 框架上進行訓(xùn)練。

打開瀏覽器即可使用

NVIDIA AI 超級計算和軟件

企業(yè)可以使用 NVIDIA Base Command 平臺軟件管理和監(jiān)控 DGX Cloud 訓(xùn)練工作負載，該軟件可實現(xiàn) DGX Cloud 以及本地 NVIDIA DGX 超級計算機之間用戶體驗的無縫銜接。通過使用 Base Command 平臺，用戶可根據(jù)每項工作所需的 DGX 基礎(chǔ)設(shè)施的數(shù)量和類型，將工作負載與之相匹配。

DGX Cloud 包含 NVIDIA AI Enterprise。NVIDIA AI Enterprise 作為 NVIDIA AI 平臺的軟件層，通過提供端到端 AI 框架和預(yù)訓(xùn)練模型，來加速數(shù)據(jù)科學(xué)流程，并簡化生產(chǎn)級 AI 的開發(fā)和部署。今日發(fā)布的 NVIDIA AI Enterprise 3.1 提供新的預(yù)訓(xùn)練模型、經(jīng)過優(yōu)化的框架和加速數(shù)據(jù)科學(xué)軟件庫，可進一步幫助開發(fā)人員啟動他們的 AI 項目。

DGX Cloud 的每個實例都配有 8 個 NVIDIA H100 或A100 80GB Tensor Core GPU，每個節(jié)點共有 640GB GPU 內(nèi)存。使用 NVIDIA 網(wǎng)絡(luò)解決方案構(gòu)建的高性能、低延遲結(jié)構(gòu)確保了工作負載能夠在互連系統(tǒng)集群中擴展，使多個實例就像一個巨型的 GPU，以滿足高級 AI 訓(xùn)練性能要求。集成在 DGX Cloud 中的高性能存儲為 AI 超級計算提供了完整的解決方案。

DGX Cloud 特有的來自 NVIDIA 專家的支持貫穿整個 AI 開發(fā)流程。用戶可以直接與 NVIDIA 工程師一起優(yōu)化模型，并迅速解決各種行業(yè)用例中的開發(fā)難題。

供應(yīng)情況

DGX Cloud 實例的價格為每實例每月 36,999 美元起。企業(yè)機構(gòu)可以聯(lián)系 NVIDIA 合作伙伴網(wǎng)絡(luò)了解更多詳情。

掃描海報二維碼，或點擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！

百里挑一！

3 月 23 日不可錯過的演講!