在 2023 亞馬遜云科技 re:Invent 大會上,亞馬遜云科技首席執(zhí)行官 Adam Selipsky 和 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛強調(diào)了生成式 AI 在云轉(zhuǎn)型過程中起到的關(guān)鍵作用,并著重介紹了兩家公司如何深化合作以賦能客戶取得成功。
亞馬遜云科技(AWS)和 NVIDIA 將為全球企業(yè)帶來新一代生成式 AI 技術(shù)。
當?shù)貢r間本周二,NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 同臺出現(xiàn)在拉斯維加斯威尼斯人會展中心舉行的 2023 亞馬遜云科技 re:Invent 上,該大會以 AI 和云為主題。
Selipsky 表示他非常高興宣布亞馬遜云科技和 NVIDIA 合作關(guān)系的擴展,兩家公司將提供更多的服務(wù),為先進的圖形、機器學(xué)習(xí)和生成式 AI 基礎(chǔ)設(shè)施提供支持。
雙方宣布:
-
亞馬遜云科技將成為率先采用最新 NVIDIA GH200 NVL32 Grace Hopper 超級芯片的云提供商,該芯片帶有全新多節(jié)點 NVLink 技術(shù);
-
NVIDIA DGX 云將在 AWS 平臺上可使用;
-
亞馬遜云科技已經(jīng)集成了 NVIDIA 最受歡迎的一些軟件庫。
黃仁勛首先強調(diào)了包括 NVIDIA AI Enterprise 、 cuQuantum 和 BioNeMo 在內(nèi)的一系列關(guān)鍵 NVIDIA 軟件庫與亞馬遜云科技的集成,以滿足數(shù)據(jù)處理、量子計算、數(shù)字生物學(xué)等領(lǐng)域的需求。
黃仁勛表示,此次合作將推動數(shù)百萬開發(fā)者和近 4 萬家企業(yè)能夠在亞馬遜云科技平臺使用這些軟件庫。他還表示很高興看到亞馬遜云科技擴展其云實例服務(wù),將 NVIDIA 最新的 L4、L40S 以及即將推出的 H200 GPU 納入其中。
Selipsky 隨后介紹了首次亮相亞馬遜云科技的 NVIDIA GH200 Grace Hopper 超級芯片,表示這是云計算領(lǐng)域的一項重大進步,并請黃仁勛進行更加詳細的介紹。
黃仁勛表示:“Grace Hopper,也就是 GH200,以一種非常獨特的方式連接了兩款顛覆性的處理器?!彼忉屨f,“GH200 使用名為 NVLink 的芯片到芯片互連技術(shù),將 NVIDIA 的 Grace Arm CPU 與 H200 GPU 連接在一起,其速度驚人,可達每秒 1TB。”
每個處理器都可以直接訪問高性能的 HBM 和高效率的 LPDDR5X 內(nèi)存。該配置使每個超級芯片的處理能力達到 4 PFLOPS,內(nèi)存容量達到 600GB。
亞馬遜云科技和 NVIDIA 用新型 NVLink 交換機來連接單個機架中的 32 個 Grace Hopper 超級芯片。每 32 個 GH200 NVLink 連接的節(jié)點都可稱為是一個 Amazon EC2 實例。在與 AWS Nitro 和 EFA 網(wǎng)絡(luò)集成后,客戶就可以連接 GH200 NVL32 實例,擴展到數(shù)千顆 GH200 超級芯片。
黃仁勛表示:“通過 AWS Nitro 可以將其變成一個巨大的虛擬 GPU 實例。”
他還表示,亞馬遜云科技在高度可擴展云計算領(lǐng)域的專業(yè)知識與 NVIDIA Grace Hopper 創(chuàng)新的結(jié)合,將使得這一平臺為復(fù)雜的生成式 AI 工作負載帶來極致性能。
在介紹亞馬遜云科技上的 NVIDIA DGX 云時,Selipsky 表示:“這個基礎(chǔ)設(shè)施真是太棒了,它還延伸到了軟件、服務(wù)和所有其他內(nèi)含的工作流。”
此次合作將使得首臺基于 GH200 超級芯片的 DGX 云 AI 超級計算機成為可能,它將展現(xiàn)亞馬遜云科技云基礎(chǔ)設(shè)施和 NVIDIA AI 專業(yè)技術(shù)的強大威力。
隨后,黃仁勛宣布亞馬遜云科技中的這臺全新 DGX 云超級計算機(代號為 Project Ceiba)也將作為 NVIDIA 最新的 AI 超級計算機,用于 NVIDIA 自己的 AI 研發(fā)工作。
黃仁勛表示,以雄偉的亞馬遜木棉樹(Ceiba)命名的 Project Ceiba DGX 云集群將集成 16,384 個 GH200 超級芯片,可實現(xiàn) 65 EFLOPS 的 AI 處理性能。
他表示,Ceiba 將是全球首臺 GH200 NVL32 AI 超級計算機,也是 NVIDIA DGX 云中最新的 AI 超級計算機。
他用“難以置信”來形容 Project Ceiba AI 超級計算機,稱它能夠?qū)⒆顝?fù)雜的大語言模型的訓(xùn)練時間縮短一半。
黃仁勛表示,NVIDIA 的 AI 工程師團隊將在 DGX 云中使用這臺全新超級計算機,以推動 AI 在圖形、大語言模型、圖像 / 視頻 / 3D 生成、數(shù)字生物學(xué)、機器人、自動駕駛汽車、Earth-2 氣候預(yù)測等領(lǐng)域的應(yīng)用。
“DGX 是 NVIDIA 的云 AI 工廠。無論是計算機圖形學(xué)、數(shù)字生物學(xué)模型的創(chuàng)建,還是機器人技術(shù)及氣候仿真和建模,AI 如今已成為 NVIDIA 扎實自身工作的關(guān)鍵?!?/p>
黃仁勛還表示:“DGX 云也是我們與企業(yè)客戶合作的 AI 工廠,以幫助他們一同構(gòu)建自定義 AI 模型。他們負責(zé)提供數(shù)據(jù)和領(lǐng)域?qū)I(yè)知識,而我們負責(zé)提供 AI 技術(shù)和基礎(chǔ)設(shè)施?!?/p>
此外,黃仁勛還宣布,亞馬遜云科技將在明年初推出四個基于 NVIDIA GH200 NVL、H200、L40S、L4 GPU 的亞馬遜 EC2 實例。
在談話的最后,Selipsky 宣布,基于 GH200 的實例和 DGX 云將于明年在亞馬遜云科技上提供。
GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行,線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼,立即注冊 GTC 大會。
原文標題:擁抱變革:亞馬遜云科技與 NVIDIA 共同推進生成式 AI 和云的創(chuàng)新
文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
英偉達
+關(guān)注
關(guān)注
22文章
3776瀏覽量
91117 -
亞馬遜云科技
+關(guān)注
關(guān)注
0文章
86瀏覽量
45
原文標題:擁抱變革:亞馬遜云科技與 NVIDIA 共同推進生成式 AI 和云的創(chuàng)新
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論