Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

Oracle 數(shù)據(jù)庫與 NVIDIA AI 相集成，使企業(yè)能夠更輕松、快捷地采用代理式 AI
?
?
?
美國加利福尼亞州圣何塞 —— GTC? —— 2025 年 3 月 18 日 ——Oracle 和 NVIDIA 今日宣布，NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。
?
此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺之間的集成，將使 160 多個 AI 工具和 100 多個 NVIDIA NIM? 微服務(wù)通過 OCI 控制臺以原生方式提供。此外，Oracle 和 NVIDIA 正在合作無代碼部署 Oracle 和 NVIDIA AI Blueprint，并使用 NVIDIA cuVS 庫加速 Oracle Database 23ai 中的 AI 向量搜索。
?
Oracle 首席執(zhí)行官 Safra Catz 表示：“Oracle 已成為 AI 訓(xùn)練和推理的首選平臺，這種合作關(guān)系提高了我們幫助客戶實現(xiàn)更大創(chuàng)新和業(yè)務(wù)成果的能力。NVIDIA 的產(chǎn)品與 OCI 的靈活性、可擴(kuò)展性、性能和安全性相結(jié)合，將加速 AI 的采用，并幫助客戶從數(shù)據(jù)中獲得更多價值?！?br /> ?
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Oracle 和 NVIDIA 是推理時代的理想合作伙伴，是一家 AI 和加速計算公司與處理全球大部分企業(yè)數(shù)據(jù)的關(guān)鍵公司的合作。我們將攜手幫助企業(yè)利用代理式 AI 進(jìn)行創(chuàng)新，為客戶和合作伙伴提供出色的服務(wù)?！?br /> ?
滿足企業(yè) AI 需求的專用解決方案
NVIDIA AI Enterprise 將通過 OCI 控制臺以原生方式提供，從而減少部署推理模型所需的時間，使客戶能夠輕松快速地訪問包括 NVIDIA NIM? 在內(nèi)的 AI 工具。NVIDIA NIM? 包含 100 多個經(jīng)過優(yōu)化的云原生推理微服務(wù)，適用于領(lǐng)先的 AI 模型，包括用于高級 AI 推理的全新 NVIDIA Llama Nemotron 模型系列。
?
NVIDIA AI Enterprise 將作為使用 OCI Kubernetes Engine 的 OCI 裸金屬實例和 Kubernetes 集群的部署鏡像提供。OCI 控制臺客戶可通過 Oracle 獲得直接計費和客戶支持。
?
借助 NVIDIA 加速計算和 NVIDIA AI Enterprise 軟件平臺，企業(yè)組織可以在數(shù)據(jù)中心、公有云或邊緣部署 OCI 的 150 余項 AI 和云服務(wù)。此產(chǎn)品提供集成式 AI 堆棧，幫助滿足數(shù)據(jù)隱私和低延遲要求。
?
生物技術(shù)公司 Soley Therapeutics 正在部署 OCI AI 基礎(chǔ)設(shè)施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以構(gòu)建其 AI 藥物研發(fā)平臺，通過捕捉、解碼和解釋細(xì)胞語言來預(yù)測細(xì)胞命運，從而解鎖復(fù)雜疾病的潛在治療方法。
?
“我們相信 AI 在開發(fā)解決方案方面的潛力，這些解決方案可以幫助提供治療癌癥和其他復(fù)雜疾病的方法?！?Soley Therapeutics 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Yerem Yeghiazarians 表示，“OCI 與 NVIDIA 的結(jié)合提供了一個全棧式 AI 解決方案，為我們提供了必要的存儲、計算、軟件工具以及支持，使我們能夠利用 PB 級數(shù)據(jù)更快地進(jìn)行創(chuàng)新，以開發(fā)我們的 AI 藥物研發(fā)平臺?！?br /> ?
借助定制的 Blueprint 進(jìn)行大規(guī)模 AI 部署
OCI AI Blueprint 提供無代碼部署方案，使客戶能夠快速運行 AI 工作負(fù)載，而無需對軟件堆棧做出決策或手動調(diào)配基礎(chǔ)設(shè)施。這些藍(lán)圖針對 NVIDIA GPU、NIM 微服務(wù)和預(yù)封裝的觀察性工具提供了明確的硬件建議，幫助企業(yè)將其 AI 項目的耗時從幾周縮短到幾分鐘。
?
此外，NVIDIA Blueprint 在整個 NVIDIA 堆棧中為開發(fā)者提供了一致的體驗，為企業(yè) AI 用例提供了參考工作流。借助 NVIDIA Blueprint，企業(yè)組織可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse? 軟件、應(yīng)用編程接口和微服務(wù)，構(gòu)建并運行自定義 AI 應(yīng)用。例如，開發(fā)者可以從適用于客服 AI 助手的 NVIDIA AI Blueprint 開始，然后對其進(jìn)行定制方便自己使用。
?
為簡化高級物理 AI 和仿真應(yīng)用及工作流的開發(fā)、部署和橫向擴(kuò)展，NVIDIA Omniverse 平臺、NVIDIA Isaac Sim? 開發(fā)工作站以及 Omniverse Kit App Streaming 預(yù)計將于今年晚些時候在 Oracle Cloud Infrastructure Marketplace 上推出，并預(yù)先配置了由 NVIDIA GPU 加速的計算裸金屬實例。
?
Pipefy 是用于業(yè)務(wù)流程管理的 AI 自動化平臺，通過使用推理藍(lán)圖來進(jìn)行文檔預(yù)處理和圖像處理。
?
“我們采用了 OCI AI Blueprint 來快速啟動 NVIDIA GPU 節(jié)點，并快速部署了用于文檔和圖像處理用例的多模態(tài)大語言模型?！?Pipefy 首席軟件工程師 Gabriel Custodio 表示，“借助這些預(yù)封裝且經(jīng)過驗證的藍(lán)圖，我們部署在 OCI 上的 AI 模型現(xiàn)在已完全自動化，并且速度顯著加快?！?br /> ?
在 OCI 數(shù)據(jù)科學(xué)中使用 NVIDIA NIM 進(jìn)行實時 AI 推理
為了進(jìn)一步加速企業(yè) AI 的采用，并助力以最少的設(shè)置實現(xiàn)快速的 AI 部署，數(shù)據(jù)科學(xué)家可以直接在 OCI 數(shù)據(jù)科學(xué) (OCI Data Science) 中訪問預(yù)優(yōu)化的 NVIDIA NIM 微服務(wù)。其支持實時 AI 推理用例，無需復(fù)雜的基礎(chǔ)設(shè)施管理。
?
為了幫助維護(hù)數(shù)據(jù)的安全性和合規(guī)性，這些模型在客戶的 OCI 租戶中運行?？蛻艨梢酝ㄟ^靈活的即用即付、按時定價模式購買這些模型，也可以申請 Oracle 通用儲值。
?
企業(yè)組織可以使用此集成在幾分鐘內(nèi)通過預(yù)配置、優(yōu)化的 NIM 推理引擎部署推理端點，從而加速 AI 助手、實時推薦引擎和 copilot 等用例的價值實現(xiàn)。此外，還允許客戶開始將集成用于較小的工作負(fù)載，并無縫擴(kuò)展到整個企業(yè)的部署。
?
NVIDIA加速計算平臺加速 Oracle Database 23ai 中的 AI 向量搜索
Oracle 和 NVIDIA 正在合作，使用 NVIDIA GPU 和 NVIDIA cuVS 加速創(chuàng)建向量嵌入和向量索引（Oracle Database 23ai 中 AI 向量搜索工作負(fù)載的計算密集型部分）。
?
企業(yè)機(jī)構(gòu)可以通過對文本、圖像和視頻等大量輸入數(shù)據(jù)進(jìn)行批量矢量化，以及快速創(chuàng)建和維護(hù)向量索引，實現(xiàn)向量嵌入。借助 NVIDIA 加速的 AI 向量搜索，Oracle 數(shù)據(jù)庫客戶可以顯著提高其 AI 工作管線的性能，以此支持大量 AI 向量工作負(fù)載。
?
DeweyVision 提供先進(jìn)的計算機(jī)視覺和 AI 能力，將媒體信息轉(zhuǎn)化為數(shù)據(jù)，使其可訪問、可搜索、可發(fā)現(xiàn)、可檢索且可操作。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai 來開發(fā)其無代碼 AI 倉儲工具。通過在幾分鐘內(nèi)對視頻片段進(jìn)行分類并提供直觀的搜索功能，這些工具可讓專業(yè)制作人員連接其工作流并快速編輯視頻片段。
?
DeweyVision 首席執(zhí)行官 Majid Bemanian 表示：“支持 AI 向量搜索的 Oracle Database 23ai 可以顯著提高 Dewey 的搜索能力，同時提高 DeweyVision 平臺的可擴(kuò)展性。使用 NVIDIA GPU 創(chuàng)建我們加載到 Oracle 數(shù)據(jù)庫中的向量嵌入，加速了平臺的數(shù)據(jù)攝入。隨著我們不斷發(fā)展以及開辟新的機(jī)會，Autonomous Database 和 Oracle Database 23ai 的融合功能將有助于降低我們的運營成本。我們相信，在 OCI 中運行的 DeweyVision、Oracle Database 23ai 和 NVIDIA GPU 的結(jié)合將幫助我們實現(xiàn)成為好萊塢數(shù)據(jù)倉庫的目標(biāo)?！?br /> ?
OCI上的 NVIDIA Blackwell 支持隨時隨地使用 AI
Oracle 和 NVIDIA 持續(xù)在 OCI 的公共區(qū)域、政府云、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge Device 中使用新的 NVIDIA GPU 來發(fā)展 AI 基礎(chǔ)設(shè)施。
?
其中包括 NVIDIA Quantum-2 InfiniBand 集群網(wǎng)絡(luò)環(huán)境、NVIDIA Spectrum? 以太網(wǎng)交換機(jī)，以及適用于市場上一些大型 AI 超級集群的優(yōu)化 NVIDIA NVLink? 和 NVLink Switch 功能。
?
SoundHound 是對話式智能領(lǐng)域的全球領(lǐng)導(dǎo)者，提供語音和對話式 AI 解決方案，為全球品牌的數(shù)百萬產(chǎn)品提供與語音相關(guān)的體驗。其語音 AI 平臺在 OCI 上運行，每年處理數(shù)十億的查詢請求，并使用 NVIDIA GPU 為客戶提供快速準(zhǔn)確的語音服務(wù)。
?
SoundHound AI 首席產(chǎn)品官 James Hom 表示：“SoundHound 與 OCI 建立了長期合作關(guān)系，相信我們的持續(xù)合作將在支持未來發(fā)展方面發(fā)揮關(guān)鍵作用。NVIDIA GPU 將極大加快下一代語音 AI 的訓(xùn)練速度。”
?
?其他資源

詳細(xì)了解 OCI AI 基礎(chǔ)設(shè)施。

詳細(xì)了解 Oracle 云基礎(chǔ)設(shè)施。

詳細(xì)了解 Oracle 通過 NVIDIA AI Enterprise 擴(kuò)展其分布式云能力。

詳細(xì)了解 OCI AI 基礎(chǔ)設(shè)施在 OCI 專屬區(qū)域 和 Oracle Alloy 中的應(yīng)用。

閱讀 OCI Supercluster 技術(shù)博客并觀看視頻。

?
關(guān)于 Oracle 分布式云
Oracle 的分布式云可提供具有更可控和靈活的云優(yōu)勢。Oracle 分布式云系列包括：

公有云：超大規(guī)模的公有云區(qū)域服務(wù)于任何規(guī)模的組織。查看完整的區(qū)域列表。

專用云：客戶可以通過 OCI Dedicated Region 在自己的數(shù)據(jù)中心運行所有 OCI 云服務(wù)，合作伙伴可以使用 Oracle Alloy 轉(zhuǎn)售 OCI 云服務(wù)并定制體驗。

混合云：OCI 通過 Oracle Exadata Cloud@Customer 和 Compute Cloud@Customer 在本地提供關(guān)鍵云服務(wù)，并且已經(jīng)在 60 多個國家管理部署。此外，OCI Roving Edge Infrastructure 由多種配置的堅固耐用的便攜式高性能設(shè)備組成，可幫助客戶在邊緣利用遠(yuǎn)程 AI 推理。

多云：OCI 在所有超大規(guī)模云提供商（包括亞馬遜云科技、谷歌云和微軟 Azure）中進(jìn)行物理部署，提供低延遲、原生集成的 Oracle 數(shù)據(jù)庫服務(wù)，包括 Oracle Database@AWS、Oracle Database@Azure、Oracle Database@Google Cloud 和 Oracle HeatWave on AWS。借助適用于微軟 Azure 的 Oracle Interconnect 和適用于谷歌云的 Oracle Interconnect，客戶可以結(jié)合使用多種云的關(guān)鍵功能。

?