NVIDIA工具和技術(shù)為混合式AI工作流提供支持

生成式 AI 為 Windows 應(yīng)用和游戲帶來(lái)了各種新功能。它為無(wú)腳本、動(dòng)態(tài)的 NPC 提供動(dòng)力，助力創(chuàng)作者生成新穎的藝術(shù)作品，并幫助游戲玩家將幀率提升高達(dá) 4 倍。但這些不過(guò)是冰山一角。

隨著生成式 AI 的功能和使用場(chǎng)景不斷增加，相關(guān)計(jì)算需求也水漲船高。

混合式 AI 將 NVIDIA RTX 的端側(cè) AI 加速與云端的可擴(kuò)展 GPU 相結(jié)合，可有效且高效地滿足 AI 工作負(fù)載的需求。

混合式 AI，魚與熊掌兼得

隨著 AI 的普及，應(yīng)用開發(fā)者正在尋找各種可行的部署方式：在 RTX GPU 上本地運(yùn)行的 AI 兼具高性能和低延遲，即使在離線情況下也可隨時(shí)使用。另一方面，在云端運(yùn)行的 AI 能夠運(yùn)行規(guī)模更大的模型并且可以跨多個(gè) GPU 進(jìn)行擴(kuò)展，還可以同時(shí)為多個(gè)用戶提供服務(wù)。在許多情況下，一個(gè)應(yīng)用程序會(huì)同時(shí)使用這兩種方式部署的服務(wù)。

混合式 AI 組合與協(xié)調(diào)本地 PC 和工作站的算力與云的擴(kuò)展能力。它可以根據(jù)特定使用場(chǎng)景、成本和性能要求靈活優(yōu)化 AI 工作負(fù)載，幫助開發(fā)者確保 AI 任務(wù)在其特定應(yīng)用場(chǎng)景下最合適的設(shè)備上運(yùn)行。

無(wú)論 AI 是在本地還是在云端運(yùn)行，它都可以通過(guò) NVIDIA GPU 和 NVIDIA 的 AI 技術(shù)棧（包括 TensorRT 和 TensorRT-LLM）進(jìn)行加速。這意味著我們可以減少無(wú)謂的等待時(shí)間，并可為用戶提供更多的先進(jìn) AI 功能。

這一系列 NVIDIA 工具和技術(shù)可為創(chuàng)作者、游戲玩家和開發(fā)者的混合式 AI 工作流提供支持。

理想的云端應(yīng)用由 RTX 實(shí)現(xiàn)

生成式 AI 已經(jīng)證明它能夠?yàn)樗囆g(shù)家的創(chuàng)作提供靈感，加速設(shè)計(jì)，啟發(fā)構(gòu)思。此類解決方案包括 iStock 推出的云端生成式 AI，這是一項(xiàng)由 NVIDIA Edify 驅(qū)動(dòng)的生成式攝影圖片服務(wù)，專為藝術(shù)家打造。另一方面，藝術(shù)家也為該生成式 AI 的模型訓(xùn)練貢獻(xiàn)了各種授權(quán)內(nèi)容，而做出貢獻(xiàn)的藝術(shù)家也會(huì)因此獲得報(bào)酬。

iStock 的生成式 AI 不僅可以用于圖像生成，還可以為藝術(shù)家提供豐富的工具，以便他們探索各種風(fēng)格和變化，修改圖像的某個(gè)部分或擴(kuò)展畫布。借助這些工具，藝術(shù)家可以快速完成多次概念設(shè)計(jì)，并將創(chuàng)意轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)方案。

創(chuàng)意概念準(zhǔn)備完成后，藝術(shù)家就可以將其轉(zhuǎn)移到本地設(shè)備上。RTX 助力的 PC 和工作站可在超過(guò) 125 款熱門創(chuàng)意應(yīng)用中為藝術(shù)家提供 AI 加速，幫助他們最大化實(shí)現(xiàn)自己的創(chuàng)意愿景：無(wú)論是使用本地 AI 工具在 Photoshop 中創(chuàng)建令人驚嘆的藝術(shù)作品，在 DaVinci Resolve 中使用視差效果為圖像制作動(dòng)畫，還是使用光線追蹤加速在 Blender 中借助參考圖像構(gòu)建 3D 場(chǎng)景，亦或是使用 Optix 進(jìn)行 AI 降噪。

云端 ACE 讓 NPC 栩栩如生

混合式 AI 還通過(guò) NVIDIA ACE 實(shí)現(xiàn)了交互式 PC 游戲的新高度，讓游戲開發(fā)者和數(shù)字創(chuàng)作者能夠?qū)⑾冗M(jìn)的生成式 AI 模型集成到 RTX AI PC 上的數(shù)字虛擬形象中。

NVIDIA ACE NIM 由 AI 神經(jīng)網(wǎng)絡(luò)提供支持，讓開發(fā)人員和設(shè)計(jì)師創(chuàng)建能夠理解并響應(yīng)人類玩家文本和語(yǔ)音的非玩家角色（NPC）。NVIDIA ACE NIM 可利用 AI 模型（包括語(yǔ)音轉(zhuǎn)文本模型）來(lái)處理人類語(yǔ)音輸入，以便 NPC 實(shí)時(shí)生成回應(yīng)。

在這些新技術(shù)的加持下，NPC 的回應(yīng)將不再受限于預(yù)定義的腳本。ACE NIM 既可以在 RTX GPU 設(shè)備上本地運(yùn)行，也可以部署在云端，基于各種計(jì)算選項(xiàng)實(shí)現(xiàn)動(dòng)態(tài)、逼真的交互。

可靈活部署的混合式開發(fā)者工具

混合式 AI 還可以幫助開發(fā)者構(gòu)建和調(diào)整新的 AI 模型。NVIDIA AI Workbench 可幫助開發(fā)者在 RTX GPU 上快速創(chuàng)建、測(cè)試和定制預(yù)訓(xùn)練生成式 AI 模型和 LLM。數(shù)據(jù)科學(xué)家和開發(fā)者可通過(guò) NVIDIA AI Workbench 簡(jiǎn)化對(duì) Hugging Face、GitHub 和 NVIDIA NGC 等熱門倉(cāng)庫(kù)的訪問(wèn)，并且能夠通過(guò)簡(jiǎn)化的用戶界面輕松地復(fù)現(xiàn)、協(xié)作和遷移項(xiàng)目。

當(dāng)有額外的性能需求時(shí)，項(xiàng)目還可輕松擴(kuò)展至數(shù)據(jù)中心（無(wú)論是公有云還是 NVIDIA DGX Cloud），之后部署到 PC 或工作站上的本地 RTX 系統(tǒng)進(jìn)行推理和輕量定制。數(shù)據(jù)科學(xué)家和開發(fā)者可以利用預(yù)先構(gòu)建的 Workbench 項(xiàng)目，使用檢索增強(qiáng)生成（RAG）與文檔交互，使用微調(diào)功能自定義 LLM，通過(guò)流暢的 CPU 到 GPU 轉(zhuǎn)換加速數(shù)據(jù)科學(xué)工作負(fù)載等等。

混合式 RAG Workbench 項(xiàng)目提供可自定義的 RAG 應(yīng)用，以便開發(fā)者自主運(yùn)行和調(diào)整。他們可以在本地對(duì)文檔進(jìn)行向量化，并在本地 RTX 系統(tǒng)或托管在 NVIDIA API Catalog 上的接入點(diǎn)運(yùn)行推理，或使用 NVIDIA NIM 微服務(wù)。開發(fā)者可以調(diào)整混合式 RAG Workbench 項(xiàng)目，以便使用各種模型、接入點(diǎn)和容器。他們還可以通過(guò)該項(xiàng)目量化要在所選 GPU 上運(yùn)行的模型。

NVIDIA GPU 可在 NVIDIA GeForce RTX PC 和 RTX 工作站本地以及云端為各種出色的 AI 解決方案提供支持。借助不斷發(fā)展的混合式 AI 工作流，創(chuàng)作者、游戲玩家和開發(fā)者可以充分發(fā)揮本地和云端的強(qiáng)大能力。