在 Azure 機器學(xué)習(xí)上充分發(fā)揮 NVIDIA AI Enterprise 的強大功能

AI 正在深入各行各業(yè)的轉(zhuǎn)型，助力流程實現(xiàn)自動化，也為技術(shù)的快速發(fā)展帶來新的創(chuàng)新機遇。也有越來越多的企業(yè)意識到了將 AI 整合到企業(yè)運營中的價值，但也隨之面臨各式挑戰(zhàn)，包含如何以高效、有效且可靠的方式實現(xiàn)這些技術(shù)的落地。

NVIDIA AI Enterprise 是一款全面的軟件套件，專門用于幫助企業(yè)大規(guī)模實現(xiàn)企業(yè)就緒的 AI、機器學(xué)習(xí)（ML）和數(shù)據(jù)分析，并提供安全性、可靠性、API 穩(wěn)定性和企業(yè)級支持。

什么是 NVIDIA AI Enterprise？

部署 AI 解決方案可能十分復(fù)雜，不僅需要專業(yè)的軟硬件，也需要開發(fā)和維護這些系統(tǒng)的專業(yè)知識。NVIDIA AI Enterprise 通過提供了針對企業(yè)環(huán)境定制的工具、庫、框架和支持服務(wù)的完整生態(tài)系統(tǒng)來應(yīng)對這些挑戰(zhàn)。

借助 GPU 加速計算能力，NVIDIA AI Enterprise 使企業(yè)能夠更加高效、更加節(jié)省成本并且大規(guī)模地運行 AI 工作負(fù)載。NVIDIA AI Enterprise 基于 NVIDIA CUDA-X AI 軟件堆棧建立，可提供高性能的 GPU 加速計算能力。

該套件包含：

1. VMI：預(yù)配置的虛擬機鏡像，包含必需的驅(qū)動程序和軟件，以支持各主要云中的 GPU 加速 AI 工作負(fù)載。

2. AI 框架：可在 VMI 中運行的軟件（如 PyTorch、TensorFlow、RAPIDS、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作為 AI 開發(fā)和部署的基礎(chǔ)。

3. 預(yù)訓(xùn)練模型：可按原樣使用，或在企業(yè)相關(guān)數(shù)據(jù)上進行微調(diào)的模型。

4. AI 工作流：預(yù)安裝的參考示例，用于說明如何使用 AI 框架和預(yù)訓(xùn)練模型，以解決常見業(yè)務(wù)問題。這些工作流圍繞預(yù)訓(xùn)練模型微調(diào)和 AI 模型創(chuàng)建提供指導(dǎo)，以便在 NVIDIA 框架的基礎(chǔ)上進行構(gòu)建；重點介紹了創(chuàng)建應(yīng)用的管道，并提供了有關(guān)如何部署自定義應(yīng)用并將其與企業(yè)環(huán)境中常見的各種組件（如編排和管理軟件、存儲、安全以及網(wǎng)絡(luò)）集成的意見。

可用的 AI 工作流包括：

• 智能虛擬助理：提供全天候聯(lián)絡(luò)中心協(xié)助，可降低運營成本。

• 音頻轉(zhuǎn)錄：通過 GPU 優(yōu)化模型實現(xiàn)全球領(lǐng)先的精準(zhǔn)轉(zhuǎn)錄。

• 數(shù)字指紋威脅檢測：對網(wǎng)絡(luò)安全威脅檢測和警報進行優(yōu)先級別排序，更快地識別和行動。

• 商品預(yù)測： 通過個性化的產(chǎn)品推薦，提升客戶互動和留存。

• 路線優(yōu)化：通過車輛和機器人路線優(yōu)化，減少移動時間、降低燃料成本。

支持的軟件和版本分支

使用 NVIDIA AI Enterprise 軟件的主要優(yōu)勢之一是，能夠獲得 NVIDIA 以安全性和穩(wěn)定性為原則的支持。NVIDIA AI Enterprise 包含三個版本分支，可滿足各個行業(yè)及用例的不同需求：

1. 最新版本：該分支面向需要頂級軟件優(yōu)化的用戶，按每月發(fā)布一次，確保用戶能夠獲得最新的功能和優(yōu)化。CVE 補丁程序和錯誤修復(fù)也包含在滾動式版本中。

2. 生產(chǎn)版本：該分支專門用于優(yōu)先考慮 API 穩(wěn)定性的環(huán)境，將每月接收 CVE 補丁和漏洞修復(fù)，每年發(fā)布兩個新分支且每個分支的生命周期為 9 個月。為確保無縫過渡和持續(xù)提供支持，兩個連續(xù)的生產(chǎn)分支之間將有 3 個月的重疊期。生產(chǎn)版本分支將于 2023 年下半年推出。

3. 長期版本：該分支專為需要長期支持的高度監(jiān)管行業(yè)所量身定制，將每季度接收 CVE 補丁和錯誤修復(fù)，并為特定版本提供長達 3 年的支持。除了這一長期穩(wěn)定性之外，還有 6 個月的重疊期以確保版本之間的平穩(wěn)過渡，從而為受到高度監(jiān)管的行業(yè)提供其所需使用壽命和一致性。

圖 1. NVIDIA AI Enterprise 的三個版本分支可滿足各個行業(yè)和用例的不同需求

如何結(jié)合使用 NVIDIA AI Enterprise

與 Microsoft Azure 機器學(xué)習(xí)

Microsoft Azure 機器學(xué)習(xí)是一個用于在云端和本地進行 AI 開發(fā)的平臺，包含了用于訓(xùn)練、實驗、部署和監(jiān)控模型的服務(wù)，并且能夠為大語言模型設(shè)計和構(gòu)建提供提示流。作為一個開放平臺，Azure 機器學(xué)習(xí)支持所有流行的機器學(xué)習(xí)框架和套件，包括 NVIDIA AI Enterprise 提供的框架和套件。

將 NVIDIA AI 軟件與 Azure 機器學(xué)習(xí)訓(xùn)練和推理平臺集成，優(yōu)化了前者的運行體驗。用戶無需再花時間設(shè)置訓(xùn)練環(huán)境、安裝軟件包、編寫訓(xùn)練代碼、記錄訓(xùn)練指標(biāo)和部署模型，即可充分利用 NVIDIA 企業(yè)就緒軟件的強大功能，并在 Azure 機器學(xué)習(xí)高性能、安全基礎(chǔ)設(shè)施的加成下，構(gòu)建生產(chǎn)就緒 AI 工作流。

如開始使用，請按照以下步驟操作：

1. 登錄 Microsoft Azure 并啟動 Azure 機器學(xué)習(xí)工作室。

2. NVIDIA AI Enterprise 預(yù)覽版注冊表中查看并訪問所有預(yù)構(gòu)建的 NVIDIA AI Enterprise 組件、環(huán)境和模型（圖 2）。

圖 2. Azure 機器學(xué)習(xí)上的 NVIDIA AI Enterprise 預(yù)覽版注冊表

3. 在工作區(qū)中使用這些資產(chǎn)，通過簡單的拖曳操作在設(shè)計器中創(chuàng)建 ML 管道（圖 3）。

圖 3. Azure 機器學(xué)習(xí)中使用 NVIDIA AI Enterprise 組件的管道

用例：人體姿態(tài)估計

NVIDIA AI Enterprise 預(yù)覽版注冊表中的各種元素使用起來非常簡單。本示例展示了一項使用 NVIDIA DeepStream 進行人體姿態(tài)估計的計算機視覺任務(wù)。NVIDIA TAO 工具套件提供了人體姿態(tài)模型的基礎(chǔ)，并能夠使用新數(shù)據(jù)對其進行完善。

圖 4 展示了一個運行 NVIDIA DeepStream 示例應(yīng)用程序進行人體姿態(tài)估計的視頻分析管道。該應(yīng)用在 GPU 集群上運行并且能夠輕松調(diào)整，以便使用更新的模型和視頻，從而解鎖 Azure 機器學(xué)習(xí)平臺的強大功能。

圖 4. NVIDIA TAO 工具套件和 NVIDIA DeepStream 使用 Azure 機器學(xué)習(xí)進行人體姿態(tài)估計

該示例包含兩個基于 URI 的數(shù)據(jù)資產(chǎn)，用于存儲 DeepStream 示例應(yīng)用命令組件的輸入。這些數(shù)據(jù)資產(chǎn)使用的預(yù)訓(xùn)練模型，在 NVIDIA AI Enterprise 注冊表中隨時可用，還包含額外的校準(zhǔn)和標(biāo)簽信息。

DeepStream 人體姿態(tài)命令組件被設(shè)置為使用 Microsoft Azure Blob 存儲。該組件會監(jiān)控輸入目錄中是否有需要推理的新視頻文件。當(dāng)出現(xiàn)視頻文件時，該組件會拾取并執(zhí)行人體姿態(tài)推理。輸出的視頻加入了邊界框和跟蹤線，并存儲在輸出目錄中。

該注冊表中的其他示例包括：

• bodyposenet

• citysemsegformer

• dashcamnet

• emotionnet

• fpenet

• gazenet

• gesturenet

• lprnet

• peoplenet

• peoplenet_transformer

• peoplesemsegnet

• reidentificationnet

• retail_object_detection

• retail_object_recognition

• trafficcamnet

每一個示例都可以通過基于TAO 工具套件的訓(xùn)練管道執(zhí)行遷移學(xué)習(xí)并加以改進。模型的輸出結(jié)果會根據(jù)具體的用例發(fā)生變化。您可以在 NGC 上找到 TAO 工具套件的計算機視覺示例工作流程。

開始在 Azure 機器學(xué)習(xí)上

使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure 機器學(xué)習(xí)共同打造了一個強大的組合，將 GPU 加速計算與基于云的全面機器學(xué)習(xí)平臺進行融合，使企業(yè)能夠更加高效地開發(fā)和部署 AI 模型。這協(xié)同增效使企業(yè)能夠在利用云資源靈活性的同時，也充分發(fā)揮 NVIDIA GPU 和軟件的性能優(yōu)勢。

如您想要開始使用 Azure 機器學(xué)習(xí)上的 NVIDIA AI Enterprise，請注冊技術(shù)預(yù)覽版(https://www.nvidia.com/en-us/data-center/solutions/mlops/?nvmid=reg-btn)，以訪問 Azure 機器學(xué)習(xí)上的 NVIDIA AI Enterprise 預(yù)覽版注冊表中的所有預(yù)構(gòu)建組件、環(huán)境和模型。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。掃描下方海報二維碼，立即注冊 GTC 大會。