生成式 AI 已經(jīng)跨越鴻溝并達(dá)到“ iPhone 時(shí)刻”,現(xiàn)在必須能夠擴(kuò)展以滿(mǎn)足指數(shù)級(jí)增長(zhǎng)的需求??煽啃院驼_\(yùn)行時(shí)間對(duì)于打造企業(yè)級(jí)生成式 AI 至關(guān)重要,尤其是當(dāng) AI 成為業(yè)務(wù)運(yùn)轉(zhuǎn)的核心時(shí)。NVIDIA 正在將專(zhuān)業(yè)知識(shí)投入到解決方案的開(kāi)發(fā)過(guò)程中,助力企業(yè)實(shí)現(xiàn)這樣的飛躍。
推出 NVIDIA AI Enterprise 4.0
最新版NVIDIA AI Enterprise助力利用生成式 AI 進(jìn)行創(chuàng)新的企業(yè)加速開(kāi)發(fā),為企業(yè)提供生產(chǎn)就緒型支持、可管理性、安全性和可靠性。
使用 NVIDIA NeMo 快速大規(guī)模
訓(xùn)練、定制和部署大語(yǔ)言模型
生成式 AI 模型具有數(shù)十億個(gè)參數(shù),需要高效的數(shù)據(jù)訓(xùn)練管道。訓(xùn)練模型的復(fù)雜性、針對(duì)特定領(lǐng)域任務(wù)進(jìn)行定制以及大規(guī)模部署模型都需要專(zhuān)業(yè)知識(shí)和計(jì)算資源。
NVIDIA AI Enterprise 4.0包括NVIDIA NeMo,這是一個(gè)端到端云原生框架,用于大規(guī)模數(shù)據(jù)管理、大語(yǔ)言模型的加速訓(xùn)練和定制,以及在用戶(hù)首選平臺(tái)上優(yōu)化推理。從云到桌面工作站,NVIDIA NeMo 提供了一個(gè)簡(jiǎn)單易用的方案,并通過(guò)加速的基礎(chǔ)設(shè)施實(shí)現(xiàn)性能優(yōu)化,大幅縮短解決方案的開(kāi)發(fā)時(shí)間,提高了投資回報(bào)率。
使用 AI 工作流更快地構(gòu)建生成式 AI 應(yīng)用
NVIDIA AI Enterprise 4.0引入了兩種新的 AI 工作流,用于構(gòu)建生成式 AI 應(yīng)用:采用檢索增強(qiáng)生成技術(shù)的 AI 聊天機(jī)器人和魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)檢測(cè)。
生成式 AI 知識(shí)庫(kù)聊天機(jī)器人工作流利用檢索增強(qiáng)生成技術(shù),能夠加快基于專(zhuān)有數(shù)據(jù)進(jìn)行調(diào)優(yōu)的生成式 AI 聊天機(jī)器人的開(kāi)發(fā)和部署。這些聊天機(jī)器人從公司的知識(shí)庫(kù)中檢索信息,并用自然語(yǔ)言生成實(shí)時(shí)回答,從而實(shí)現(xiàn)準(zhǔn)確地回答特定領(lǐng)域的問(wèn)題。它使用預(yù)訓(xùn)練的大語(yǔ)言模型、NeMo 、NVIDIA Triton 推理服務(wù)器,以及包括 Langchain 和矢量數(shù)據(jù)庫(kù)在內(nèi)的第三方工具來(lái)訓(xùn)練和部署知識(shí)庫(kù)問(wèn)答系統(tǒng)。
魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)檢測(cè) AI 工作流使用 NVIDIA Morpheus 和包含 NVIDIA NeMo 的生成式 AI 來(lái)訓(xùn)練一個(gè)模型,該模型在郵件進(jìn)入收件箱之前就能檢測(cè)到高達(dá) 90% 的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)電子郵件。
防范魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)電子郵件是一大挑戰(zhàn)。原因是魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)電子郵件與正常電子郵件難以區(qū)分,欺詐和合法電子郵件之間的唯一區(qū)別是發(fā)件人的意圖。這也是為什么傳統(tǒng)的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)檢測(cè)機(jī)制無(wú)法滿(mǎn)足要求的原因。
隨時(shí)隨地開(kāi)發(fā) AI
企業(yè)采用 AI 可能需要更多熟練的 AI 開(kāi)發(fā)者和數(shù)據(jù)科學(xué)家。組織將需要一個(gè)由優(yōu)化的硬件和軟件組成的靈活的高性能基礎(chǔ)設(shè)施,以最大限度地提高生產(chǎn)力并加快 AI 開(kāi)發(fā)。結(jié)合用于工作站的 NVIDIA RTX 6000 Ada 架構(gòu) GPU,NVIDIA AI Enterprise 4.0 為 AI 開(kāi)發(fā)者提供了一個(gè)單獨(dú)的平臺(tái),開(kāi)發(fā)者可以在這個(gè)平臺(tái)上開(kāi)發(fā) AI 應(yīng)用并將其部署到生產(chǎn)中。
除了桌面工作站,NVIDIA 還為 AI 工作負(fù)載提供了完整的基礎(chǔ)設(shè)施組合,包括 NVIDIA H100、L40S、L4 GPU,以及與 NVIDIA BlueField 數(shù)據(jù)處理單元的加速聯(lián)網(wǎng)。通過(guò)HPE Machine Learning Data Management ( HPE 機(jī)器學(xué)習(xí)數(shù)據(jù)管理)、HPE Machine Learning Development Environment ( HPE 機(jī)器學(xué)習(xí)開(kāi)發(fā)環(huán)境)、Ubuntu KVM 和 Nutanix AHV 虛擬化支持,組織可以使用本地基礎(chǔ)設(shè)施來(lái)運(yùn)行 AI 工作負(fù)載。
管理 AI 工作負(fù)載和基礎(chǔ)設(shè)施
NVIDIA Triton Management Service 是 NVIDIA AI Enterprise 4.0 的獨(dú)家補(bǔ)充,通過(guò)高效利用 GPU 資源的模型編排,可自動(dòng)在 Kubernetes 中部署多個(gè) Triton 推理服務(wù)器。通過(guò)從多個(gè)來(lái)源加載模型和分配計(jì)算資源,它簡(jiǎn)化了部署。Triton 管理服務(wù)可以在 NVIDIA LaunchPad 上試用。
NVIDIA AI Enterprise 4.0 還包括集群管理軟件 NVIDIA Base Command Manager Essentials,用于簡(jiǎn)化集群配置、工作負(fù)載管理、基礎(chǔ)設(shè)施監(jiān)測(cè)和使用情況報(bào)告。通過(guò)動(dòng)態(tài)擴(kuò)展和基于策略的資源分配,它能夠簡(jiǎn)化 AI 工作負(fù)載的管理和部署,同時(shí)確保集群的完整性。
新的 AI 軟件、工具和預(yù)訓(xùn)練的基礎(chǔ)模型
NVIDIA AI Enterprise 4.0 還提供更多的框架和工具以推進(jìn) AI 開(kāi)發(fā)。NVIDIA Modulus 是一個(gè)用于通過(guò)簡(jiǎn)單的 Python 接口構(gòu)建、訓(xùn)練和調(diào)優(yōu)物理機(jī)器學(xué)習(xí)模型的框架。
通過(guò) Modulus,用戶(hù)可以利用 AI 增強(qiáng)工程模擬,并進(jìn)行跨學(xué)科的企業(yè)級(jí)數(shù)字孿生應(yīng)用建模,包括計(jì)算流體動(dòng)力學(xué)(CFD)、結(jié)構(gòu)力學(xué)和電磁學(xué)。Deep Graph Library 容器旨在實(shí)現(xiàn)和訓(xùn)練圖神經(jīng)網(wǎng)絡(luò),幫助科學(xué)家研究分子或金融服務(wù)的圖結(jié)構(gòu),以檢測(cè)欺詐。
最后,還有三個(gè)專(zhuān)有預(yù)訓(xùn)練基礎(chǔ)模型,它們是 NVIDIA TAO 的一部分,能夠加快視覺(jué) AI 、缺陷檢測(cè)和零售損失預(yù)防等行業(yè)應(yīng)用投入生產(chǎn)所需的時(shí)間。
NVIDIA AI Enterprise 4.0是迄今為止對(duì)該平臺(tái)最全面的升級(jí)。憑借企業(yè)級(jí)的安全性、穩(wěn)定性、可管理性和支持,企業(yè)可以期待可靠的 AI 正常運(yùn)行時(shí)間和不間斷的 AI 卓越表現(xiàn)。
開(kāi)始使用 NVIDIA AI Enterprise
快速使用NVIDIA AI Enterprise的三種方式:
-
注冊(cè) NVIDIA LaunchPad,可在短期內(nèi)訪(fǎng)問(wèn)試用實(shí)驗(yàn)室。
-
注冊(cè)現(xiàn)有本地或云基礎(chǔ)設(shè)施的 90 天免費(fèi)評(píng)估版。
-
通過(guò) NVIDIA 合作伙伴網(wǎng)絡(luò)或包括 AWS、Microsoft Azure 和谷歌云在內(nèi)的大型云服務(wù)提供商購(gòu)買(mǎi)。
NVIDIA AI Enterprise 90 天評(píng)估版現(xiàn)已推出。點(diǎn)擊“閱讀原文”,通過(guò)訪(fǎng)問(wèn) NGC,即可獲取免費(fèi)試用。
GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行,線(xiàn)上大會(huì)也將同期開(kāi)放。掃描下方海報(bào)二維碼,關(guān)注更多會(huì)議及活動(dòng)信息。
原文標(biāo)題:NVIDIA AI Enterprise 4.0 推出,助力企業(yè)構(gòu)建生產(chǎn)就緒的生成式 AI 為業(yè)務(wù)賦能
文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3776瀏覽量
91103
原文標(biāo)題:NVIDIA AI Enterprise 4.0 推出,助力企業(yè)構(gòu)建生產(chǎn)就緒的生成式 AI 為業(yè)務(wù)賦能
文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論