0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA AI Enterprise 4.0 推出,助力企業(yè)構(gòu)建生產(chǎn)就緒的生成式 AI 為業(yè)務(wù)賦能

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:未知 ? 2023-09-19 20:20 ? 次閱讀
8060e548-56e6-11ee-939d-92fbcf53809c.gif

生成式 AI 已經(jīng)跨越鴻溝并達(dá)到“ iPhone 時(shí)刻”,現(xiàn)在必須能夠擴(kuò)展以滿足指數(shù)級(jí)增長的需求??煽啃院驼_\(yùn)行時(shí)間對(duì)于打造企業(yè)級(jí)生成式 AI 至關(guān)重要,尤其是當(dāng) AI 成為業(yè)務(wù)運(yùn)轉(zhuǎn)的核心時(shí)。NVIDIA 正在將專業(yè)知識(shí)投入到解決方案的開發(fā)過程中,助力企業(yè)實(shí)現(xiàn)這樣的飛躍。

推出 NVIDIA AI Enterprise 4.0

最新版NVIDIA AI Enterprise助力利用生成式 AI 進(jìn)行創(chuàng)新的企業(yè)加速開發(fā),為企業(yè)提供生產(chǎn)就緒型支持、可管理性、安全性和可靠性。

使用 NVIDIA NeMo 快速大規(guī)模

訓(xùn)練、定制和部署大語言模型

生成式 AI 模型具有數(shù)十億個(gè)參數(shù),需要高效的數(shù)據(jù)訓(xùn)練管道。訓(xùn)練模型的復(fù)雜性、針對(duì)特定領(lǐng)域任務(wù)進(jìn)行定制以及大規(guī)模部署模型都需要專業(yè)知識(shí)和計(jì)算資源。

NVIDIA AI Enterprise 4.0包括NVIDIA NeMo,這是一個(gè)端到端云原生框架,用于大規(guī)模數(shù)據(jù)管理、大語言模型的加速訓(xùn)練和定制,以及在用戶首選平臺(tái)上優(yōu)化推理。從云到桌面工作站,NVIDIA NeMo 提供了一個(gè)簡單易用的方案,并通過加速的基礎(chǔ)設(shè)施實(shí)現(xiàn)性能優(yōu)化,大幅縮短解決方案的開發(fā)時(shí)間,提高了投資回報(bào)率。

使用 AI 工作流更快地構(gòu)建生成式 AI 應(yīng)用

NVIDIA AI Enterprise 4.0引入了兩種新的 AI 工作流,用于構(gòu)建生成式 AI 應(yīng)用:采用檢索增強(qiáng)生成技術(shù)的 AI 聊天機(jī)器人和魚叉式網(wǎng)絡(luò)釣魚檢測(cè)。

生成式 AI 知識(shí)庫聊天機(jī)器人工作流利用檢索增強(qiáng)生成技術(shù),能夠加快基于專有數(shù)據(jù)進(jìn)行調(diào)優(yōu)的生成式 AI 聊天機(jī)器人的開發(fā)和部署。這些聊天機(jī)器人從公司的知識(shí)庫中檢索信息,并用自然語言生成實(shí)時(shí)回答,從而實(shí)現(xiàn)準(zhǔn)確地回答特定領(lǐng)域的問題。它使用預(yù)訓(xùn)練的大語言模型、NeMo 、NVIDIA Triton 推理服務(wù)器,以及包括 Langchain 和矢量數(shù)據(jù)庫在內(nèi)的第三方工具來訓(xùn)練和部署知識(shí)庫問答系統(tǒng)。

魚叉式網(wǎng)絡(luò)釣魚檢測(cè) AI 工作流使用 NVIDIA Morpheus 和包含 NVIDIA NeMo 的生成式 AI 來訓(xùn)練一個(gè)模型,該模型在郵件進(jìn)入收件箱之前就能檢測(cè)到高達(dá) 90% 的魚叉式網(wǎng)絡(luò)釣魚電子郵件。

防范魚叉式網(wǎng)絡(luò)釣魚電子郵件是一大挑戰(zhàn)。原因是魚叉式網(wǎng)絡(luò)釣魚電子郵件與正常電子郵件難以區(qū)分,欺詐和合法電子郵件之間的唯一區(qū)別是發(fā)件人的意圖。這也是為什么傳統(tǒng)的魚叉式網(wǎng)絡(luò)釣魚檢測(cè)機(jī)制無法滿足要求的原因。

隨時(shí)隨地開發(fā) AI

企業(yè)采用 AI 可能需要更多熟練的 AI 開發(fā)者和數(shù)據(jù)科學(xué)家。組織將需要一個(gè)由優(yōu)化的硬件和軟件組成的靈活的高性能基礎(chǔ)設(shè)施,以最大限度地提高生產(chǎn)力并加快 AI 開發(fā)。結(jié)合用于工作站的 NVIDIA RTX 6000 Ada 架構(gòu) GPU,NVIDIA AI Enterprise 4.0 為 AI 開發(fā)者提供了一個(gè)單獨(dú)的平臺(tái),開發(fā)者可以在這個(gè)平臺(tái)上開發(fā) AI 應(yīng)用并將其部署到生產(chǎn)中。

除了桌面工作站,NVIDIA 還為 AI 工作負(fù)載提供了完整的基礎(chǔ)設(shè)施組合,包括 NVIDIA H100、L40S、L4 GPU,以及與 NVIDIA BlueField 數(shù)據(jù)處理單元的加速聯(lián)網(wǎng)。通過HPE Machine Learning Data Management ( HPE 機(jī)器學(xué)習(xí)數(shù)據(jù)管理)、HPE Machine Learning Development Environment ( HPE 機(jī)器學(xué)習(xí)開發(fā)環(huán)境)、Ubuntu KVM 和 Nutanix AHV 虛擬化支持,組織可以使用本地基礎(chǔ)設(shè)施來運(yùn)行 AI 工作負(fù)載。

管理 AI 工作負(fù)載和基礎(chǔ)設(shè)施

NVIDIA Triton Management Service 是 NVIDIA AI Enterprise 4.0 的獨(dú)家補(bǔ)充,通過高效利用 GPU 資源的模型編排,可自動(dòng)在 Kubernetes 中部署多個(gè) Triton 推理服務(wù)器。通過從多個(gè)來源加載模型和分配計(jì)算資源,它簡化了部署。Triton 管理服務(wù)可以在 NVIDIA LaunchPad 上試用。

NVIDIA AI Enterprise 4.0 還包括集群管理軟件 NVIDIA Base Command Manager Essentials,用于簡化集群配置、工作負(fù)載管理、基礎(chǔ)設(shè)施監(jiān)測(cè)和使用情況報(bào)告。通過動(dòng)態(tài)擴(kuò)展和基于策略的資源分配,它能夠簡化 AI 工作負(fù)載的管理和部署,同時(shí)確保集群的完整性。

新的 AI 軟件、工具和預(yù)訓(xùn)練的基礎(chǔ)模型

NVIDIA AI Enterprise 4.0 還提供更多的框架和工具以推進(jìn) AI 開發(fā)。NVIDIA Modulus 是一個(gè)用于通過簡單的 Python 接口構(gòu)建、訓(xùn)練和調(diào)優(yōu)物理機(jī)器學(xué)習(xí)模型的框架。

通過 Modulus,用戶可以利用 AI 增強(qiáng)工程模擬,并進(jìn)行跨學(xué)科的企業(yè)級(jí)數(shù)字孿生應(yīng)用建模,包括計(jì)算流體動(dòng)力學(xué)(CFD)、結(jié)構(gòu)力學(xué)和電磁學(xué)。Deep Graph Library 容器旨在實(shí)現(xiàn)和訓(xùn)練圖神經(jīng)網(wǎng)絡(luò),幫助科學(xué)家研究分子或金融服務(wù)的圖結(jié)構(gòu),以檢測(cè)欺詐。

最后,還有三個(gè)專有預(yù)訓(xùn)練基礎(chǔ)模型,它們是 NVIDIA TAO 的一部分,能夠加快視覺 AI 、缺陷檢測(cè)和零售損失預(yù)防等行業(yè)應(yīng)用投入生產(chǎn)所需的時(shí)間。

NVIDIA AI Enterprise 4.0是迄今為止對(duì)該平臺(tái)最全面的升級(jí)。憑借企業(yè)級(jí)的安全性、穩(wěn)定性、可管理性和支持,企業(yè)可以期待可靠的 AI 正常運(yùn)行時(shí)間和不間斷的 AI 卓越表現(xiàn)。

開始使用 NVIDIA AI Enterprise

快速使用NVIDIA AI Enterprise的三種方式:

  • 注冊(cè) NVIDIA LaunchPad,可在短期內(nèi)訪問試用實(shí)驗(yàn)室。

  • 注冊(cè)現(xiàn)有本地或云基礎(chǔ)設(shè)施的 90 天免費(fèi)評(píng)估版。

  • 通過 NVIDIA 合作伙伴網(wǎng)絡(luò)或包括 AWS、Microsoft Azure 和谷歌云在內(nèi)的大型云服務(wù)提供商購買。

NVIDIA AI Enterprise 90 天評(píng)估版現(xiàn)已推出。點(diǎn)擊“閱讀原文”,通過訪問 NGC,即可獲取免費(fèi)試用。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行,線上大會(huì)也將同期開放。掃描下方海報(bào)二維碼,關(guān)注更多會(huì)議及活動(dòng)信息。

80748878-56e6-11ee-939d-92fbcf53809c.jpg


原文標(biāo)題:NVIDIA AI Enterprise 4.0 推出,助力企業(yè)構(gòu)建生產(chǎn)就緒的生成式 AI 為業(yè)務(wù)賦能

文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3893

    瀏覽量

    92602

原文標(biāo)題:NVIDIA AI Enterprise 4.0 推出,助力企業(yè)構(gòu)建生產(chǎn)就緒的生成式 AI 為業(yè)務(wù)賦能

文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    NVIDIA AI Enterprise助力AI智能體重構(gòu)工作模式

    無論是為人道主義援助、客戶服務(wù)還是醫(yī)療健康而開發(fā),基于NVIDIA AI Enterprise軟件平臺(tái)構(gòu)建AI 智能體構(gòu)成了新型數(shù)字勞動(dòng)
    的頭像 發(fā)表于 03-25 14:59 ?242次閱讀

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計(jì)算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成
    發(fā)表于 03-19 15:24 ?221次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作<b class='flag-5'>助力</b><b class='flag-5'>企業(yè)</b>加速代理式 <b class='flag-5'>AI</b> 推理

    NVIDIA 推出開放推理 AI 模型系列,助力開發(fā)者和企業(yè)構(gòu)建代理式 AI 平臺(tái)

    月 18 日 —— ?NVIDIA 今日發(fā)布具有推理功能的開源 Llama Nemotron 模型系列,旨在為開發(fā)者和企業(yè)提供業(yè)務(wù)就緒型基礎(chǔ),助力
    發(fā)表于 03-19 09:31 ?125次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>推出</b>開放推理 <b class='flag-5'>AI</b> 模型系列,<b class='flag-5'>助力</b>開發(fā)者和<b class='flag-5'>企業(yè)</b><b class='flag-5'>構(gòu)建</b>代理式 <b class='flag-5'>AI</b> 平臺(tái)

    聚云科技榮獲亞馬遜云科技生成AI能力認(rèn)證 助力企業(yè)加速生成AI應(yīng)用落地

    、數(shù)據(jù)處理、模型調(diào)優(yōu)到應(yīng)用集成與部署等方面,助力企業(yè)加速生成AI應(yīng)用落地。此外,聚云科技還基于亞馬遜云科技打造RAGPro
    發(fā)表于 02-14 13:41 ?91次閱讀

    NVIDIA推出多個(gè)生成AI模型和藍(lán)圖

    NVIDIA 宣布推出多個(gè)生成 AI 模型和藍(lán)圖,將 NVIDIA Omniverse 一體化
    的頭像 發(fā)表于 01-08 10:48 ?321次閱讀

    賴耶科技通過NVIDIA AI Enterprise平臺(tái)打造超級(jí)AI工廠

    NVIDIA 技術(shù)團(tuán)隊(duì)保持合作。賴耶科技通過NVIDIA AI Enterprise平臺(tái)打造的超級(jí) AI 工廠,致力于加速大模型場(chǎng)景應(yīng)用
    的頭像 發(fā)表于 11-19 14:55 ?685次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發(fā)和交付基于商用大語言模型(LLM)和領(lǐng)域適配模型的解決方案。該公司還在使用
    的頭像 發(fā)表于 11-19 14:48 ?582次閱讀

    NVIDIA NIM Agent Blueprint加速企業(yè)級(jí)AI應(yīng)用落地

    生成 AI 時(shí)代,每個(gè)企業(yè)都在嘗試構(gòu)建自己的 AI 應(yīng)用,來
    的頭像 發(fā)表于 11-13 11:35 ?502次閱讀

    NVIDIA AI助力SAP生成AI助手Joule加速發(fā)展

    在美國佛羅里達(dá)州奧蘭多舉行的 SAP Sapphire 大會(huì)上,NVIDIA 與這家企業(yè)軟件公司公布了搭載NVIDIA AI Enterprise
    的頭像 發(fā)表于 09-09 09:37 ?595次閱讀

    NVIDIA攜手Meta推出AI服務(wù),企業(yè)提供生成AI服務(wù)

    NVIDIA近日宣布了一項(xiàng)重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(
    的頭像 發(fā)表于 07-25 16:57 ?675次閱讀

    NVIDIA AI Foundry 全球企業(yè)打造自定義 Llama 3.1 生成 AI 模型

    借助 NVIDIA AI Foundry,企業(yè)和各國現(xiàn)在能夠使用自有數(shù)據(jù)與 Llama 3.1 405B 和 NVIDIA Nemotron 模型配對(duì),來
    發(fā)表于 07-24 09:39 ?788次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry <b class='flag-5'>為</b>全球<b class='flag-5'>企業(yè)</b>打造自定義 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    關(guān)系進(jìn)一步深化。助力生成 AI企業(yè)級(jí)應(yīng)用與發(fā)展加速駛?cè)肟燔嚨馈?HPE Private Cloud
    的頭像 發(fā)表于 06-20 17:36 ?869次閱讀

    NVIDIA 通過 Holoscan NVIDIA IGX 提供企業(yè)軟件支持

    美敦力、SETI 協(xié)會(huì)以及領(lǐng)先制造商正在構(gòu)建 NVIDIA IGX 系統(tǒng), AI 在工業(yè)邊緣
    的頭像 發(fā)表于 06-04 10:21 ?642次閱讀

    NVIDIA 通過 Holoscan NVIDIA IGX 提供企業(yè)軟件支持,實(shí)現(xiàn)邊緣實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) AI 應(yīng)用

    美敦力、SETI協(xié)會(huì)以及領(lǐng)先的制造商正在構(gòu)建? NVIDIA IGX 系統(tǒng), ?AI 在工業(yè)邊緣
    發(fā)表于 06-03 09:48 ?400次閱讀
      <b class='flag-5'>NVIDIA</b> 通過 Holoscan <b class='flag-5'>為</b> <b class='flag-5'>NVIDIA</b> IGX 提供<b class='flag-5'>企業(yè)</b>軟件支持,實(shí)現(xiàn)邊緣實(shí)時(shí)醫(yī)療、工業(yè)和科學(xué) <b class='flag-5'>AI</b> 應(yīng)用

    研華與英偉達(dá)深化合作, 成為NVIDIA AI Enterprise軟件全球分銷商

    臺(tái)北,2024年4月 - 研華科技(2395.TW)宣布,已擴(kuò)大與NVIDIA的合作,成為臺(tái)灣首家獲得NVIDIA AI Enterprise認(rèn)證的、用于開發(fā)和部署
    發(fā)表于 05-07 11:21 ?493次閱讀
    研華與英偉達(dá)深化合作, 成為<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> <b class='flag-5'>Enterprise</b>軟件全球分銷商

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品