0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA 加快企業(yè)自定義生成式 AI 模型開發(fā)

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:未知 ? 2023-11-16 21:15 ? 次閱讀

開發(fā)者可以直接在瀏覽器中試用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation Endpoints 在應(yīng)用程序中進(jìn)行測(cè)試,然后使用專有的業(yè)務(wù)數(shù)據(jù)進(jìn)行自定義。

wKgaomVWFwaAYyO_AADOYv2qyow798.jpg

如今,免費(fèi)、開源的大語言模型對(duì)企業(yè)來說就像是一頓“自助餐”。但對(duì)于構(gòu)建自定義生成式 AI 應(yīng)用的開發(fā)者來說,這頓“大餐”可能會(huì)讓他們應(yīng)接不暇,因?yàn)樗麄冃枰獫M足各種不同的項(xiàng)目和業(yè)務(wù)需求,比如兼容性、安全性和用來訓(xùn)練模型的數(shù)據(jù)。 NVIDIA AI Foundation Models集企業(yè)級(jí)預(yù)訓(xùn)練模型之大成,為開發(fā)人員提供了針對(duì)企業(yè)應(yīng)用定制生成式 AI 的良好開端。

NVIDIA 優(yōu)化的基礎(chǔ)模型加速創(chuàng)新

NVIDIA AI Foundation Models 可通過簡單的用戶界面或 API 直接在瀏覽器體驗(yàn)。此外,這些模型還可通過NVIDIA AI Foundation Endpoints進(jìn)行訪問,以便在企業(yè)應(yīng)用中測(cè)試模型性能。

Llama 2、Stable Diffusion XL 和 Mistral 等現(xiàn)有的領(lǐng)先社區(qū)模型在格式化后,可幫助開發(fā)者利用其專有數(shù)據(jù)精簡自定義過程。此外,這些模型還通過NVIDIA TensorRT-LLM進(jìn)行了優(yōu)化,以提供最高的吞吐量和最低的時(shí)延,同時(shí)支持在任一NVIDIA GPU加速堆棧上的大規(guī)模運(yùn)行。例如,經(jīng)過 TensorRT-LLM 優(yōu)化的 Llama 2 模型在 NVIDIA H100 上的運(yùn)行速度提高了近 2 倍。 新的NVIDIA Nemotron-3 8B基礎(chǔ)模型系列可支持創(chuàng)建當(dāng)今領(lǐng)先的企業(yè)聊天與問答應(yīng)用,并適用于醫(yī)療、電信和金融服務(wù)等眾多行業(yè)。 這一系列模型是客戶構(gòu)建安全且生產(chǎn)就緒的生成式 AI 應(yīng)用的起點(diǎn)。這些模型在可靠的數(shù)據(jù)集上訓(xùn)練而成,其性能可媲美規(guī)模更大的模型,因此成為企業(yè)部署的理想之選。 多語言功能是 Nemotron-3 8B 系列模型的關(guān)鍵優(yōu)勢(shì)之一。這些開箱即用的模型精通 50 多種語言,包括英語、德語、俄語、西班牙語、法語、日語、中文、韓語、意大利語和荷蘭語。

加快從自定義到部署的全過程

在跨業(yè)務(wù)功能中使用生成式 AI 的企業(yè)需要一個(gè) AI foundry,以便為其獨(dú)特的應(yīng)用自定義模型。NVIDIA 的 AI foundry 具備三個(gè)要素:NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGXAI 超級(jí)計(jì)算服務(wù)。它們共同提供了端到端的企業(yè)級(jí)服務(wù),以創(chuàng)建自定義生成式 AI 模型。

重要的是,企業(yè)擁有其定制化模型,也就可以通過NVIDIA AI Enterprise軟件將其部署到幾乎任何地點(diǎn),并獲得企業(yè)級(jí)的安全性、穩(wěn)定性和支持。 NVIDIA AI Foundation Models 現(xiàn)已在NVIDIA NGC 目錄https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models和 Hugging Face 上免費(fèi)提供,并且也托管于 Microsoft Azure AI 模型目錄中。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行,線上大會(huì)也將同期開放。掃描下方海報(bào)二維碼,立即注冊(cè) GTC 大會(huì)。


原文標(biāo)題:NVIDIA 加快企業(yè)自定義生成式 AI 模型開發(fā)

文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3900

    瀏覽量

    92852

原文標(biāo)題:NVIDIA 加快企業(yè)自定義生成式 AI 模型開發(fā)

文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    NVIDIA 與行業(yè)領(lǐng)先的存儲(chǔ)企業(yè)共同推出面向 AI 時(shí)代的新型企業(yè)基礎(chǔ)設(shè)施

    3 月 18 日 —— NVIDIA 今日推出了 NVIDIA AI 數(shù)據(jù)平臺(tái) —— 一項(xiàng)可自定義的參考設(shè)計(jì),領(lǐng)先的存儲(chǔ)提供商可用來構(gòu)建全新的 A
    發(fā)表于 03-19 10:11 ?160次閱讀
    <b class='flag-5'>NVIDIA</b> 與行業(yè)領(lǐng)先的存儲(chǔ)<b class='flag-5'>企業(yè)</b>共同推出面向 <b class='flag-5'>AI</b> 時(shí)代的新型<b class='flag-5'>企業(yè)</b>基礎(chǔ)設(shè)施

    如何添加自定義單板

    開發(fā)過程中,用戶有時(shí)需要?jiǎng)?chuàng)建自定義板配置。本節(jié)將通過一個(gè)實(shí)例講解用戶如何創(chuàng)建屬于自己的machine,下面以g2l-test.conf為例進(jìn)行說明。
    的頭像 發(fā)表于 03-12 14:43 ?397次閱讀

    NVIDIA Omniverse擴(kuò)展至生成物理AI領(lǐng)域

    NVIDIA近日宣布,其Omniverse?平臺(tái)再次實(shí)現(xiàn)重大突破,成功推出多個(gè)生成AI模型和藍(lán)圖,將Omniverse的應(yīng)用范圍進(jìn)一步擴(kuò)展
    的頭像 發(fā)表于 01-13 10:56 ?610次閱讀

    think-cell:自定義think-cell(四)

    C.5 設(shè)置默認(rèn)議程幻燈片布局 think-cell 議程可以在演示文稿中使用特定的自定義布局來定義議程、位置和議程幻燈片上的其他形狀,例如標(biāo)題或圖片。通過將此自定義布局添加到模板,您可以為整個(gè)組織
    的頭像 發(fā)表于 01-13 10:37 ?342次閱讀
    think-cell:<b class='flag-5'>自定義</b>think-cell(四)

    NVIDIA推出多個(gè)生成AI模型和藍(lán)圖

    NVIDIA 宣布推出多個(gè)生成 AI 模型和藍(lán)圖,將 NVIDIA Omniverse 一體化
    的頭像 發(fā)表于 01-08 10:48 ?397次閱讀

    NVIDIA推出全新生成AI模型Fugatto

    NVIDIA 開發(fā)了一個(gè)全新的生成 AI 模型。利用輸入的文本和音頻,該
    的頭像 發(fā)表于 11-27 11:29 ?646次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發(fā)和交付基于商用大語言模型(LLM)和領(lǐng)域適配
    的頭像 發(fā)表于 11-19 14:48 ?670次閱讀

    在設(shè)備上利用AI Edge Torch生成API部署自定義大語言模型

    我們很高興地發(fā)布 AI Edge Torch 生成 API,它能將開發(fā)者用 PyTorch 編寫的高性能大語言模型 (LLM) 部署至 T
    的頭像 發(fā)表于 11-14 10:23 ?816次閱讀
    在設(shè)備上利用<b class='flag-5'>AI</b> Edge Torch<b class='flag-5'>生成</b><b class='flag-5'>式</b>API部署<b class='flag-5'>自定義</b>大語言<b class='flag-5'>模型</b>

    NVIDIA AI助力SAP生成AI助手Joule加速發(fā)展

    在美國佛羅里達(dá)州奧蘭多舉行的 SAP Sapphire 大會(huì)上,NVIDIA 與這家企業(yè)軟件公司公布了搭載NVIDIA AI Enterprise軟件的
    的頭像 發(fā)表于 09-09 09:37 ?646次閱讀

    NVIDIA NeMo加速并簡化自定義模型開發(fā)

    如果企業(yè)希望充分發(fā)揮出 AI 的力量,就需要根據(jù)其行業(yè)需求量身定制的自定義模型。
    的頭像 發(fā)表于 07-26 11:17 ?1043次閱讀
    <b class='flag-5'>NVIDIA</b> NeMo加速并簡化<b class='flag-5'>自定義</b><b class='flag-5'>模型</b><b class='flag-5'>開發(fā)</b>

    NVIDIA攜手Meta推出AI服務(wù),為企業(yè)提供生成AI服務(wù)

    NVIDIA近日宣布了一項(xiàng)重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(NVIDIA Inference
    的頭像 發(fā)表于 07-25 16:57 ?715次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調(diào)、檢索、防護(hù)到評(píng)估的全方位生成 AI 模型服務(wù),以便部署
    發(fā)表于 07-24 09:39 ?814次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業(yè)</b>打造<b class='flag-5'>自定義</b> Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    揭秘NVIDIA AI Workbench 如何助力應(yīng)用開發(fā)

    簡化和優(yōu)化生成 AI 開發(fā)的工具備受追捧,需求與日俱增。借助基于檢索增強(qiáng)生成(RAG)(該技術(shù)通過從指定外部來源獲取事實(shí)資料,來提高
    發(fā)表于 07-10 18:51 ?779次閱讀
    揭秘<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Workbench 如何助力應(yīng)用<b class='flag-5'>開發(fā)</b>

    HarmonyOS開發(fā)案例:【 自定義彈窗】

    基于ArkTS的聲明開發(fā)范式實(shí)現(xiàn)了三種不同的彈窗,第一種直接使用公共組件,后兩種使用CustomDialogController實(shí)現(xiàn)自定義彈窗
    的頭像 發(fā)表于 05-16 18:18 ?1702次閱讀
    HarmonyOS<b class='flag-5'>開發(fā)</b>案例:【 <b class='flag-5'>自定義</b>彈窗】

    AWTK 開源串口屏開發(fā)(18) - 用 C 語言自定義命令

    編寫代碼即可實(shí)現(xiàn)常見的應(yīng)用。但是,有時(shí)候我們需要自定義一些命令,以實(shí)現(xiàn)一些特殊的功能。本文檔介紹如何使用C語言自定義命令。1.實(shí)現(xiàn)hmi_model_cmd_t接口
    的頭像 發(fā)表于 05-11 08:24 ?604次閱讀
    AWTK 開源串口屏<b class='flag-5'>開發(fā)</b>(18) - 用 C 語言<b class='flag-5'>自定義</b>命令

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品