0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA 加快企業(yè)自定義生成式 AI 模型開(kāi)發(fā)

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來(lái)源:未知 ? 2023-11-16 21:15 ? 次閱讀

開(kāi)發(fā)者可以直接在瀏覽器中試用全新的 NVIDIA AI Foundation Models,使用 NVIDIA AI Foundation Endpoints 在應(yīng)用程序中進(jìn)行測(cè)試,然后使用專(zhuān)有的業(yè)務(wù)數(shù)據(jù)進(jìn)行自定義。

wKgaomVWFwaAYyO_AADOYv2qyow798.jpg

如今,免費(fèi)、開(kāi)源的大語(yǔ)言模型對(duì)企業(yè)來(lái)說(shuō)就像是一頓“自助餐”。但對(duì)于構(gòu)建自定義生成式 AI 應(yīng)用的開(kāi)發(fā)者來(lái)說(shuō),這頓“大餐”可能會(huì)讓他們應(yīng)接不暇,因?yàn)樗麄冃枰獫M足各種不同的項(xiàng)目和業(yè)務(wù)需求,比如兼容性、安全性和用來(lái)訓(xùn)練模型的數(shù)據(jù)。 NVIDIA AI Foundation Models集企業(yè)級(jí)預(yù)訓(xùn)練模型之大成,為開(kāi)發(fā)人員提供了針對(duì)企業(yè)應(yīng)用定制生成式 AI 的良好開(kāi)端。

NVIDIA 優(yōu)化的基礎(chǔ)模型加速創(chuàng)新

NVIDIA AI Foundation Models 可通過(guò)簡(jiǎn)單的用戶界面或 API 直接在瀏覽器體驗(yàn)。此外,這些模型還可通過(guò)NVIDIA AI Foundation Endpoints進(jìn)行訪問(wèn),以便在企業(yè)應(yīng)用中測(cè)試模型性能。

Llama 2、Stable Diffusion XL 和 Mistral 等現(xiàn)有的領(lǐng)先社區(qū)模型在格式化后,可幫助開(kāi)發(fā)者利用其專(zhuān)有數(shù)據(jù)精簡(jiǎn)自定義過(guò)程。此外,這些模型還通過(guò)NVIDIA TensorRT-LLM進(jìn)行了優(yōu)化,以提供最高的吞吐量和最低的時(shí)延,同時(shí)支持在任一NVIDIA GPU加速堆棧上的大規(guī)模運(yùn)行。例如,經(jīng)過(guò) TensorRT-LLM 優(yōu)化的 Llama 2 模型在 NVIDIA H100 上的運(yùn)行速度提高了近 2 倍。 新的NVIDIA Nemotron-3 8B基礎(chǔ)模型系列可支持創(chuàng)建當(dāng)今領(lǐng)先的企業(yè)聊天與問(wèn)答應(yīng)用,并適用于醫(yī)療、電信和金融服務(wù)等眾多行業(yè)。 這一系列模型是客戶構(gòu)建安全且生產(chǎn)就緒的生成式 AI 應(yīng)用的起點(diǎn)。這些模型在可靠的數(shù)據(jù)集上訓(xùn)練而成,其性能可媲美規(guī)模更大的模型,因此成為企業(yè)部署的理想之選。 多語(yǔ)言功能是 Nemotron-3 8B 系列模型的關(guān)鍵優(yōu)勢(shì)之一。這些開(kāi)箱即用的模型精通 50 多種語(yǔ)言,包括英語(yǔ)、德語(yǔ)、俄語(yǔ)、西班牙語(yǔ)、法語(yǔ)、日語(yǔ)、中文、韓語(yǔ)、意大利語(yǔ)和荷蘭語(yǔ)。

加快從自定義到部署的全過(guò)程

在跨業(yè)務(wù)功能中使用生成式 AI 的企業(yè)需要一個(gè) AI foundry,以便為其獨(dú)特的應(yīng)用自定義模型。NVIDIA 的 AI foundry 具備三個(gè)要素:NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具,以及NVIDIA DGXAI 超級(jí)計(jì)算服務(wù)。它們共同提供了端到端的企業(yè)級(jí)服務(wù),以創(chuàng)建自定義生成式 AI 模型。

重要的是,企業(yè)擁有其定制化模型,也就可以通過(guò)NVIDIA AI Enterprise軟件將其部署到幾乎任何地點(diǎn),并獲得企業(yè)級(jí)的安全性、穩(wěn)定性和支持。 NVIDIA AI Foundation Models 現(xiàn)已在NVIDIA NGC 目錄https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models和 Hugging Face 上免費(fèi)提供,并且也托管于 Microsoft Azure AI 模型目錄中。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行,線上大會(huì)也將同期開(kāi)放。掃描下方海報(bào)二維碼,立即注冊(cè) GTC 大會(huì)


原文標(biāo)題:NVIDIA 加快企業(yè)自定義生成式 AI 模型開(kāi)發(fā)

文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。


聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3776

    瀏覽量

    91103

原文標(biāo)題:NVIDIA 加快企業(yè)自定義生成式 AI 模型開(kāi)發(fā)

文章出處:【微信號(hào):NVIDIA-Enterprise,微信公眾號(hào):NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    NVIDIA 推出高性價(jià)比的生成 AI 超級(jí)計(jì)算機(jī)

    Jetson Orin Nano Super 可將生成 AI 性能提升至1.7 倍,支持科技愛(ài)好者、開(kāi)發(fā)者和學(xué)生使用的主流模型。 ? ?
    發(fā)表于 12-18 17:01 ?362次閱讀
    <b class='flag-5'>NVIDIA</b> 推出高性價(jià)比的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 超級(jí)計(jì)算機(jī)

    NVIDIA推出全新生成AI模型Fugatto

    NVIDIA 開(kāi)發(fā)了一個(gè)全新的生成 AI 模型。利用輸入的文本和音頻,該
    的頭像 發(fā)表于 11-27 11:29 ?353次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開(kāi)發(fā)和交付基于商用大語(yǔ)言模型(LLM)和領(lǐng)域適配
    的頭像 發(fā)表于 11-19 14:48 ?343次閱讀

    在設(shè)備上利用AI Edge Torch生成API部署自定義大語(yǔ)言模型

    我們很高興地發(fā)布 AI Edge Torch 生成 API,它能將開(kāi)發(fā)者用 PyTorch 編寫(xiě)的高性能大語(yǔ)言模型 (LLM) 部署至 T
    的頭像 發(fā)表于 11-14 10:23 ?438次閱讀
    在設(shè)備上利用<b class='flag-5'>AI</b> Edge Torch<b class='flag-5'>生成</b><b class='flag-5'>式</b>API部署<b class='flag-5'>自定義</b>大語(yǔ)言<b class='flag-5'>模型</b>

    NVIDIA AI助力SAP生成AI助手Joule加速發(fā)展

    在美國(guó)佛羅里達(dá)州奧蘭多舉行的 SAP Sapphire 大會(huì)上,NVIDIA 與這家企業(yè)軟件公司公布了搭載NVIDIA AI Enterprise軟件的
    的頭像 發(fā)表于 09-09 09:37 ?439次閱讀

    NVIDIA NeMo加速并簡(jiǎn)化自定義模型開(kāi)發(fā)

    如果企業(yè)希望充分發(fā)揮出 AI 的力量,就需要根據(jù)其行業(yè)需求量身定制的自定義模型。
    的頭像 發(fā)表于 07-26 11:17 ?755次閱讀
    <b class='flag-5'>NVIDIA</b> NeMo加速并簡(jiǎn)化<b class='flag-5'>自定義</b><b class='flag-5'>模型</b><b class='flag-5'>開(kāi)發(fā)</b>

    NVIDIA攜手Meta推出AI服務(wù),為企業(yè)提供生成AI服務(wù)

    NVIDIA近日宣布了一項(xiàng)重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(NVIDIA Inference
    的頭像 發(fā)表于 07-25 16:57 ?546次閱讀

    NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數(shù)據(jù)策管、合成數(shù)據(jù)生成、微調(diào)、檢索、防護(hù)到評(píng)估的全方位生成 AI 模型服務(wù),以便部署
    發(fā)表于 07-24 09:39 ?711次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業(yè)</b>打造<b class='flag-5'>自定義</b> Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> <b class='flag-5'>模型</b>

    揭秘NVIDIA AI Workbench 如何助力應(yīng)用開(kāi)發(fā)

    簡(jiǎn)化和優(yōu)化生成 AI 開(kāi)發(fā)的工具備受追捧,需求與日俱增。借助基于檢索增強(qiáng)生成(RAG)(該技術(shù)通過(guò)從指定外部來(lái)源獲取事實(shí)資料,來(lái)提高
    發(fā)表于 07-10 18:51 ?642次閱讀
    揭秘<b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Workbench 如何助力應(yīng)用<b class='flag-5'>開(kāi)發(fā)</b>

    HarmonyOS開(kāi)發(fā)案例:【 自定義彈窗】

    基于ArkTS的聲明開(kāi)發(fā)范式實(shí)現(xiàn)了三種不同的彈窗,第一種直接使用公共組件,后兩種使用CustomDialogController實(shí)現(xiàn)自定義彈窗
    的頭像 發(fā)表于 05-16 18:18 ?1370次閱讀
    HarmonyOS<b class='flag-5'>開(kāi)發(fā)</b>案例:【 <b class='flag-5'>自定義</b>彈窗】

    AWTK 開(kāi)源串口屏開(kāi)發(fā)(18) - 用 C 語(yǔ)言自定義命令

    編寫(xiě)代碼即可實(shí)現(xiàn)常見(jiàn)的應(yīng)用。但是,有時(shí)候我們需要自定義一些命令,以實(shí)現(xiàn)一些特殊的功能。本文檔介紹如何使用C語(yǔ)言自定義命令。1.實(shí)現(xiàn)hmi_model_cmd_t接口
    的頭像 發(fā)表于 05-11 08:24 ?442次閱讀
    AWTK 開(kāi)源串口屏<b class='flag-5'>開(kāi)發(fā)</b>(18) - 用 C 語(yǔ)言<b class='flag-5'>自定義</b>命令

    HarmonyOS開(kāi)發(fā)實(shí)例:【自定義Emitter】

    使用[Emitter]實(shí)現(xiàn)事件的訂閱和發(fā)布,使用[自定義彈窗]設(shè)置廣告信息。
    的頭像 發(fā)表于 04-14 11:37 ?1002次閱讀
    HarmonyOS<b class='flag-5'>開(kāi)發(fā)</b>實(shí)例:【<b class='flag-5'>自定義</b>Emitter】

    鴻蒙ArkUI實(shí)例:【自定義組件】

    組件是 OpenHarmony 頁(yè)面最小顯示單元,一個(gè)頁(yè)面可由多個(gè)組件組合而成,也可只由一個(gè)組件組合而成,這些組件可以是ArkUI開(kāi)發(fā)框架自帶系統(tǒng)組件,比如?`Text`?、?`Button`?等,也可以是自定義組件,本節(jié)筆者簡(jiǎn)單介紹一下
    的頭像 發(fā)表于 04-08 10:17 ?642次閱讀

    SAP與NVIDIA攜手加速生成AI企業(yè)應(yīng)用中的普及

    SAP SE 和 NVIDIA 宣布深化合作,致力于加速企業(yè)客戶在 SAP 云解決方案和應(yīng)用組合中利用數(shù)據(jù)和生成 AI 的變革力量。
    的頭像 發(fā)表于 03-22 10:02 ?606次閱讀

    NVIDIA生成AI開(kāi)啟藥物研發(fā)與設(shè)計(jì)的新紀(jì)元

    NVIDIA BioNeMo 現(xiàn)已提供十余個(gè)生成 AI 模型以及云服務(wù),正在推動(dòng)計(jì)算機(jī)輔助藥物發(fā)現(xiàn)生態(tài)系統(tǒng)的發(fā)展。
    的頭像 發(fā)表于 01-10 16:00 ?540次閱讀
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>開(kāi)啟藥物研發(fā)與設(shè)計(jì)的新紀(jì)元