0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA 為 1 億臺(tái) Windows RTX PC 和工作站提供全新生成式 AI 功能與突破性性能

NVIDIA英偉達(dá) ? 來(lái)源:未知 ? 2023-05-31 03:50 ? 次閱讀

搭載 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的開(kāi)發(fā)與部署;即將推出的 Max-Q 低功耗 AI 推理將提高能效比。

生成式 AI 正在迅速開(kāi)創(chuàng)一個(gè)計(jì)算的新時(shí)代,為生產(chǎn)力、內(nèi)容創(chuàng)作、游戲等多領(lǐng)域帶來(lái)了變革。NVIDIA NeMo 和 DLSS 3 幀生成技術(shù)、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和應(yīng)用能夠使用神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別現(xiàn)有數(shù)據(jù)中的模式和結(jié)構(gòu),以此生成新的原創(chuàng)內(nèi)容。

專為 GeForce RTX 和 NVIDIA RTX GPU 優(yōu)化的生成式 AI 模型具有高達(dá) 1,400 Tensor TFLOP 的 AI 推理性能,運(yùn)行速度比同類其他設(shè)備快 5 倍。這要得益于 RTX GPU 中用于加速 AI 計(jì)算的專用硬件 Tensor Cores,以及常規(guī)的軟件改進(jìn)。上周在 Microsoft Build 大會(huì)上發(fā)布的增強(qiáng)功能等軟件方面的改進(jìn)使得像 Stable Diffusion 這樣充分利用新的 DirectML 優(yōu)化功能的生成式 AI 模型性能翻倍。

隨著越來(lái)越多的 AI 推理在本地設(shè)備上運(yùn)行,PC 將需要強(qiáng)大而高效的硬件以支持這些復(fù)雜的任務(wù)。為了滿足這一需求,RTX GPU 將添加用于 AI 工作負(fù)載的 Max-Q 低功耗推理。在執(zhí)行輕量級(jí)的推理任務(wù)時(shí),GPU 將以極低的功耗運(yùn)行,而在運(yùn)行繁重負(fù)載如生成式 AI 工作時(shí),則可升至極高的性能水平。

為了創(chuàng)建新的 AI 應(yīng)用,在 Windows 11 上運(yùn)行的整個(gè) RTX 加速 AI 開(kāi)發(fā)堆?,F(xiàn)已向開(kāi)發(fā)者開(kāi)放,使 AI 模型的開(kāi)發(fā)、訓(xùn)練和部署變得更容易。開(kāi)發(fā)者首先會(huì)通過(guò)Windows Subsystem for Linux(WSL)上經(jīng)過(guò)優(yōu)化的深度學(xué)習(xí)框架開(kāi)發(fā)和微調(diào)模型。

然后開(kāi)發(fā)者可以無(wú)縫上云并在各個(gè)主要云服務(wù)商(CSP)提供的相同 NVIDIA AI 堆棧上進(jìn)行訓(xùn)練。接下來(lái),開(kāi)發(fā)者使用全新 Microsoft Olive 等工具優(yōu)化訓(xùn)練好的模型以實(shí)現(xiàn)快速推理,最后面向?qū)?AI 優(yōu)化的系統(tǒng)的 1 億多 RTX PC 和工作站部署 AI 應(yīng)用和功能。

微軟 Windows 芯片和系統(tǒng)集成副總裁 Pavan Davuluri 表示:“未來(lái)幾年,AI 將成為推動(dòng) Windows 客戶創(chuàng)新的最大驅(qū)動(dòng)力。我們正在與 NVIDIA 開(kāi)展軟硬件優(yōu)化方面的合作,以此為開(kāi)發(fā)者提供變革性的、高性能的、易于部署的體驗(yàn)?!?/p>

迄今為止,超過(guò) 400 款已發(fā)布的應(yīng)用和游戲由 RTX AI 提供加速,該陣容還在持續(xù)壯大中。

在拉開(kāi)了 Computex 2023 序幕的主題演講中,NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛介紹了用于游戲開(kāi)發(fā)的新生成式 AI——NVIDIA ACE 游戲開(kāi)發(fā)版(NVIDIA Avatar Cloud Engine (ACE) for Games)。

通過(guò) AI 驅(qū)動(dòng)的自然語(yǔ)言互動(dòng),這項(xiàng)自定義 AI 模型代工服務(wù)使游戲中的非玩家角色(NPC)更加智能,從而徹底改變游戲體驗(yàn)。中間件、工具和游戲開(kāi)發(fā)者可以使用 “ACE 游戲開(kāi)發(fā)版(ACE for Games)” 在他們的軟件和游戲中建立并部署定制化的語(yǔ)音、對(duì)話和動(dòng)畫 AI 模型。

在 RTX 上運(yùn)行的生成式 AI 無(wú)處不在

從服務(wù)器到云,再到設(shè)備,在 RTX GPU 上運(yùn)行的生成式 AI 無(wú)處不在。NVIDIA 的加速 AI 計(jì)算具有低時(shí)延、全棧式的特點(diǎn)。多年來(lái),我們一直在優(yōu)化 AI 軟硬件架構(gòu)的各個(gè)部分,包括 RTX GPU 上的專用 AI 硬件——第四代 Tensor Core。

通過(guò)對(duì)驅(qū)動(dòng)的定期優(yōu)化,能夠確保峰值性能。最新 NVIDIA 驅(qū)動(dòng)在與經(jīng) Olive 優(yōu)化的模型和 DirectML 更新結(jié)合后,能夠在 Windows 11 上大幅提升開(kāi)發(fā)者的速度。例如在 Stable Diffusion 中,使用 DirectML 優(yōu)化路徑的開(kāi)發(fā)者將干擾時(shí)間縮短了兩倍。

借助基于 NVIDIA Ada Lovelace 架構(gòu)打造的最新一代 RTX 筆記本電腦和移動(dòng)工作站,用戶可以在任何地方運(yùn)行生成式 AI。新一代移動(dòng)平臺(tái)的外形尺寸只有 14 英寸,重量?jī)H為 3 磅左右,將性能和便攜性提升至新高。戴爾、惠普、聯(lián)想、華碩等制造商正在 RTX GPU 和 Tensor Cores 的支持下,推動(dòng)生成式 AI 時(shí)代的發(fā)展。

  • “隨著各個(gè)行業(yè)繼續(xù)部署 AI,預(yù)計(jì)到 2030 年,AI 需求的年增長(zhǎng)率將超過(guò) 37%,企業(yè)和消費(fèi)者將越來(lái)越需要合適的技術(shù)以實(shí)現(xiàn) AI 的開(kāi)發(fā)和落地,比如生成式 AI 等。多年來(lái),聯(lián)想一直致力于開(kāi)發(fā)適用于 AI 工作負(fù)載的產(chǎn)品和解決方案,進(jìn)而助力擴(kuò)展生成式 AI 的應(yīng)用范圍——從設(shè)備到服務(wù)器、再到云。聯(lián)想 ThinkPad、ThinkStation、ThinkBook、Yoga、Legion 和 LOQ 等搭載 NVIDIA RTX GPU 的 PC 正在推動(dòng)生成式 AI 的變革浪潮,在節(jié)省時(shí)間、創(chuàng)作內(nèi)容、完成工作和游戲等方面提供更好的用戶體驗(yàn)?!?/em>

    ——聯(lián)想副總裁兼 PC 業(yè)務(wù)和智能設(shè)備首席技術(shù)官 Daryl Cromer

  • “生成式 AI 是一項(xiàng)革命性的技術(shù),同時(shí)也是促進(jìn)各個(gè)行業(yè)未來(lái)創(chuàng)新的催化劑?;萜张c NVIDIA 共同為開(kāi)發(fā)者提供卓越的性能、移動(dòng)性以及運(yùn)行當(dāng)前加速 AI 模型所需的可靠性,推動(dòng)全新生成式 AI 時(shí)代的發(fā)展?!?/em>

    ——惠普高級(jí)副總裁兼 Z 系列總經(jīng)理 Jim Nottingham

  • “我們近期與 NVIDIA 圍繞 Project Helix 的合作重點(diǎn)是助力企業(yè)更輕松地在本地構(gòu)建和部署值得信賴的生成式 AI。在這個(gè)歷史性時(shí)刻,我們進(jìn)一步將生成式 AI 引入 PC 。想象一下,應(yīng)用開(kāi)發(fā)者能夠在完善神經(jīng)網(wǎng)絡(luò)算法的同時(shí),在本地控制訓(xùn)練數(shù)據(jù)和 IP。正是為了實(shí)現(xiàn)這個(gè)目標(biāo),我們?cè)O(shè)計(jì)了搭載 NVIDIA RTX GPU 的強(qiáng)大、可擴(kuò)展 Precision 工作站。作為工作站領(lǐng)域的全球領(lǐng)導(dǎo)者,戴爾在幫助用戶安全加速?gòu)倪吘壍綌?shù)據(jù)中心的 AI 應(yīng)用方面具有獨(dú)特的優(yōu)勢(shì)?!?/em>

    ——戴爾科技客戶產(chǎn)品部總裁 Ed Ward

  • “生成式 AI 的時(shí)代正在到來(lái),因此需要強(qiáng)大的處理能力和經(jīng)過(guò)全面優(yōu)化的軟硬件。借助 NVIDIA AI 平臺(tái),包括現(xiàn)在已經(jīng)預(yù)裝到我們?cè)S多產(chǎn)品上的 NVIDIA Omniverse,我們十分高興能看到 AI 的變革在華碩和 ROG 筆記本電腦上持續(xù)不斷地推動(dòng)著?!?/em>

    ——華碩全球消費(fèi)業(yè)務(wù)市場(chǎng)總監(jiān) Galip Fu

很快,搭載 RTX GPU 的筆記本電腦和移動(dòng)工作站就將做到“兩全其美”。純 AI 推理工作負(fù)載將根據(jù) Tensor Core 的性能進(jìn)行優(yōu)化,同時(shí)盡可能降低 GPU 的功耗,延長(zhǎng)電池續(xù)航時(shí)間,并保持系統(tǒng)擁有出色的散熱和降噪表現(xiàn)。GPU 還可根據(jù)工作負(fù)載的需要,動(dòng)態(tài)提升至最高 AI 性能。

開(kāi)發(fā)者可以訪問(wèn)面向加速應(yīng)用開(kāi)發(fā)者的 NVIDIA AI 網(wǎng)頁(yè)(訪問(wèn)地址:https://developer.nvidia.cn/ai-for-creative-applications),了解如何對(duì)應(yīng)用進(jìn)行端到端優(yōu)化,以充分利用 GPU 加速。

點(diǎn)擊 “閱讀原文”,或掃描下方海報(bào)二維碼,觀看 NVIDIA 創(chuàng)始人兼 CEO 黃仁勛為 COMPUTEX 2023 帶來(lái)的主題演講直播回放,了解AI、圖形及其他領(lǐng)域的最新進(jìn)展!


原文標(biāo)題:NVIDIA 為 1 億臺(tái) Windows RTX PC 和工作站提供全新生成式 AI 功能與突破性性能

文章出處:【微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3874

    瀏覽量

    92465

原文標(biāo)題:NVIDIA 為 1 億臺(tái) Windows RTX PC 和工作站提供全新生成式 AI 功能與突破性性能

文章出處:【微信號(hào):NVIDIA_China,微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    微軟推出全新Windows 11 AI+ PC產(chǎn)品

    隨著企業(yè)展望未來(lái),通過(guò)云端和終端訪問(wèn)并釋放價(jià)值將成為每個(gè)人工智能戰(zhàn)略的基石。將云計(jì)算的可擴(kuò)展性與基于強(qiáng)大神經(jīng)處理單元(NPU)的本地 AI 計(jì)算效率相結(jié)合,微軟推出了突破性PC 品類:Wi
    的頭像 發(fā)表于 02-18 18:20 ?501次閱讀

    NVIDIA推出面向RTX AI PCAI基礎(chǔ)模型

    NVIDIA 今日發(fā)布能在 NVIDIA RTX AI PC 本地運(yùn)行的基礎(chǔ)模型,數(shù)字人、內(nèi)容
    的頭像 發(fā)表于 01-08 11:01 ?315次閱讀

    NVIDIA 推出高性價(jià)比的生成 AI 超級(jí)計(jì)算機(jī)

    人群提供更強(qiáng)大的生成 AI 功能與性能,目前建議零售價(jià) 2070 人民幣。 ? 該開(kāi)發(fā)者套件現(xiàn)
    發(fā)表于 12-18 17:01 ?544次閱讀
    <b class='flag-5'>NVIDIA</b> 推出高性價(jià)比的<b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 超級(jí)計(jì)算機(jī)

    NVIDIA推出全新生成AI模型Fugatto

    NVIDIA 開(kāi)發(fā)了一個(gè)全新生成 AI 模型。利用輸入的文本和音頻,該模型可以創(chuàng)作出包含任意的音樂(lè)、人聲和聲音組合的作品。
    的頭像 發(fā)表于 11-27 11:29 ?530次閱讀

    全新NVIDIA NIM微服務(wù)實(shí)現(xiàn)突破性進(jìn)展

    全新 NVIDIA NIM 微服務(wù)實(shí)現(xiàn)突破性進(jìn)展,可助力氣象技術(shù)公司開(kāi)發(fā)和部署 AI 模型,實(shí)現(xiàn)對(duì)降雪、結(jié)冰和冰雹的預(yù)測(cè)。
    的頭像 發(fā)表于 11-21 10:07 ?388次閱讀

    NVIDIA RTX AI Toolkit擁抱LoRA技術(shù)

    RTX AI PC工作站上使用最新版 RTX AI Toolkit 微調(diào) LLM,最高可
    的頭像 發(fā)表于 11-20 09:14 ?399次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>RTX</b> <b class='flag-5'>AI</b> Toolkit擁抱LoRA技術(shù)

    NVIDIA RTX AI套件簡(jiǎn)化AI驅(qū)動(dòng)的應(yīng)用開(kāi)發(fā)

    NVIDIA 于近日發(fā)布 NVIDIA RTX AI套件,這一工具和 SDK 集合能夠幫助 Windows 應(yīng)用開(kāi)發(fā)者定制、優(yōu)化和部署適用于
    的頭像 發(fā)表于 09-06 14:45 ?596次閱讀

    RTX AI PC工作站提供強(qiáng)大AI性能

    NVIDIA RTX 和 GeForce RTX 技術(shù)驅(qū)動(dòng)的 AI PC 時(shí)代已經(jīng)到來(lái)。在這一背景下,一種評(píng)估
    的頭像 發(fā)表于 08-23 16:57 ?781次閱讀

    寧暢推出首款專業(yè)級(jí)AI桌面工作站W350 G50

    寧暢近日推出了其首款專業(yè)級(jí)AI桌面工作站W350 G50,此舉標(biāo)志著智算中心的概念已延伸至桌面端。這款工作站集成了NVIDIA RTX? A
    的頭像 發(fā)表于 06-06 09:25 ?850次閱讀

    NVIDIA推出用于支持在全新GeForce RTX AI筆記本電腦上運(yùn)行的AI助手及數(shù)字人

    》中。NVIDIA 還發(fā)布專為 NVIDIA ACE 數(shù)字人平臺(tái)打造的首個(gè)基于 PCNVIDIA NIM 推理微服務(wù)。 這些技術(shù)由?NVIDI
    的頭像 發(fā)表于 06-04 10:19 ?1004次閱讀

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服務(wù)

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI 微服務(wù),以加速新一代數(shù)字人的發(fā)展,并將在平臺(tái)上推出
    的頭像 發(fā)表于 06-04 10:18 ?773次閱讀

    NVIDIA發(fā)布數(shù)字人微服務(wù),制作生成AI數(shù)字化身鋪平未來(lái)之路

    ? ? COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI微服務(wù),以加速新一代數(shù)字人的發(fā)展,并
    發(fā)表于 06-03 17:43 ?211次閱讀

    NVIDIA推出兩款基于NVIDIA Ampere架構(gòu)的全新臺(tái)式機(jī)GPU

    兩款 NVIDIA Ampere 架構(gòu) GPU 工作站帶來(lái)實(shí)時(shí)光線追蹤功能生成
    的頭像 發(fā)表于 04-26 11:25 ?783次閱讀

    全新NVIDIA RTX A400和A1000 GPU全面加強(qiáng)AI設(shè)計(jì)與生產(chǎn)力工作

    兩款 NVIDIA Ampere 架構(gòu) GPU 工作站帶來(lái)實(shí)時(shí)光線追蹤功能生成
    的頭像 發(fā)表于 04-18 10:29 ?707次閱讀

    NVIDIA Edify視覺(jué)內(nèi)容提供商帶來(lái)3D生成AI全新圖像控件

    用于視覺(jué)生成 AI 的多模態(tài)架構(gòu) NVIDIA Edify 正在邁入全新維度。
    的頭像 發(fā)表于 03-26 09:49 ?988次閱讀