0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA DOCA 1.1加速應(yīng)用在DPU上的開發(fā)

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:Scott Ciccone ? 2022-04-14 15:36 ? 次閱讀

NVIDIA發(fā)布NVIDIA DOCA 1.1 —— 用于BlueField DPU(全球最先進(jìn)的數(shù)據(jù)處理器)的軟件框架。最新版本的NVIDIA DOCA將延續(xù)DOCA搶先體驗(yàn)計(jì)劃的強(qiáng)勁勢頭,提供更多的DOCA SDK內(nèi)容、運(yùn)行時(shí)和服務(wù),助力開發(fā)者加速在DPU上的應(yīng)用開發(fā)。

DPU的作用在網(wǎng)絡(luò)功能和虛擬化資源的卸載、加速和隔離中越來越重要?,F(xiàn)代應(yīng)用需要將大量的網(wǎng)絡(luò)操作交給CPU來處理,這成為了在每個(gè)主機(jī)中都配備DPU的強(qiáng)動力。相比標(biāo)準(zhǔn)的CPU來言, DPU可以更快、更高效地處理所有這些虛擬化工作(如Open vSwitch(OVS)、SR-IOV、RDMA等)。此外,通過將DPU與主CPU分開運(yùn)行,提供了更高的安全性和操作隔離,并無需CPU或主機(jī)操作系統(tǒng)的參與,便可檢測并阻止惡意行為。

DOCA是釋放DPU潛力的關(guān)鍵。應(yīng)用開發(fā)者和NVIDIA技術(shù)合作伙伴能夠通過DOCA加速交付在每個(gè)數(shù)據(jù)中心節(jié)點(diǎn)中的DPU上運(yùn)行的服務(wù)。DPU為網(wǎng)絡(luò)、安全、存儲和基礎(chǔ)設(shè)施管理創(chuàng)建了一個(gè)隔離的安全服務(wù)域。

DOCA 1.1版本建立在DOCA 1.0的強(qiáng)勁勢頭之上,并包含以下更新:

DOCA FLOW-LIB —— 用于網(wǎng)關(guān)性能的加速,以實(shí)現(xiàn)不同網(wǎng)絡(luò)間互操作性

DOCA FLOW示例應(yīng)用—— 用于URL和DNS過濾與轉(zhuǎn)發(fā)功能

加速有狀態(tài)流表(SFT)—— 用于連接追蹤功能

加速正則表達(dá)式(RegEx)—— 用于與DPI Lib進(jìn)行模式匹配

引入x86平臺上的DOCA Runtime —— 用于加速在主機(jī)x86處理器上運(yùn)行的應(yīng)用, 不必所有的業(yè)務(wù)都卸載到DPU。

根據(jù)The Linley Group首席分析師Bob Wheeler近日發(fā)布的白皮書,“FLOW-Gateway庫(基于流的網(wǎng)關(guān)庫)基于數(shù)據(jù)通路上的SFT(有狀態(tài)流量表)實(shí)現(xiàn)了一種硬件加速的網(wǎng)關(guān)。與基于DPDK的通用流的API(rte_flow)相比,該庫為過濾和分配網(wǎng)絡(luò)流量的網(wǎng)關(guān)應(yīng)用提供了更高層的抽象。深度包檢測(DPI)庫同樣結(jié)合了SFT和RegEx加速,向應(yīng)用層開放了一個(gè)上層API。它可以根據(jù)一個(gè)編譯后簽名數(shù)據(jù)庫對數(shù)據(jù)包的Payload進(jìn)行不固定搜索?!?/p>

更多關(guān)于DOCA的信息,敬請閱讀Wheeler的白皮書《基于DPU的硬件加速:軟件視角》。

DOCA軟件棧的各組成部分

下圖是關(guān)于DOCA軟件棧的基本框架:

DOCA有三個(gè)主要組成部分:驅(qū)動程序、庫和各種服務(wù)。每個(gè)組成部分都在DPU上運(yùn)行,包括BlueField和BlueField-X(一種緊耦合的DPU-GPU融合解決方案)。DOCA還包含在DPU上正式發(fā)布的或是正在開發(fā)和部署的參考應(yīng)用,如網(wǎng)絡(luò)、安全、存儲、高性能計(jì)算/人工智能、電信和媒體等應(yīng)用。所有這些應(yīng)用都可以從CPU上卸載到DPU上,實(shí)現(xiàn)加速和隔離,從而大幅提高性能和效率,使數(shù)據(jù)中心變成一個(gè)加速的、完全可編程的、安全的且具有公有云的可擴(kuò)展性的先進(jìn)虛擬私有云。

有關(guān)DOCA各組成部分的詳細(xì)介紹,請觀看NVIDIA Ami Badani和Ariel Kit近日在2021年GTC大會上發(fā)表的題為“通過DOCA和最新的DPU軟件對數(shù)據(jù)中心基礎(chǔ)設(shè)施的加速功能進(jìn)行編程”的演講。

DOCA優(yōu)點(diǎn)總結(jié)

DOCA旨在幫助開發(fā)者了解NVIDIA的愿景——打造集DPU、CPU和GPU三大支柱為一體的加速數(shù)據(jù)中心。通過DOCA,NVIDIA正在實(shí)現(xiàn)對DPU所有功能的訪問,同時(shí)簡化在DPU上創(chuàng)建新應(yīng)用或整合現(xiàn)有應(yīng)用到DPU上的操作。DOCA具有以下優(yōu)點(diǎn):

DOCA簡化了使用DPU的基礎(chǔ)設(shè)施應(yīng)用和功能的開發(fā)與部署流程,使應(yīng)用能夠更快面市。

– 統(tǒng)一訪問所有的DPU功能:通過將所有需要的資源放在一處來加速開發(fā),避免跟蹤開發(fā)的發(fā)散和不同的工具。

在底層DPU API構(gòu)建一個(gè)帶抽象層的上層庫:合作伙伴能夠從上層進(jìn)行集成,以實(shí)現(xiàn)快速、簡單和高性能的開發(fā),或從底層進(jìn)行集成,以實(shí)現(xiàn)更精細(xì)的控制。

向前/向后兼容:使用DOCA開發(fā)意味著應(yīng)用可以在BlueField DPU的未來版本上無縫運(yùn)行,同時(shí)獲得更高的性能和擴(kuò)展性。

基于容器化服務(wù)的DPU配置和部署 :DOCA包含用于簡化DPU設(shè)置、配置和各種服務(wù)編排的工具。

DOCA開發(fā)容器和SDK管理器——用于增強(qiáng)開發(fā)者體驗(yàn),使您能夠在任何系統(tǒng)上運(yùn)用容器化的開發(fā)者環(huán)境創(chuàng)建最具創(chuàng)新力的應(yīng)用,并使用SDK管理器輕松升級DPU卡和移植您的運(yùn)行時(shí)應(yīng)用運(yùn)行在DPU 的 Arm核上。

發(fā)布了DOCA 1.1版本之后,NVIDIA還將繼續(xù)為DOCA庫、驅(qū)動程序和服務(wù)添加應(yīng)用實(shí)例,助力于廣泛的網(wǎng)絡(luò)、存儲、安全和基礎(chǔ)設(shè)施管理用例等應(yīng)用的開發(fā)。

此外,NVIDIA還將與其生態(tài)系統(tǒng)伙伴合作,提供聯(lián)合解決方案以不斷地推動這一強(qiáng)勁勢頭,首個(gè)解決方案即將面世。這個(gè)由DOCA/DPU合作伙伴和搶先體驗(yàn)開發(fā)者組成的生態(tài)系統(tǒng)正在迅速壯大,使客戶能夠接觸到行業(yè)領(lǐng)導(dǎo)者一流的網(wǎng)絡(luò)、安全和存儲解決方案。

關(guān)于作者

Scott Ciccone 于 2020 年作為 Cumulus Networks 收購的一部分加入后,目前擔(dān)任 NVIDIA 的產(chǎn)品營銷總監(jiān)。 Scott 在產(chǎn)品營銷和產(chǎn)品管理方面擁有 20 多年的經(jīng)驗(yàn),擅長在高增長環(huán)境下啟動新的業(yè)務(wù)線,包括 Cumulus Networks , Palo Alto Networks 、 Cisco 和 Sun Microsystems 。斯科特在羅切斯特理工學(xué)院獲得生物醫(yī)學(xué)計(jì)算學(xué)士學(xué)位,在巴布森學(xué)院獲得市場營銷工商管理碩士學(xué)位。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19348

    瀏覽量

    230244
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5021

    瀏覽量

    103250
收藏 人收藏

    評論

    相關(guān)推薦

    NVIDIA BlueField-3 DPU運(yùn)行WEKA客戶端的實(shí)際優(yōu)勢

    WEKA是可擴(kuò)展軟件定義數(shù)據(jù)平臺的先驅(qū),NVIDIA 正在與其合作,將 WEKA 先進(jìn)的數(shù)據(jù)平臺解決方案與功能強(qiáng)大的NVIDIA BlueField DPU相結(jié)合。
    的頭像 發(fā)表于 01-07 09:43 ?111次閱讀
    在<b class='flag-5'>NVIDIA</b> BlueField-3 <b class='flag-5'>DPU</b><b class='flag-5'>上</b>運(yùn)行WEKA客戶端的實(shí)際優(yōu)勢

    請問ISO7760能應(yīng)用在USB3.0數(shù)據(jù)隔離嗎?

    請問ISO7760能應(yīng)用在USB3.0數(shù)據(jù)隔離嗎? USB3.0的最大傳輸帶寬高達(dá)5.0Gbps而ISO7760手冊顯示是100Mbps數(shù)據(jù)速率兩者的bps單位一樣,疑惑的是傳輸帶寬和傳輸速率! 請問有那位朋友將ISO77
    發(fā)表于 12-04 08:01

    NVIDIA DOCA 2.9版本的亮點(diǎn)解析

    NVIDIA DOCA通過為開發(fā)者提供全面的軟件框架以利用硬件加速來增強(qiáng) NVIDIA 網(wǎng)絡(luò)平臺的功能,從而提高性能、安全性和效率。其 AP
    的頭像 發(fā)表于 11-27 11:15 ?345次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.9版本的亮點(diǎn)解析

    使用NVIDIA AI平臺確保醫(yī)療數(shù)據(jù)安全

    三井物產(chǎn)株式會社子公司借助 NVIDIA AI 平臺實(shí)現(xiàn)數(shù)據(jù)集的安全共享并使用在這些數(shù)據(jù)集建立的強(qiáng)大模型加速藥物研發(fā)。
    的頭像 發(fā)表于 11-20 09:37 ?196次閱讀

    日本企業(yè)借助NVIDIA產(chǎn)品加速AI創(chuàng)新

    日本領(lǐng)先企業(yè)和大學(xué)正在使用 NVIDIA NeMo、NIM 微服務(wù)和 NVIDIA Isaac 加速 AI 創(chuàng)新。
    的頭像 發(fā)表于 11-19 14:34 ?333次閱讀

    NVIDIA DOCA-OFED的主要特性

    NVIDIA DOCA 軟件平臺釋放了 NVIDIA BlueField 網(wǎng)絡(luò)平臺的潛力,并為NVIDIA BlueField和ConnectX設(shè)備提供了所需的所有主機(jī)驅(qū)動程序。
    的頭像 發(fā)表于 11-09 13:50 ?289次閱讀

    NVIDIA生成式AI進(jìn)入ROS社區(qū)

    NVIDIA 在 ROSCon 發(fā)布更新,旨在加速 AI 驅(qū)動的機(jī)械臂和自主移動機(jī)器人的開發(fā)
    的頭像 發(fā)表于 10-31 14:41 ?289次閱讀

    差動放大器通常是應(yīng)用在什么場合?

    請問下差動放大器通常是應(yīng)用在什么場合?
    發(fā)表于 09-19 06:35

    借助OpenUSD和NVIDIA Omniverse開發(fā)數(shù)字孿生應(yīng)用

    為了滿足制造業(yè)和其他行業(yè)的數(shù)字化轉(zhuǎn)型需求,致力于開發(fā)生產(chǎn)、內(nèi)部物流和裝配優(yōu)化軟件的公司 SyncTwin GmbH 通過使用用于解決復(fù)雜路線規(guī)劃問題的加速優(yōu)化引擎NVIDIA cuOpt和由應(yīng)用編程
    的頭像 發(fā)表于 09-06 14:18 ?410次閱讀

    IB Verbs和NVIDIA DOCA GPUNetIO性能測試

    NVIDIA DOCA GPUNetIO 是 NVIDIA DOCA SDK 中的一個(gè)庫,專門為實(shí)時(shí)在線 GPU 數(shù)據(jù)包處理而設(shè)計(jì)。它結(jié)合了 GPUDirect RDMA 和 GPUD
    的頭像 發(fā)表于 08-23 17:03 ?643次閱讀
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能測試

    求助,請問TLV2464cpwr通用運(yùn)放有應(yīng)用在audio的典型電路嗎?

    TLV2464cpwr通用運(yùn)放有應(yīng)用在audio的典型電路嗎?
    發(fā)表于 08-08 08:20

    借助NVIDIA DOCA 2.7增強(qiáng)AI 云數(shù)據(jù)中心和NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架為開發(fā)者提供了豐富的庫、驅(qū)動和 API,以便為 NVIDIA BlueField
    的頭像 發(fā)表于 05-29 09:22 ?510次閱讀

    NVIDIA DPU編程入門開課儀式在澳門科技大學(xué)成功舉辦

    5 月 24 日,NVIDIA DPU 編程入門開課儀式在澳門科技大學(xué)成功舉辦。作為首個(gè)在中國開設(shè) NVIDIA DPU 編程相關(guān)課程的高校,來自澳門科技大學(xué)不同院系的師生共同見證了本
    的頭像 發(fā)表于 05-28 09:40 ?409次閱讀

    MathWorks 與 NVIDIA 聯(lián)手加速醫(yī)療技術(shù)領(lǐng)域中軟件定義工作流的開發(fā)

    到 GPU?加速NVIDIA Holoscan?算子中以進(jìn)行實(shí)時(shí)數(shù)據(jù)處理和推斷,從而加速流數(shù)據(jù)分析和可視化應(yīng)用程序的開發(fā)與部署。 醫(yī)療設(shè)備工程師不僅要適應(yīng)復(fù)雜且不斷發(fā)展的全球法規(guī),
    的頭像 發(fā)表于 05-17 10:36 ?377次閱讀
    MathWorks 與 <b class='flag-5'>NVIDIA</b> 聯(lián)手<b class='flag-5'>加速</b>醫(yī)療技術(shù)領(lǐng)域中軟件定義工作流的<b class='flag-5'>開發(fā)</b>

    基于NVIDIA DOCA 2.6實(shí)現(xiàn)高性能和安全的AI云設(shè)計(jì)

    作為專為 NVIDIA? BlueField? 網(wǎng)絡(luò)平臺而設(shè)計(jì)的數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件框架,NVIDIA? DOCA? 使廣大開發(fā)者能夠利用其行業(yè)標(biāo)準(zhǔn) API 在
    的頭像 發(fā)表于 02-23 10:02 ?485次閱讀