0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何構(gòu)建基于DPU的SmartNIC

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:Kevin Deierling ? 2022-04-19 15:51 ? 次閱讀

每個人都在談?wù)摶跀?shù)據(jù)處理單元的智能網(wǎng)卡,但沒有回答一個簡單的問題:什么是智能網(wǎng)卡,它們做什么?

NIC 代表網(wǎng)絡(luò)接口卡。實際上, NIC 是一種插入服務(wù)器或存儲盒以連接到以太網(wǎng)網(wǎng)絡(luò)的 PCIe 卡。基于 DPU 的 SmartNIC 超越了簡單的連接,在基礎(chǔ) NIC 的情況下,在 NIC 上實現(xiàn)了 CPU 必須執(zhí)行的網(wǎng)絡(luò)流量處理。

一些供應(yīng)商對基于 DPU 的 SmartNIC 的定義完全集中在實現(xiàn)上。這是有問題的,因為不同的供應(yīng)商有不同的體系結(jié)構(gòu)。因此,基于 DPU 的 SmartNIC 可以是基于 ASIC 、 FPGA 和片上系統(tǒng)的。當(dāng)然,只生產(chǎn)一種 NIC 的供應(yīng)商堅持認為,只有其類型的 NIC 才有資格成為 SmartNIC 。

基于 ASIC 的網(wǎng)卡

優(yōu)異的性價比

供應(yīng)商開發(fā)成本高

編程和可擴展

靈活性僅限于預(yù)定義的功能

基于 FPGA 的 NICs

性能好但價格昂貴

難以編程

特定于工作負載的優(yōu)化

基于 SoC 的 NIC + CPU

良好的性價比

C 可編程處理器

最高靈活性

最簡單的可編程性

在這些不同的實現(xiàn)之間,在成本、編程的易用性和靈活性方面存在各種權(quán)衡。 ASIC 具有成本效益,可能提供最佳性價比,但靈活性有限?;?ASIC 的 NIC ,如 NVIDIA ConnectX-5,可以具有相對簡單的可編程數(shù)據(jù)路徑。最終,該功能基于 ASIC 中定義的功能而受到限制。這可能會阻止支持某些工作負載。

相比之下, FPGA NIC (如 NVIDIA Innova-2 Flex)具有高度可編程性。只要有足夠的時間和精力,就可以在可用門的約束范圍內(nèi)相對高效地支持幾乎任何功能。然而,眾所周知, FPGA 編程困難且價格昂貴。

對于更復(fù)雜的用例, SOC (如 Mellanox BlueField DPU – 可編程智能網(wǎng)卡)提供了似乎是最好的基于 DPU 的 SmartNIC 實現(xiàn)選項:良好的性價比、易于編程和高度靈活。

圖 1 SmartNIC 實現(xiàn)比較

專注于特定供應(yīng)商如何實現(xiàn)基于 DPU 的 SmartNIC ,并沒有說明它能夠?qū)崿F(xiàn)什么或應(yīng)該如何構(gòu)建。 NVIDIA 實際上有基于這些架構(gòu)的產(chǎn)品,這些架構(gòu)可以歸類為基于 DPU 的 SmartNIC 。事實上,客戶根據(jù)自己的需要,將這些產(chǎn)品用于不同的工作負載。因此,將重點放在實現(xiàn) ASIC 、 FPGA 和 SoC 上,顛覆了最佳體系結(jié)構(gòu)成就背后的“形式遵循功能”理念。

我沒有把重點放在實現(xiàn)上,而是對PC 雜志百科全書條目進行了調(diào)整,給出了一個使 NIC 成為基于 DPU 的 SmartNIC 的工作定義:

基于 DPU 的 SmartNIC :

一種基于 DPU 的網(wǎng)絡(luò)接口卡(網(wǎng)絡(luò)適配器),用于卸載系統(tǒng) CPU 通常會處理的處理任務(wù)。使用自己的板載處理器,基于 DPU 的 SmartNIC 可以執(zhí)行加密/解密、防火墻、 TCP / IP 和 HTTP 處理的任意組合。 SmartNIC 非常適合高流量 web 服務(wù)器。

這個定義有兩點我喜歡。首先,它關(guān)注的是功能而不是形式。其次,它用語句提示這種形式,“…使用自己的板載處理器…執(zhí)行任何組合的…”網(wǎng)絡(luò)處理任務(wù)。因此,嵌入式處理器是實現(xiàn)靈活執(zhí)行幾乎任何網(wǎng)絡(luò)功能的關(guān)鍵。

您可以通過添加基于 DPU 的智能網(wǎng)卡或許也能執(zhí)行網(wǎng)絡(luò)、存儲或 GPU 虛擬化來現(xiàn)代化該定義。此外, SmartNIC 還非常適合電信、安全、機器學(xué)習(xí)、軟件定義存儲和超聚合基礎(chǔ)設(shè)施服務(wù)器,而不僅僅是 web 服務(wù)器。

NIC 類別

以下是如何通過網(wǎng)絡(luò)適配器可以支持并用于加速不同工作負載的功能來區(qū)分三類 NIC :

圖 2 NIC 類別的功能比較

在這里,我根據(jù) NIC 加速特定功能的能力定義了三類 NIC :

基礎(chǔ) NIC

智能網(wǎng)卡( iNIC )

基于 DPU 的 SmartNIC

基礎(chǔ) NIC 或基本 NIC 只是移動網(wǎng)絡(luò)流量,除了可能的 SRIOV 和基本 TCP 加速之外,很少或沒有卸載。它不保存任何 CPU 周期,也不能卸載數(shù)據(jù)包控制或流量流。在 NVIDIA ,我們甚至不再銷售基礎(chǔ) NIC 。

NVIDIA ConnectX 適配器系列具有可編程數(shù)據(jù)路徑,并加速了一系列功能,這些功能最初在公共云使用案例中變得非常重要。出于這個原因,我將這種類型的 NIC 定義為 iNIC ,盡管今天本地企業(yè)、電信和私有云與公共云提供商一樣需要這種類型的可編程性和加速功能。它的另一個名字可能是沒有資本的智能

在許多情況下,客戶告訴我們,他們需要競爭對手提供的基于 DPU 的 SmartNIC 功能,這些功能可以是 FPGA ,也可以是結(jié)合定制專有處理引擎的 NIC 。但是,當(dāng)客戶真正了解其特定工作負載所需的功能時,他們最終會決定, ConnectX 系列 iNICs 提供了其他所謂 SmartNIC 的所有功能、性能和靈活性,而功耗和成本僅為后者的一小部分。因此,根據(jù)一些競爭對手使用的 SmartNIC 的定義,我們的 ConnectX NIC 確實是 SmartNIC ,盡管我們 MIG 稱之為智能 NIC 或更智能的 NIC 。我們的 FPGA NIC ( Innova )也是經(jīng)典意義上的 SmartNIC ,我們的 SoC NIC (使用 BlueField )是 SmartNIC 中最智能的,我們可以稱之為 Genius NIC

那么,什么是 SmartNIC ?基于 DPU 的 SmartNIC 是一種網(wǎng)絡(luò)適配器,可加速功能并將其從服務(wù)器(或存儲) CPU 中卸載。

您應(yīng)該如何構(gòu)建基于 DPU 的 SmartNIC ,以及哪種 SmartNIC 對于每個工作負載來說是最好的……好吧,問題在于細節(jié)。深入了解哪些數(shù)據(jù)路徑和虛擬化加速可用以及如何使用它們非常重要。

關(guān)于作者

Kevin Deierling 從 2013 年 3 月開始擔(dān)任 Mellanox 的營銷副總裁。此前,他曾擔(dān)任 Genia Technologies 的技術(shù)副總裁、 Silver Spring Networks 的首席架構(gòu)師,并在 Spans Logic 負責(zé)營銷和業(yè)務(wù)開發(fā)

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4986

    瀏覽量

    103067
  • 適配器
    +關(guān)注

    關(guān)注

    8

    文章

    1952

    瀏覽量

    68029
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    9160

    瀏覽量

    85428
收藏 人收藏

    評論

    相關(guān)推薦

    基于DPUSmartNIC的K8s Service解決方案

    1.? 方案背景 1.1. Kubernetes Service介紹 Kubernetes Service是Kubernetes中的一個核心概念,它定義了一種抽象,用于表示一組提供相同功能的Pods(容器組)的邏輯集合,并提供了一種方式讓這些Pods能夠被系統(tǒng)內(nèi)的其他組件發(fā)現(xiàn)并訪問。簡單來說,Service提供了一種讓客戶端能夠穩(wěn)定地連接到后端Pods的機制,即使這些Pods會動態(tài)地創(chuàng)建、銷毀或遷移。 Kubernetes Service主要特性和用途 服務(wù)發(fā)現(xiàn): Service允許客戶端(如Pods中的應(yīng)用程序)通過穩(wěn)定的IP地址和端口號訪問后端
    的頭像 發(fā)表于 09-02 17:01 ?935次閱讀
    基于<b class='flag-5'>DPU</b>與<b class='flag-5'>SmartNIC</b>的K8s Service解決方案

    中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實際應(yīng)用

    CCF Chip 2024,精彩不能停!7月21日下午,中科馭數(shù)在第二屆中國計算機學(xué)會(CCF)芯片大會的“馭數(shù)專屬時刻”仍在繼續(xù),馭數(shù)組織承辦“DPU技術(shù)趨勢和應(yīng)用——DPU在云原生與智算網(wǎng)絡(luò)中
    的頭像 發(fā)表于 08-02 11:21 ?710次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    數(shù)據(jù)中心的第三顆“主力芯片”,主要通過其專用處理器優(yōu)化數(shù)據(jù)中心的網(wǎng)絡(luò)、存儲、安全等處理性能,助力服務(wù)器運行效率顯著提升,有效降低成本。因此,在新型數(shù)據(jù)中心建設(shè)時,圍繞 DPU 構(gòu)建數(shù)據(jù)中心網(wǎng)絡(luò)的基礎(chǔ)設(shè)施
    發(fā)表于 07-24 15:32

    基于DPUSmartNic的云原生SDN解決方案

    隨著云計算,大數(shù)據(jù)和人工智能等技術(shù)的蓬勃發(fā)展,數(shù)據(jù)中心面臨著前所未有的數(shù)據(jù)洪流和計算壓力,這對SDN提出了更高的性能和效率要求。自云原生概念被提出以來,Kubernetes為云原生應(yīng)用的落地提供了一個輕量級,可移植的運行環(huán)境,逐漸成為云原生時代基礎(chǔ)設(shè)施的事實標準。Kubernetes通過網(wǎng)絡(luò)插件(CNI,Container Network Interface)實現(xiàn)靈活地配置和管理集群中的容器網(wǎng)絡(luò),確保容器之間的有效通信和網(wǎng)絡(luò)安全。
    的頭像 發(fā)表于 07-22 11:44 ?700次閱讀
    基于<b class='flag-5'>DPU</b>與<b class='flag-5'>SmartNic</b>的云原生SDN解決方案

    中科馭數(shù):DPU構(gòu)建高效智算中心基礎(chǔ)設(shè)施的必選項

    先生在《基于DPU的高效智算中心算力底座》主題分享中提出,大模型等智算業(yè)務(wù)推動算力需求規(guī)??焖僭鲩L,CPU+GPU+DPU的新型計算節(jié)點架構(gòu)已成為高效智算中心的標準配置,為構(gòu)建高性能、高靈活性、高安全性的算力基礎(chǔ)設(shè)施提供了強大支
    的頭像 發(fā)表于 07-08 10:51 ?709次閱讀

    中科馭數(shù)CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視DPU的核心價值

    在信息技術(shù)日新月異的浪潮中,DPU正逐漸嶄露頭角。當(dāng)前,DPU發(fā)展的核心驅(qū)動力來自于什么?DPU技術(shù)是否已經(jīng)足夠成熟到廣泛應(yīng)用?市場上頭部玩家參與到這一創(chuàng)新技術(shù)的市場角逐之中?在算力時代,DP
    的頭像 發(fā)表于 06-28 14:27 ?483次閱讀
    中科馭數(shù)CEO鄢貴海:從計算系統(tǒng)的三個視角重新審視<b class='flag-5'>DPU</b>的核心價值

    芯片軟件全上陣 DPU“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會

    6月19日,中科馭數(shù)2024產(chǎn)品發(fā)布會在北京中關(guān)村展示中心正式舉辦。聚焦自研DPU核心技術(shù),中科馭數(shù)重磅發(fā)布最新一代DPU芯片K2 Pro、軟件開發(fā)平臺HADOS、以及一系列針對數(shù)據(jù)中心基礎(chǔ)設(shè)施層
    的頭像 發(fā)表于 06-23 11:09 ?854次閱讀
    芯片軟件全上陣 <b class='flag-5'>DPU</b>“全家桶”來了!中科馭數(shù)成功舉辦2024產(chǎn)品發(fā)布會

    中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布,成功研發(fā)并發(fā)布了其第三代DPU芯片——“K2-Pro”。這款芯片的發(fā)布,標志著中科馭數(shù)在DPU領(lǐng)域的技術(shù)實力達到了新的高度。
    的頭像 發(fā)表于 06-21 11:41 ?779次閱讀

    基于芯啟源NFP3800DPU芯片的深信服安全加速卡XSX40FNN網(wǎng)卡

    近日,國內(nèi)DPU領(lǐng)域的領(lǐng)軍企業(yè)芯啟源宣布,基于芯啟源NFP3800DPU芯片定制的深信服安全加速卡XSX40FNN網(wǎng)卡已成功應(yīng)用于其防火墻產(chǎn)品,并已批量推向市場。
    的頭像 發(fā)表于 05-29 14:06 ?956次閱讀
    基于芯啟源NFP3800<b class='flag-5'>DPU</b>芯片的深信服安全加速卡XSX40FNN網(wǎng)卡

    NVIDIA DPU編程入門開課儀式在澳門科技大學(xué)成功舉辦

    5 月 24 日,NVIDIA DPU 編程入門開課儀式在澳門科技大學(xué)成功舉辦。作為首個在中國開設(shè) NVIDIA DPU 編程相關(guān)課程的高校,來自澳門科技大學(xué)不同院系的師生共同見證了本次儀式。
    的頭像 發(fā)表于 05-28 09:40 ?397次閱讀

    Nvidia的AI芯片路線圖分析與解讀

    SmartNIC智能網(wǎng)卡/DPU數(shù)據(jù)處理引擎的下一跳ConnectX-8/BlueField-4目標速率為 800G,與1.6T Quantum和Spectrum-X配套的SmartNICD
    發(fā)表于 04-29 09:59 ?1004次閱讀
    Nvidia的AI芯片路線圖分析與解讀

    DPU技術(shù)賦能下一代AI算力基礎(chǔ)設(shè)施

    4月19日,在以“重構(gòu)世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數(shù)作為DPU新型算力基礎(chǔ)設(shè)施代表,受邀出席了中國智算中心創(chuàng)新論壇,發(fā)表了題為《以網(wǎng)絡(luò)為中心的AI算力底座構(gòu)建之路》主題演講,勾勒出在通往AGI之路上,DP
    的頭像 發(fā)表于 04-20 11:31 ?854次閱讀

    明天線上見!DPU構(gòu)建高性能云算力底座——DPU技術(shù)開放日最新議程公布!

    技術(shù)在不同行業(yè)中的應(yīng)用解決方案有哪些?能帶來怎樣的業(yè)務(wù)效果? 3月29日本周五,中科馭數(shù)集結(jié)產(chǎn)品大咖及解決方案專家團,誠邀您參加以“DPU構(gòu)建高性能云算力底座”為主題的線上DPU技術(shù)開放日! 他們將逐一與您分享中科馭數(shù)系列
    的頭像 發(fā)表于 04-03 18:12 ?1005次閱讀

    中科馭數(shù)DPU技術(shù)開放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時網(wǎng)絡(luò)等方案組團亮相

    DPU技術(shù)開放日既是對DPU技術(shù)應(yīng)用的典型方案展示,也是DPU技術(shù)在重要細分場景走向成熟的標志。
    的頭像 發(fā)表于 04-01 11:48 ?789次閱讀
    中科馭數(shù)<b class='flag-5'>DPU</b>技術(shù)開放日秀“肌肉”:云原生網(wǎng)絡(luò)、RDMA、安全加速、低延時網(wǎng)絡(luò)等方案組團亮相

    FPGA-Based DPU網(wǎng)卡的發(fā)展和應(yīng)用

    采用單芯片的SoC形態(tài),兼顧性能和功耗。FPGA-Based DPU在硬件設(shè)計上的挑戰(zhàn)主要來自芯片面積和功耗。
    發(fā)表于 02-23 14:40 ?2083次閱讀
    FPGA-Based <b class='flag-5'>DPU</b>網(wǎng)卡的發(fā)展和應(yīng)用