CPU、GPU和DPU區(qū)別 DPU到底進行什么樣的數(shù)據(jù)處理？

究竟什么是 DPU ？它和我們熟悉的 CPU 、 GPU 有什么區(qū)別？

?什么是 DPU？

? DPU 的英文全稱叫做 Data Processing Unit ，也就是數(shù)據(jù)處理器。 ? ? ? ?

英偉達首席執(zhí)行官黃仁勛曾在演講中表示：“ DPU 將成為未來計算的三大支柱之一，未來的數(shù)據(jù)中心標配是‘ CPU + DPU + GPU ’。CPU 用于通用計算， GPU 用于加速計算， DPU 則進行數(shù)據(jù)處理。” ? 聽著有點暈， DPU 到底進行什么樣的數(shù)據(jù)處理？有了 CPU 和 GPU ，為啥還要 DPU ？ ? 眾所周知，自從計算機誕生以來，就是采用的著名的馮諾依曼架構。 ?

馮諾依曼架構 ?

? 這是一個以計算和存儲為核心的架構， CPU 作為處理器單元，負責完成各種算術和邏輯計算。而內存（運存）和硬盤（外部存儲），負責存儲數(shù)據(jù)，與 CPU 交互。 ? 除了 CPU 、內存和硬盤之外，就是鍵盤、顯示器這樣的輸入和輸出設備。隨著時間的推移，后來，我們有了鼠標，又有了顯卡、網卡。最終，形成了現(xiàn)在大家看到的電腦的基本構造。 ? 有了顯卡，就有了 GPU（Graphics Processing Unit），圖形處理器。大家都玩過游戲，很明白，正是游戲、 3D 設計等多媒體圖形軟件的高速發(fā)展，要處理的工作量越來越大，也越來越復雜， CPU 實在忙不過來，所以就有了專門進行圖像和圖形相關運算工作的 GPU ，分擔 CPU 的壓力。 ? DPU 的出現(xiàn)，道理也是一樣的。同樣是因為 CPU 難以負擔一些復雜的計算，所以需要進行任務分工。 ?

DPU 到底算些什么？

? 好了，終于到了關鍵點了。說了半天， DPU 到底分擔了 CPU 的哪些工作呢？ ? 說實話，想要從技術上解釋 DPU 分擔的工作內容，稍微有點困難，不容易看懂。但是，我們可以從工作場景上進行解釋。 ? 大致來看， DPU 分擔的工作可以歸納為四個關鍵詞，分別是虛擬化、網絡、存儲以及安全。??

　　特別需要提醒大家， DPU 是一個緊密圍繞數(shù)據(jù)中心的概念。也就是說，它主要用于數(shù)據(jù)中心這種大規(guī)模算力場景，而非我們每個人的臺式機、筆記本電腦或手機（至少目前不是）。 DPU 服務于云計算，主要作用是提升數(shù)據(jù)中心等算力基礎設施的效率，減少能耗浪費，進而降低成本。 前面提到的虛擬化、網絡、存儲以及安全，是數(shù)據(jù)中心非常重要的工作，也是大量消耗算力資源的工作。

　　以網絡為例。 在數(shù)據(jù)中心里，時時刻刻都有大量的數(shù)據(jù)在進行傳輸。主機在收發(fā)數(shù)據(jù)時，需要進行海量的?絡協(xié)議處理。根據(jù)傳統(tǒng)的計算架構，這些協(xié)議處理都是由 CPU 完成的。 有人統(tǒng)計過，想要線速處理 10G 的?絡，需要的?約4個 Xeon CPU 的核。也就是說，僅僅是進行?絡數(shù)據(jù)包的處理，就要占用?個8核?端CPU?半的算??，F(xiàn)在數(shù)據(jù)中心網絡不斷升級，從 10G 到 40G 、 100G ，甚至 400G ?速?絡，這些性能開銷如何承受？ 這些開銷如此之大，以至于被稱為“ Datacenter Tax（數(shù)據(jù)中心稅）”。

　　業(yè)務程序尚未運行，僅是接入網絡數(shù)據(jù)，就消耗了這么多算力資源，這是無法忍受的。所以，就有公司提出了 SmartNIC （智能網卡）的概念，將網絡協(xié)議處理的工作從 CPU “卸載”到網卡上，以此分擔 CPU 的負載。

　　2015年，云計算廠商 AWS 率先開始探索這種 SmartNIC 模式。他們收購了芯片廠商 Annapurna Labs ，并于2017年正式推出 Nitro 系統(tǒng)。同年，阿里云也官宣了有類似功能的神龍（ X-Dragon ）架構。 2019年3月，英偉達花費69億美元收購了以色列芯片公司 Mellanox 。英偉達將 Mellanox 的 ConnectX 系列高速網卡技術與自己的已有技術相結合，于2020年正式推出了兩款 DPU 產品：BlueField-2 DPU 和 BlueField-2X DPU 。

　　從此， DPU 這個概念正式進入了公眾視野。2020年，也被稱為 DPU 元年。 正因為 DPU 和 SmartNIC 有這樣的淵源，所以，人們普遍將 DPU 視為 SmartNIC 的擴展升級版。 DPU 在 SmartNIC 的基礎上，將存儲、安全和虛擬化等工作負載也從 CPU 卸載到自己身上。

　　上世紀90年代末，以 VMWare 為代表的虛擬化技術剛剛出現(xiàn)的時候，完全是由軟件進行模擬線的，缺乏硬件的支持，所以，性能很差，幾乎難以使用。

　　后來，2005年，隨著技術的演進， CPU 和內存的硬件虛擬化問題逐漸解決，才讓虛擬化系統(tǒng)的性能有了大幅的提升，也激活了這項技術的發(fā)展前景和價值。眾所周知，我們現(xiàn)在的整個云計算架構，都是基于虛擬化技術發(fā)展起來的。 虛擬化技術發(fā)展的過程，是硬件能力不斷取代軟件能力的過程。前面我們提到 AWS 發(fā)布 Nitro 系統(tǒng)。這個系統(tǒng)除了 SmartNIC 之外，也完成了 I/O 的硬件虛擬化。它還將虛擬化管理程序 Hypervisior 從 CPU 卸載到專用硬件上。這樣做帶來的結果就是，虛擬化技術的性能損耗趨近于零， CPU 的負擔進一步下降。 存儲也是如此。 現(xiàn)在數(shù)據(jù)中心對存儲讀取和寫入的速率要求很高。SSD 價格逐漸下降后，將 SSD 通過本地 PCIe 或高速網絡與系統(tǒng)相連接，成為了一種主流的技術路線。針對分布式系統(tǒng)，在以往 InfiniBand 、 FC（Fiber Channel，光纖通道）、 Ethernet 的基礎上， RDMA（Remote Direct Memory Access，遠程直接數(shù)據(jù)存取）技術開始流行。

? ? 在 RDMA 模式中，應用程序的數(shù)據(jù)，不再經過 CPU 和復雜的操作系統(tǒng)，直接和網卡通信。這就意味著， DPU 可以承擔存儲相關的高速接口標準協(xié)議處理，進一步為 CPU 分擔壓力。 ? 最后再看看安全。 ? 在目前越來越嚴峻的安全形勢下，為了確保網絡和系統(tǒng)的安全可靠，引入了大量的加密算法。以往，這些算法都是由 CPU 負責完成加密和解密的。 ? 但事實上，網絡接口才是最理想的隱私邊界。在網絡接口上進行加密和解密，才是最合理的。所以，像國密標準的非對稱加密算法 SM2 、哈希算法 SM3 和對稱分組密碼算法 SM4 等，其實都可以交給 DPU 進行計算。未來，區(qū)塊鏈技術成熟應用后，相關算法也是可以從 CPU 卸載到 DPU 進行的。 ? 綜上所述，大家應該也看明白了， DPU 的作用本質，就是卸載、加速和隔離——把 CPU 的部分工作卸載到自己身上；利用自己的算力特長，對這些工作進行加速運算；整個過程，實現(xiàn)了計算的隔離。 ? ?

DPU 的未來前景

? DPU 是一個新型可編程多核處理器，是一塊 SoC（System On Chip）芯片。它符合行業(yè)標準，具有很高的算力，還具備高性能的網絡接口，能高速解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)?CPU 和 GPU 。 ? DPU 和 CPU 的最大不同，是 CPU 擅長通用性計算任務（什么任務都能接，比較“雜”），而 DPU 更擅長基礎層應用任務（做特定的任務，比較“專注”），例如網絡協(xié)議處理，交換路由計算，加密解密，數(shù)據(jù)壓縮等“臟活累活”。 ? 所以說， DPU 是 CPU 的一個好幫手，將與 CPU 、 GPU 形成“鐵三角”，徹底顛覆數(shù)據(jù)中心的運算模式。 ? ? ? 這就是為什么 DPU 如今備受關注的原因。 ? 正如本文開頭所說， DPU 目前的火爆程度，已經不能用詞語來形容。資本對于 DPU 的熱情，更是令人印象深刻。不管是巨頭還是初創(chuàng)公司，都紛紛入局 DPU 賽道。DPU 的市場仍在升溫，發(fā)展前景可期。?

結語

根據(jù)預測，到2025年， DPU 全球市場容量預計將達到120億美金。 ? 隨著摩爾定律逐漸進入瓶頸，為了更高效地利用算力資源，我們需要大力發(fā)展 DPU ，讓 CPU 、 GPU 、 DPU 進行合理分工，各自更加專注于自己擅長的工作。這樣，我們才能將數(shù)據(jù)中心的能效發(fā)揮到最大，為整個社會的數(shù)字化轉型提供強勁且綠色的動力。??

編輯：黃飛

?