數(shù)據(jù)處理單元DPU能夠處理GPU做不了的任務(wù)嗎？

很長一段時間以來，中央處理器（CPU）和圖形處理單元（GPU）一直“統(tǒng)治”著數(shù)據(jù)中心。然而，近幾年，數(shù)據(jù)處理單元（DPU）越來越多地出現(xiàn)在大家面前，并號稱性能更強(qiáng)大、更專用、更異構(gòu)，能夠處理CPU做不好，GPU做不了的任務(wù)，那事實究竟如何，一起看下去吧。

CPU

CPU—— Central Processing Unit, 中央處理器，CPU之于計算機(jī)、服務(wù)器，也就相當(dāng)于大腦對于人類的作用。

計算、控制、存儲是CPU“大腦”布局謀略、發(fā)號施令、控制行動的主要表現(xiàn)形式。

CPU 是對計算機(jī)的所有硬件資源（如存儲器、輸入輸出單元） 進(jìn)行控制調(diào)配、執(zhí)行通用運算的核心硬件單元，是計算機(jī)的運算和控制核心。

CPU主要包括了運算器（ALU, Arithmetic and Logic Unit）、控制單元（CU, Control Unit）、寄存器（Register）、高速緩存器（Cache）和它們之間通訊的數(shù)據(jù)、控制及狀態(tài)的總線。

總的來說也就是計算單元、控制單元和存儲單元。



| CPU微架構(gòu)示意圖，來源：網(wǎng)絡(luò)

#

控制單元

控制單元是整個CPU的指揮控制中心，由指令寄存器IR(Instruction Register)、指令譯碼器ID(Instruction Decoder)和操作控制器OC(Operation Controller)等構(gòu)成，主要是對指令譯碼，并且發(fā)出為完成每條指令所要執(zhí)行的各個操作的控制信號。

#

計算單元

計算單元在CPU中很重要，主要負(fù)責(zé)算術(shù)和邏輯運算。相對控制單元而言，運算器接受控制單元的命令而進(jìn)行動作，即運算單元所進(jìn)行的全部操作都是由控制單元發(fā)出的控制信號來指揮的。

#

存儲單元

存儲單元包括CPU片內(nèi)緩存和寄存器組，是CPU中暫時存放數(shù)據(jù)的地方，里面保存著那些等待處理的數(shù)據(jù)，或已經(jīng)處理過的數(shù)據(jù)，CPU訪問寄存器所用的時間要比訪問內(nèi)存的時間短。采用寄存器可以減少CPU訪問內(nèi)存的次數(shù)，從而提高了CPU的工作速度。但因為受到芯片面積和集成度所限，寄存器組的容量不可能很大。

相對于控制單元和存儲單元，CPU的計算單元在整個結(jié)構(gòu)中占比較少，故而相對于大規(guī)模并行計算能力，CPU更擅長于邏輯控制、串行運算。

下圖展示了一個基礎(chǔ)的CPU架構(gòu)。以個人電腦的CPU為例，CPU 往往與內(nèi)存 (RAM)、硬盤驅(qū)動器和 NIC（網(wǎng)絡(luò)接口控制器）相連，如果你想要打游戲或者處理圖像/視頻，那就需要添加GPU；如果想要更快地訪問內(nèi)存，那可以選擇添加 SSD。



| CPU架構(gòu)，來源：StatusNeo

普通個人電腦中的 CPU往往在4到8核，頻率在2到3GHz。數(shù)據(jù)中心的 CPU 往往有更多的核心和更高的時鐘速度。CPU 的核心較少但功能強(qiáng)大，而GPU可以有很多核心，但在時鐘速度方面的能力更弱。

GPU

GPU——Graphics Processing Unit，圖形處理器，跟它的名字一樣，GPU最初是用在個人電腦、游戲機(jī)和一些移動設(shè)備上運行繪圖運算工作的微處理器。

理解 GPU 和 CPU 之間區(qū)別的一種簡單方式是比較它們?nèi)绾翁幚砣蝿?wù)。

CPU 由專為順序串行處理而優(yōu)化的幾個核心組成，而 GPU 則擁有一個由數(shù)以千計的更小、更高效的核心組成的大規(guī)模并行計算架構(gòu)。

GPU的構(gòu)成相對簡單，有數(shù)量眾多的計算單元和超長的流水線，特別適合處理大量的類型統(tǒng)一的數(shù)據(jù)。



| GPU微架構(gòu)示意圖，來源：網(wǎng)絡(luò)

當(dāng)涉及算術(shù)運算和邏輯運算等常規(guī)計算時，通常是CPU更快，但是當(dāng)涉及到大型矩陣乘法和并行算法時，GPU 排在第一位。GPU 擁有數(shù)千個內(nèi)核并行進(jìn)行運算，這些內(nèi)核的時鐘速度較低或內(nèi)核較弱，但在并行計算中效率很高，并且每個核心都有自己的 ALU。

不過GPU不能單獨工作，需要CPU的協(xié)同處理。

GPU的工作大部分計算量龐大，但沒什么技術(shù)含量，而且要重復(fù)很多很多次。當(dāng)CPU需要大量的處理類型統(tǒng)一的數(shù)據(jù)時，就可以調(diào)用GPU進(jìn)行并行計算。

盡管GPU叫圖形處理器，但它并不是只能處理圖像。

GPU雖然是為了圖像處理而生，但在結(jié)構(gòu)上并沒有專門為圖像服務(wù)的部件，只對CPU的結(jié)構(gòu)進(jìn)行了優(yōu)化與調(diào)整。

GPU基于大吞吐量設(shè)計，擁有更多的ALU，適合對密集數(shù)據(jù)進(jìn)行并行處理，擅長大規(guī)模并發(fā)計算，因此GPU也被應(yīng)用于深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和人工智能等需要大規(guī)模并發(fā)計算場景。

GPU可以被認(rèn)為是一種較通用的芯片。



| GPU架構(gòu)，來源：StatusNeo

FPGA

FPGA——Field Programmable Gate Array，現(xiàn)場可編程門陣列，本質(zhì)上它是一種硬件，可以根據(jù)用戶的需要進(jìn)行多次編程。

簡單地說，F(xiàn)PGA可以用來實現(xiàn)任何邏輯功能。與GPU或 ASIC（Application Specific Integrated Circuit，專用集成電路）不同，F(xiàn)PGA 芯片內(nèi)部的電路不是硬蝕刻的——它可以根據(jù)需要重新編程。這種能力使 FPGA 成為 ASIC 的絕佳替代品，不過ASIC 通常需要較長的開發(fā)時間和大量的設(shè)計和制造投資。



| FPGA架構(gòu)，來源：網(wǎng)絡(luò)

與 GPU 相比，F(xiàn)PGA 可以在需要低延遲的深度學(xué)習(xí)應(yīng)用中提供卓越的性能?？梢詫?FPGA 進(jìn)行微調(diào)，以平衡功率效率和性能要求。當(dāng)應(yīng)用程序需要低延遲和小批量時，F(xiàn)PGA 可以提供優(yōu)于 GPU 的性能優(yōu)勢。

DPU

DPU—— Data Processing Unit ，數(shù)據(jù)處理單元，DPU是面向數(shù)據(jù)中心的專用處理器。

在計算架構(gòu)中，CPU 具有多重職責(zé)，例如運行應(yīng)用程序、執(zhí)行計算，同時它還扮演著數(shù)據(jù)流量控制器的角色，在 GPU、存儲、FPGA和其他設(shè)備之間移動數(shù)據(jù)，因此 CPU 更加以計算為中心。

隨著數(shù)據(jù)中心建設(shè)、網(wǎng)絡(luò)帶寬和數(shù)據(jù)量急劇增長，由于CPU性能增長速度放緩，為了尋求效率更高的計算芯片，DPU由此產(chǎn)生。

DPU解決的是大流量網(wǎng)絡(luò)數(shù)據(jù)包處理占用CPU問題。

有人說，DPU正在取代CPU，建立以數(shù)據(jù)為中心的計算架構(gòu)。



| DPU架構(gòu)，來源：StatusNeo

CPU用于通用計算，GPU用于加速計算，而DPU則進(jìn)行數(shù)據(jù)處理。

DPU和CPU最大的區(qū)別是，CPU擅長一般的計算任務(wù)，而DPU更擅長基礎(chǔ)層應(yīng)用任務(wù)，比如網(wǎng)絡(luò)協(xié)議處理、交換路由計算、加密解密、數(shù)據(jù)壓縮等等。

簡單來說，CPU做不好，GPU做不了的那些任務(wù)，交給DPU就完事兒了。



DPU并非單一芯片，而是一塊SoC（System On Chip，片上系統(tǒng)）芯片，一個DPU一般包含一個CPU、NIC和可編程數(shù)據(jù)加速引擎。這使得 DPU 具有CPU的通用性和可編程性，同時專門針對網(wǎng)絡(luò)數(shù)據(jù)包、存儲請求或分析請求進(jìn)行高效處理。

一個高性能、軟件可編程的多核 CPU，通?；趶V泛使用的 Arm 架構(gòu)，與其他 SoC 組件緊密耦合。

一種高性能網(wǎng)絡(luò)接口，能夠解析、處理數(shù)據(jù)，并有效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。

一組豐富的靈活、可編程的加速引擎，可以卸載和提高人工智能和機(jī)器學(xué)習(xí)、零信任安全、網(wǎng)絡(luò)和存儲等應(yīng)用程序的性能。

DPU 可以是基于 ASIC 的、基于FPGA 的或基于SoC 的。由于以數(shù)據(jù)為中心的計算的使用增加，DPU 越來越多地用于數(shù)據(jù)中心、大數(shù)據(jù)、安全和人工智能/機(jī)器學(xué)習(xí)/深度學(xué)習(xí)等場景。

如果說CPU是計算生態(tài)的底座、主力芯片的基石，GPU是從圖形處理到數(shù)據(jù)處理芯片的蛻變，那么DPU則是因數(shù)據(jù)中心而生的芯片。

DPU能夠助力數(shù)據(jù)中心更高效的應(yīng)對多元化的算力需求。

未來DPU也將與 CPU 、 GPU 形成新的“鐵三角”，徹底顛覆數(shù)據(jù)中心的運算模式。






審核編輯：劉清