從SmartNIC走向DPU，專用加速器的崛起

在計(jì)算架構(gòu)和負(fù)載變得愈發(fā)復(fù)雜和多樣的情況下，處理器廠商紛紛開始了自己的造詞之路。要想體現(xiàn)產(chǎn)品定位，又要讓大家對其縮寫印象深刻，所以PU成了最常見的后綴?，F(xiàn)在的處理器家族中已經(jīng)有了不少成員，除了常見的CPU、GPU、APU之外，按照處理對象的不同，在人工智能和深度學(xué)習(xí)的崛起下，NPU和TPU也紛紛出現(xiàn)。

DPU模糊的定義

不過這些已經(jīng)定義明確的處理單元并不是我們今天的主角，而是找到了全新定義的xPU。什么是xPU，其實(shí)很難定義，這其中有DPU（數(shù)據(jù)處理單元）、IPU（基礎(chǔ)設(shè)施處理單元）和FAC（功能加速卡），這些剛冒頭的產(chǎn)品就是xPU，它們代表了從SmartNIC演化過來并超越其定位的新時(shí)代加速器硬件。除了SmartNIC以外，這些xPU雖然命名不同，但其實(shí)很多時(shí)候，它們是完全重合的，現(xiàn)在為了方便，很多時(shí)候也以DPU統(tǒng)稱。

BlueField-3 DPU / 英偉達(dá)

這樣說DPU的定義還是很模糊，我們就從其特點(diǎn)來看。SmartNIC往往需要主CPU來完成管理工作，DPU雖然往往也屬于一個(gè)主系統(tǒng)中的部件，但卻可以做到完全獨(dú)立，可以部署到邊緣、JBOF存儲(chǔ)和網(wǎng)關(guān)上，并為它們提供網(wǎng)絡(luò)接口和虛擬功能。它的另一項(xiàng)職責(zé)就是幫CPU減輕負(fù)擔(dān)，節(jié)省服務(wù)器上有限的處理器核心。

因此，盡管DPU看起來和一些PCIe智能網(wǎng)卡或GPU差不多，但它本質(zhì)上就是一個(gè)為數(shù)據(jù)流和數(shù)據(jù)包處理提供加速、卸載和本地服務(wù)的微型服務(wù)器，在服務(wù)器中提供一個(gè)獨(dú)立單元的同時(shí)，又不乏協(xié)助其他單元的處理能力。

什么樣的任務(wù)需要DPU？

至于為什么要用到DPU，這就不得不談到日益增加的數(shù)據(jù)密集型任務(wù)了，短視頻、實(shí)時(shí)金融交易的興起，高帶寬的數(shù)據(jù)流要求數(shù)據(jù)中心對網(wǎng)絡(luò)、存儲(chǔ)、安全和AI/ML進(jìn)行高效的處理。比如谷歌在數(shù)年前就提到，在他們的數(shù)據(jù)中心里，有三分之一的任務(wù)都是數(shù)據(jù)密集型的，這些都是交由底層基礎(chǔ)設(shè)施完成的，而且這類任務(wù)的占比是在逐步增加的。因?yàn)镃PU和GPU這樣的通用計(jì)算單元并不擅長，所以專門針對這類任務(wù)優(yōu)化的DPU就得出來擔(dān)此大任了。其次就是企業(yè)數(shù)據(jù)中心和公共數(shù)據(jù)中心也想獲得超大規(guī)模巨頭廠商那樣的效率，做到這一點(diǎn)就必須解聚那些昂貴的硬件資源，比如SSD、GPU等，DPU為數(shù)據(jù)中心的解聚提供了極高的效率，優(yōu)化了擁有成本、占用面積和安全性。

DPU可以完成各個(gè)方面的卸載與加速，尤其是在網(wǎng)絡(luò)、安全和存儲(chǔ)這三大塊。在網(wǎng)絡(luò)端，DPU可以有效實(shí)現(xiàn)虛擬路由器，輔助數(shù)據(jù)包交換、定義交換規(guī)則等工作，減少延遲的同時(shí)還能夠提高吞吐量；在安全上，DPU可以用于下一代防火墻（NGFW）的加速，完成數(shù)據(jù)包過濾、內(nèi)容檢測和報(bào)頭檢測與重寫，將性能提高數(shù)倍以上；在存儲(chǔ)上，DPU可以卸載高速NVMe/TCP，進(jìn)一步提升存儲(chǔ)性能。最關(guān)鍵的是，這三者都能有效地接管CPU控制面的負(fù)載，節(jié)省CPU本身的計(jì)算核心。

基于DPU的服務(wù)器存儲(chǔ)方案 / Fungible

以上是DPU為服務(wù)器提供的加強(qiáng)，主要以PCIe加速卡的形式來提供，此外，還有單獨(dú)的DPU存儲(chǔ)產(chǎn)品。傳統(tǒng)的CPU存儲(chǔ)方案中，整個(gè)系統(tǒng)由DRAM、x86 CPU、SmartNIC、加速器和PCIe接口組成，而在未來的存儲(chǔ)方案，比如高性能存儲(chǔ)、計(jì)算型存儲(chǔ)和軟件定義網(wǎng)絡(luò)應(yīng)用的存儲(chǔ)中，單片集成的方案更能滿足要求，這就是與DRAM結(jié)合的DPU存儲(chǔ)產(chǎn)品。這種方案不僅可以提升IOPS，也能進(jìn)一步降低能耗。

正因如此，數(shù)據(jù)中心會(huì)用DPU來完成數(shù)據(jù)密集型任務(wù)，從而減少功耗、擁有成本和占用空間。此外，他們也會(huì)用到基于DPU的存儲(chǔ)、GPU/TPU資源池和主機(jī)卡，來高效地完成高成本硬件資源的解聚。

DPU市場混戰(zhàn)

在不少廠商對DPU的宣傳中，往往都會(huì)提到這將是除了CPU和GPU之外的第三大硬件。大家可能覺得類似的承諾，好像一些AI處理器也有提到，但市面上還是GPU占據(jù)主導(dǎo)地位，DPU又會(huì)有何不同呢？事實(shí)證明，市場對DPU的信心很足，這我們從入局DPU的廠商就能看出。

云霄DPU / 云豹智能

如今制造DPU的企業(yè)分為三種，一是初創(chuàng)公司，比如：云豹智能、星云智聯(lián)、中科馭數(shù)、云脈芯聯(lián)、芯啟源、大禹智芯、Fungible等；二是市面上一些已有的服務(wù)器巨頭，比如AMD/Xilinx、英特爾、Marvel、英偉達(dá)；三是CSP（云服務(wù)供應(yīng)商）廠商，比如亞馬遜AWS、微軟Azure、阿里云等等。后者更多是負(fù)責(zé)設(shè)計(jì)或者聯(lián)合設(shè)計(jì)這些xPU，好專用于自己的云服務(wù)器。最終售賣這些DPU的除了DPU廠商外，還有基礎(chǔ)設(shè)施的OEM和ODM，增值分銷商和集成方案廠商，CSP廠商在售賣服務(wù)器的時(shí)候，自然也會(huì)以間接的方式來體現(xiàn)DPU的價(jià)值。

隨著Mellanox被英偉達(dá)收購，Pensando被AMD收購，而Fungible的DPU主要針對存儲(chǔ)加速和卸載，雖然沒有被收購，但也收獲了軟銀的主導(dǎo)的融資。國內(nèi)的DPU廠商同樣備受青睞，比如騰訊屢次投資的云豹智能，字節(jié)跳動(dòng)投資的云脈芯聯(lián)，美團(tuán)和百度投資的星云智聯(lián)等，這些投資方要么是CSP，要么擁有超大規(guī)模的數(shù)據(jù)中心，他們不像其他CSP大廠，硬件設(shè)計(jì)能力缺乏或有限，卻也看到了DPU的前景。

DPU并不完美

即便大廠看好，但從現(xiàn)狀來看，部署DPU對某些中小企業(yè)來說依然是雙刃劍。固然，DPU可以卸載基礎(chǔ)設(shè)施的任務(wù)，減輕其負(fù)擔(dān)，讓服務(wù)器的CPU空出來專注在應(yīng)用本身，更高的效率、更低的擁有成本和更高的安全性也都隨之而來，這些優(yōu)點(diǎn)是幾乎每個(gè)服務(wù)器都能享受到的。

但在部分服務(wù)器中，引入DPU不免增加了服務(wù)器的資本投入，而且相較于CPU、GPU這類硬件來說，它只能卸載和加速特定的負(fù)載，并不是一個(gè)通用加速單元。此外，部分服務(wù)器在增加DPU的情況下還是會(huì)導(dǎo)致功耗提升，在服務(wù)器、數(shù)據(jù)中心紛紛開始節(jié)能減排的當(dāng)下，如何權(quán)衡各個(gè)組件的功耗無疑會(huì)是一個(gè)大問題。還有就是相關(guān)的開發(fā)，DPU的靈活性體現(xiàn)在可編程上，但這需要進(jìn)行一定的編程能力，加上目前每家廠商都在單干，也沒有一個(gè)標(biāo)準(zhǔn)的接口，所以在適配上絕對不輕松，這也是不少DPU選擇Arm作為核心架構(gòu)的原因，就是為了減少其編程的難度。

也正是因?yàn)橐陨线@些理由，從市場滲透率上來看，DPU主要是還是大規(guī)模的CSP廠商用的更多一點(diǎn)，加上托管應(yīng)用的增加，這一塊未來也會(huì)驅(qū)動(dòng)DPU產(chǎn)品的銷售。對于自研DPU的CSP來說，他們肯定會(huì)繼續(xù)加大這方面的投入，進(jìn)一步降低成本，而對于第三方廠商來說，英偉達(dá)、AMD和英特爾這些服務(wù)器CPU、GPU廠商無疑會(huì)更有優(yōu)勢，因?yàn)樗麄兲峁└偁幜Ω鼜?qiáng)的集成方案。