自研服務(wù)器芯片或許沒有那么大優(yōu)勢

自研芯片在當(dāng)下似乎已經(jīng)成了一種潮流，無論是消費(fèi)電子廠商、互聯(lián)網(wǎng)公司還是汽車廠商，都在拿自研芯片做文章。作為時(shí)刻都在與計(jì)算打交道的云端，自然也參與其中，甚至是先進(jìn)工藝自研芯片的主力軍。

自研芯片能省下多少錢？

早在芯片產(chǎn)業(yè)有布局，或者以收購來掌握芯片設(shè)計(jì)實(shí)力的云服務(wù)廠商，幾乎都選擇了自研服務(wù)器芯片這條路線，比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網(wǎng)絡(luò)芯片到通用計(jì)算的CPU，再到用于AI計(jì)算的ASIC芯片。

亞馬遜就靠著自研芯片省下了一大筆成本，這也是其他云服務(wù)廠商目前都沒能復(fù)制的成功。首先自研芯片通過架構(gòu)上的創(chuàng)新，為其定制化實(shí)例提供了更高的性能，比如Nitro芯片靠卸載任務(wù)可以多省出兩個(gè)CPU內(nèi)核；其次，對于某些特定的工作負(fù)載來說，自研芯片帶來了更容易把握的戰(zhàn)略控制以及硬件鎖定；最后，自然也省去了找第三方fabless設(shè)計(jì)公司的成本。

考慮到云服務(wù)廠商在硬件投入上的規(guī)模，以及亞馬遜作為全球第一大云服務(wù)廠商的體量，其中省下的成本還是相當(dāng)龐大的。這也是亞馬遜走自研芯片可行的原因，其他云服務(wù)廠商或許能通過自研把設(shè)計(jì)成本壓下去，但制造成本絕對沒法像亞馬遜一樣壓這么低，這也是為何AWS過去能做到頻繁降價(jià)。

AI時(shí)代下自研芯片優(yōu)勢有，但不多

亞馬遜在收購后，接連推出了Trainium和Inferentia這兩大訓(xùn)練和推理加速器，并將其集成到自己的云端實(shí)例中去，以優(yōu)異的性能為客戶提供高性價(jià)比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優(yōu)勢，反倒是微軟憑借英偉達(dá)的GPU率先以ChatGPT開啟了這場惡戰(zhàn)，谷歌的Bard也緊隨其后。

亞馬遜則選擇了與Hugging Face合作，作為其首選云供應(yīng)商，用戶可以借助AWS上的先進(jìn)工具，比如SageMaker托管服務(wù)，以及Trainium和Inferentia硬件，去訓(xùn)練、微調(diào)和部署模型，從而為社區(qū)創(chuàng)造更加開放易用的AI。

但事實(shí)上是，這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應(yīng)用中。而且對于Hugging Face來說，他們想要打造的是開放式的生成式AI模型，也就是說其他廠商也都能從中獲益，也就是兩家共同提到的機(jī)器學(xué)習(xí)民主化。

況且在部署上，早在與亞馬遜合作之前，Hugging Face就已經(jīng)在2022年與微軟Azure達(dá)成合作，在Azure的ML終結(jié)點(diǎn)上部署Hugging Face的機(jī)器學(xué)習(xí)推理服務(wù)。所以這次合作即便充分利用了亞馬遜的自研AI芯片，但給其帶來的優(yōu)勢并不算大。無論是在性能還是在軟件生態(tài)上，現(xiàn)有的自研芯片都存在如鯁在喉的地方，而這不僅局限于亞馬遜這樣的大廠，不少初創(chuàng)AI芯片公司也都或多或少面臨這樣的困境。

結(jié)語

其實(shí)自研芯片也并非真的毫無靈活性可言，比如亞馬遜的Graviton和阿里的倚天710，雖說是自研芯片，但用到的畢竟還是Arm的Neoverse公版方案，還有不少第三方方案也是如此，比如英偉達(dá)的Grace、Ampere Computing的Altra等等。

這樣一來其實(shí)開發(fā)靈活性依然很高，比如英偉達(dá)為了給Grace做鋪墊，也對同類產(chǎn)品的軟件棧提供了支持。比如英偉達(dá)的HPC SDK全面支持AWS的Graviton 3，也支持對SVE和NEON的自動(dòng)矢量化。而英偉達(dá)推出的Arm HPC開發(fā)套件，也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的，與Grace芯片共用同一套軟件環(huán)境。

只不過在AI領(lǐng)域，這樣的自研路線優(yōu)勢會(huì)更小一點(diǎn)，畢竟現(xiàn)在AI模型與算法發(fā)展迅速，自研GPU有著各種難以突破的專利壁壘，自研ASIC又存在迭代適應(yīng)和軟件生態(tài)移植的問題。而這對于云服務(wù)廠商這種為客戶賦能更快產(chǎn)品上市速度的企業(yè)來說，或許在AI仍在快速演進(jìn)的當(dāng)下，GPU會(huì)是更優(yōu)解，這也是云服務(wù)廠商即便選擇了自研AI芯片，主打的卻依然是GPU實(shí)例的原因。

審核編輯 ：李倩