亞馬遜作為第一云服務(wù)商在芯片上的投入

電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）云服務(wù)作為目前市面上利潤(rùn)最大的市場(chǎng)之一，已然成了不少互聯(lián)網(wǎng)巨頭公司的主要業(yè)務(wù)，而云服務(wù)供應(yīng)商中穩(wěn)坐頭號(hào)交椅的，自然是亞馬遜的AWS。作為占據(jù)全球市場(chǎng)近三分之一，在中國(guó)市場(chǎng)僅次于阿里云的公共云平臺(tái)，亞馬遜的云業(yè)務(wù)成了它最賺錢(qián)的業(yè)務(wù)，甚至在其零售業(yè)務(wù)開(kāi)始虧損時(shí)，也依然在一己之力撐起亞馬遜的利潤(rùn)率。

亞馬遜的AWS業(yè)務(wù)之所以能收獲這樣的成功，同樣離不開(kāi)硬件。云服務(wù)市場(chǎng)初期的競(jìng)爭(zhēng)很簡(jiǎn)單，由于硬件用的都是英特爾、AMD這些廠商的服務(wù)器產(chǎn)品線(xiàn)，所以差距不大，只能靠虛擬化技術(shù)之類(lèi)的軟件架構(gòu)以及更高的性?xún)r(jià)比來(lái)吸引客戶(hù)。但為了進(jìn)一步降低成本，云服務(wù)廠商們也紛紛開(kāi)始自研芯片，亞馬遜、谷歌還有阿里巴巴都是如此。

一次成功的收購(gòu)

對(duì)于云服務(wù)的基石實(shí)例來(lái)說(shuō)，虛擬化是至關(guān)重要的。亞馬遜此前用到的都是Xen這一開(kāi)源虛擬化技術(shù)，隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后，亞馬遜開(kāi)始轉(zhuǎn)向另一個(gè)開(kāi)源虛擬化技術(shù)KVM。

但也正是這一轉(zhuǎn)變讓他們有了重大發(fā)現(xiàn)，那就是盡管英特爾和AMD的服務(wù)器CPU在虛擬化上越來(lái)越成熟，但KVM能與ASIC緊密結(jié)合在一起反而能發(fā)揮出更大的優(yōu)勢(shì)。為此，他們決定發(fā)展自己的芯片設(shè)計(jì)業(yè)務(wù)。

2015年，亞馬遜以未公開(kāi)的金額收購(gòu)了一家來(lái)自以色列的初創(chuàng)芯片公司Annapurna Labs，而這時(shí)的Annapurna Labs甚至沒(méi)有任何公開(kāi)的產(chǎn)品，但亞馬遜很明顯看中了他們?cè)诜?wù)器芯片上的開(kāi)發(fā)實(shí)力。果不其然，2015年起，帶有Annapurna Labs標(biāo)志的ASIC芯片開(kāi)始出現(xiàn)在Project Nitro中，只不過(guò)大部分ASIC芯片都只是作為網(wǎng)絡(luò)/存儲(chǔ)卸載卡，上，每個(gè)實(shí)例的硬件主體大部分還是英特爾的x86 CPU。


2018年，第一代AWS Graviton面世，作為亞馬遜自研的ARM服務(wù)器CPU方案，基于該處理器的實(shí)例在使用成本上要低于基于x86的方案，收獲了不少用戶(hù)的同時(shí)，也擴(kuò)展了ARM的云端開(kāi)發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton，都為通用工作復(fù)雜提供了更高的性?xún)r(jià)比。

之所以有這么快的迭代速度，與亞馬遜以IP為導(dǎo)向的設(shè)計(jì)路線(xiàn)有關(guān)。以AWS Graviton2和Graviton3為例，這兩者分別運(yùn)用了ARM Neoverse N1和Neoverse V1的方案，并不需要亞馬遜像Ampere Computing這樣的服務(wù)器芯片廠商一樣，開(kāi)始考慮自研ARM IP。

AI/ML帶來(lái)的新一波熱潮

提供通用計(jì)算托管平臺(tái)的亞馬遜也沒(méi)有止步于此，他們看上了新的市場(chǎng)，那就是AI/ML。作為“新電力”的人工智能正在為各個(gè)行業(yè)帶去新的生機(jī)，但所需的算力也成了轉(zhuǎn)型過(guò)程中最大的難題。最初大家指望用CPU來(lái)解決AI算力的問(wèn)題，然而面對(duì)全新的計(jì)算方式，CPU很快就顯得心有余而力不足。

但要去做GPU需要的技術(shù)積累可不少，市面上也只有英偉達(dá)的GPU在AI/ML上打出了名號(hào)，所以亞馬遜和許多AI芯片初創(chuàng)公司一樣，還是打算從ASIC上出發(fā)，推出了Inferentia和Trainium這兩款推理和訓(xùn)練芯片。

不過(guò)Inferentia和Trainium與Graviton的定位是一樣的，亞馬遜并不指望從性能上打敗如日中天的GPU，而是希望提供一個(gè)成本更低延遲更低并支持更多算法的方案，繼續(xù)發(fā)揮云服務(wù)在即用即付這一高性?xún)r(jià)比商業(yè)模式上的優(yōu)勢(shì)。

與此同時(shí)，亞馬遜作為全球市占比第一的云服務(wù)廠商，單靠自己的硬件是沒(méi)法實(shí)現(xiàn)這樣的地位的，所以無(wú)論是英偉達(dá)的GPU還是英特爾Habana Labs的AI加速器，亞馬遜也都有合作部署。

即便Inferentia和Trainium帶來(lái)了一定的成本和功耗優(yōu)勢(shì)，但要想打破當(dāng)下以GPU主導(dǎo)的AI/ML生態(tài)，還面臨著不少挑戰(zhàn)，英偉達(dá)的CUDA已經(jīng)打造了一個(gè)相當(dāng)龐大的開(kāi)發(fā)社區(qū)，要想讓開(kāi)發(fā)者遷移到ASIC硬件上，還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門(mén)目前開(kāi)放的100多個(gè)職位中，硬件開(kāi)發(fā)的其實(shí)只有10多位，余下的大部分還是軟件開(kāi)發(fā)崗，大部分AI芯片初創(chuàng)公司也在面臨著這類(lèi)困境，并非獨(dú)此一家。

結(jié)語(yǔ)

在大部分服務(wù)器CPU、AI/ML加速器初創(chuàng)公司眼中，直接把硬件賣(mài)給各大數(shù)據(jù)中心和互聯(lián)網(wǎng)公司并不是唯一的銷(xiāo)售途徑，能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利，還能提高自己產(chǎn)品的普及程度。

這也是為何Ampere Computing的Altra處理器開(kāi)始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺(tái)上，云服務(wù)平臺(tái)自研芯片歸根結(jié)底還是為了提供性?xún)r(jià)比更高的方案，但他們的客戶(hù)還在猛增階段，只靠閉門(mén)造車(chē)肯定是沒(méi)法擴(kuò)大市場(chǎng)份額的，擁抱更大的硬件生態(tài)才能實(shí)現(xiàn)共贏。