自英特爾1971年推出全球第一個微處理器以來,計算能力一直以令人驚嘆的步伐發(fā)展演進著。根據(jù)摩爾定律,當(dāng)前的計算機芯片比50年前的芯片在功能上強大數(shù)百萬倍。
盡管數(shù)十年來處理能力飛速增長,但直到現(xiàn)在,計算機芯片的基本體系結(jié)構(gòu)仍然沒有太大改變。很大程度上說,芯片的創(chuàng)新,需要進一步縮小晶體管的體積,讓集成電路可以容納更多晶體管。數(shù)十年來,英特爾和AMD等廠商通過提高CPU性能而取得了長足的發(fā)展,被Clayton Christensen視為“持續(xù)的創(chuàng)新”。
今天,這種情況正在發(fā)生著巨大的變化。人工智能(AI)引發(fā)了半導(dǎo)體創(chuàng)新的“新黃金時代”——機器學(xué)習(xí)帶來獨特的市場需求和無限的機會,第一次激發(fā)了企業(yè)家們,去重新思考芯片架構(gòu)的基本原則。
他們的目標(biāo),是設(shè)計一種專為AI設(shè)計的新型芯片,為下一代計算提供動力,這也是當(dāng)前所有硬件領(lǐng)域最大的市場機遇之一。
新的計算范式
在計算技術(shù)發(fā)展的歷史中,主流的芯片架構(gòu)一直是CPU。如今,CPU無處不在,它為筆記本電腦、移動設(shè)備和大多數(shù)數(shù)據(jù)中心提供動力。
1945年,傳奇人物約翰·馮·諾伊曼(John von Neumann)構(gòu)思了CPU的基本架構(gòu)。值得注意的是,此后他的這一設(shè)計基本沒有太大變化,今天,大多數(shù)計算機仍是基于馮·諾依曼理論的機器。
CPU的靈活性使得它有各種各樣的用途:CPU是通用的,能夠有效執(zhí)行軟件所需的任何計算。不過盡管CPU的主要優(yōu)勢是多功能性,然而如今領(lǐng)先的AI技術(shù)需要的,是一種非常特殊且密集的計算。
深度學(xué)習(xí)需要迭代執(zhí)行數(shù)百萬甚至是數(shù)十億個相對簡單的乘法和加法步驟。深度學(xué)習(xí)以線性代數(shù)為基礎(chǔ),在根本上是基于試錯法的:對參數(shù)進行調(diào)整,對矩陣進行乘法運算,隨著模型自身的不斷優(yōu)化,在整個神經(jīng)網(wǎng)絡(luò)中反復(fù)進行數(shù)字求和。
這種重復(fù)性的、計算量巨大的工作流程,對于硬件體系結(jié)構(gòu)有很重要的要求。「并行化」變得至關(guān)重要,「并行」指的是:處理器能夠同時、而不是一個接一個地執(zhí)行多個計算的能力。與之緊密相關(guān)的是,深度學(xué)習(xí)涉及大量數(shù)據(jù)的連續(xù)轉(zhuǎn)換,因此讓芯片內(nèi)存和計算核心盡可能靠近數(shù)據(jù)所在的位置,可以減少數(shù)據(jù)移動,從而大幅提升速度和效率。
CPU尚不足以支持機器學(xué)習(xí)的獨特需求。CPU是按順序而非并行地處理計算任務(wù),CPU的計算核心和內(nèi)存通常位于單獨的模塊上,通過帶寬受限的通信系統(tǒng)(總線)進行連接。這就造成了數(shù)據(jù)移動的瓶頸,稱為“馮·諾依曼瓶頸”,導(dǎo)致的結(jié)果就是,在CPU上訓(xùn)練神經(jīng)網(wǎng)絡(luò)的效率非常低。
隨著機器學(xué)習(xí)正在日益普及,傳統(tǒng)芯片已經(jīng)無法應(yīng)對現(xiàn)代AI算法的要求,這一點正變得愈加突出。正如AI專家Yann LeCun最近所說的:“如果你能穿越到未來五年或者十年,看看計算機大部分時間都在做些什么的話,我認為很可能是機器學(xué)習(xí)之類的事情?!?/p>
這時候,就需要GPU來推動AI的繁榮發(fā)展了。GPU架構(gòu)是由英偉達(Nvidia)在1990年代后期為游戲應(yīng)用開發(fā)的。當(dāng)時GPU被專門用于連續(xù)處理大量數(shù)據(jù),以高幀速率渲染計算機游戲畫面。與CPU不同的是,GPU可以并行地運行數(shù)千個計算任務(wù)。
在2010年代初,AI領(lǐng)域開始意識到,Nvidia的游戲芯片實際上非常適合處理機器學(xué)習(xí)算法所需的工作負載,于是,GPU幸運地找到了新的目標(biāo)市場。Nvidia抓住了這個機遇,將自己定位為“AI硬件市場領(lǐng)先提供商”,結(jié)果收獲了驚人的收益——從2013年到2018年,Nvidia的市值增長了20倍。
然而,正如Gartner分析師Mark Hung所說,“大家知道GPU并非針對AI工作負載進行了優(yōu)化?!彪m然GPU已經(jīng)被AI領(lǐng)域廣泛采用,但它并非為AI而生。
近些年來,有一大批企業(yè)家和技術(shù)人員開始重新構(gòu)想計算機芯片,從頭開始對其進行優(yōu)化,以釋放AI的無限潛力。Alan Kay的一段話令人難忘:“真正認真對待軟件的人,應(yīng)該自己制造硬件?!?/p>
過去兩年中,有5個芯片獨角獸涌現(xiàn),很多初創(chuàng)公司的估值令人瞠目結(jié)舌。傳統(tǒng)CPU巨頭英特爾為了避免被顛覆,所以進行了兩項重大收購:2016年4月以4.08億美元收購了Nervana Systems,2019年12月以20億美元收購了Habana Labs。未來幾年,這場競賽將繼續(xù)進行下去,爭奪這個規(guī)模數(shù)千億美元的市場。
-
人工智能
+關(guān)注
關(guān)注
1791文章
47314瀏覽量
238645 -
機器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8420瀏覽量
132685
發(fā)布評論請先 登錄
相關(guān)推薦
評論