百度創(chuàng)新的觸角延伸到服務(wù)器芯片領(lǐng)域

作為全球最大的中文搜索引擎公司，百度在近幾年卻與系統(tǒng)底層硬件結(jié)下了不解之緣。自研萬兆交換機(jī)與SSD（軟件定義SSD），全球首次規(guī)模商用ARM服務(wù)器……一個(gè)互聯(lián)網(wǎng)服務(wù)巨頭，在系統(tǒng)底層軟硬件創(chuàng)新上不遺余力。而這一次，它再一次將創(chuàng)新的觸角延伸到了服務(wù)器芯片領(lǐng)域。

百度自主設(shè)計(jì)芯片？它要唱的是哪一出？

百度大腦的“煩惱”

剛剛落幕的2015世界機(jī)器人大會(huì)上，形態(tài)各異的機(jī)器人，讓人在大飽眼福的同時(shí)，也不禁對未來充滿無限想象和期待：機(jī)器將擁有近似甚至超過人類的智慧。

如何讓機(jī)器擁有如此超凡智慧？關(guān)鍵就是要讓它們擁有和人一樣會(huì)學(xué)習(xí)、能思考的“大腦”。百度大腦正是這樣一個(gè)智慧的產(chǎn)物。

如果你不理解百度大腦是如何成長并擁有智慧的，就試想一下從小到大，人的大腦是如何變得越來越聰明的：

一方面，從生理構(gòu)造上看，人腦的各個(gè)區(qū)域都在不斷發(fā)展，以使人有更好的能力去認(rèn)知、去記憶、去學(xué)習(xí)。百度大腦的軟硬件架構(gòu)以及人工智能等相關(guān)技術(shù)，就好似這“生理構(gòu)造”。

近年來，百度在人工智能，特別是深度學(xué)習(xí)技術(shù)上不斷發(fā)力，使百度大腦在“生理構(gòu)造”上擁有了更強(qiáng)大的學(xué)習(xí)、認(rèn)知能力。一個(gè)月前，在媒體上熱炒的“百度語音技術(shù)攻克10年難題，取得重大突破”，便是百度在人工智能領(lǐng)域發(fā)力的重要作證。而在更早之前，百度就已在人臉識(shí)別兩個(gè)最為權(quán)威的國際評測FDDB與LFW中，獲雙料世界第一。

另一方面，就是信息。人腦需要不斷地獲取各種信息、處理信息，并形成知識(shí)，才能變得更加聰明。在這一方面，百度大腦擁有著海量信息優(yōu)勢。

據(jù)了解，百度服務(wù)覆蓋6億網(wǎng)民，每天要響應(yīng)60億次搜索請求，150億次定位請求，同時(shí)還擁有海量社區(qū)數(shù)據(jù)。這些大數(shù)據(jù)使得百度大腦能夠?qū)W會(huì)更加海量、多維度的知識(shí)。

百度大腦正在不斷學(xué)習(xí)、不斷成長，變得越來越聰明。然而，就在這樣成長的過程中，百度大腦遇到了“煩惱”：數(shù)據(jù)和模型規(guī)模不斷膨脹，需要有更強(qiáng)的計(jì)算能力來支撐。不僅如此，出于企業(yè)成本考慮，還必須考慮能耗效率（性能/能耗）和成本效率（性能/價(jià)格），即在相同能耗或成本下，性能越高。

如何解決這一問題？三年多前，百度就開始尋求解決方案——

開啟秘密項(xiàng)目

在今年9月份召開的百度世界大會(huì)上，百度高級副總裁王勁在接受采訪時(shí)曾透露，百度已經(jīng)打造了FPGA版的百度大腦，性能遠(yuǎn)超此前的版本。“這在當(dāng)年是百度的一個(gè)秘密項(xiàng)目，不過，現(xiàn)在可以對外公開了”。

王勁所提到的“當(dāng)年”就是2012年——這一年，面對百度大腦對計(jì)算能力的強(qiáng)烈需求，百度決定自主設(shè)計(jì)深度學(xué)習(xí)專有的體系結(jié)構(gòu)和芯片。

說到提升計(jì)算性能，很多人會(huì)先想到用GPU?！癎PU確實(shí)能提供較好的計(jì)算能力，但對于能耗效率和成本效率而言，它離我們的目標(biāo)仍存在一定差距?！卑俣?a href="http://wenjunhu.com/tags/ai/" target="_blank">AI專有芯片項(xiàng)目負(fù)責(zé)人、主任架構(gòu)師歐陽劍解釋道。

百度對這種差距有著深刻的體會(huì)。歐陽劍表示，為了提高深度學(xué)習(xí)算法的計(jì)算速度，他們已經(jīng)在GPU和CPU上做了很多優(yōu)化，也發(fā)表了一些深度學(xué)習(xí)算法GPU加速的論文，得到了外界的認(rèn)可?！敖?jīng)過這些工作，我們更能深刻理解GPU、CPU在深度學(xué)習(xí)應(yīng)用中的成本效率、能耗效率離目標(biāo)間的差距”。

在充分考量各種芯片的特性后，可編程、低功耗并擁有超強(qiáng)并行計(jì)算能力的FPGA走進(jìn)了百度工程師們的視野。百度開始嘗試用FPGA打造AI專有芯片，并成就了第一版AI專有芯片版百度大腦——FPGA版百度大腦。這使得百度成為了全球最早將FPGA規(guī)模應(yīng)用在人工智能領(lǐng)域的公司。

從在線服務(wù)切入，性能提升3~4倍

人工智能的應(yīng)用場景，包括云（數(shù)據(jù)中心）和端（智能設(shè)備）兩部分;其中，云端又包括離線訓(xùn)和在線服務(wù)。離線訓(xùn)練是指利用海量數(shù)據(jù)，選擇合適的訓(xùn)練方法，訓(xùn)練出一個(gè)模型。在線服務(wù)是指，利用訓(xùn)練出來的模型來響應(yīng)在線響應(yīng)用戶的請求。端部分也對人工智能有著很大的需求：很多終端設(shè)備，也都需要能運(yùn)行人工智能的算法，能智能地響應(yīng)外部請求，如無人車、智能攝像頭等。

離線訓(xùn)練、在線服務(wù)、智能終端——面對這些細(xì)分場景，在項(xiàng)目之初，選擇AI專有芯片的切入點(diǎn)成為了重中之重。