AI加速器芯片市場發(fā)展?fàn)顩r如何？本文帶你來了解

?

連杰蘇（來源：ABI Research）

AI加速器芯片的機(jī)會被大肆宣傳，但市場有多大，今天哪些公司真正在銷售芯片？

ABI Research 的兩份新報告詳細(xì)介紹了當(dāng)今 AI 芯片組市場的發(fā)展?fàn)顩r。EETimes 采訪了報告的作者，首席分析師蘇連杰，以了解哪些公司和技術(shù)正在進(jìn)入這個潛在的利潤豐厚的市場。

云中的人工智能

第一份報告“云 AI 芯片組：市場格局和供應(yīng)商定位”強(qiáng)調(diào)了云 AI 推理和培訓(xùn)服務(wù)如何快速增長。由此產(chǎn)生的人工智能芯片組市場預(yù)計將從 2019 年的 42 億美元增長到 2024 年的 100 億美元。該領(lǐng)域的當(dāng)前領(lǐng)導(dǎo)者英偉達(dá)和英特爾正受到寒武紀(jì)、Graphcore、Habana Labs 和高通等公司的挑戰(zhàn)。

Su 表示，英偉達(dá)在這個市場上仍然是一個明顯的領(lǐng)導(dǎo)者，這主要?dú)w功于其完善的開發(fā)者生態(tài)系統(tǒng)和先發(fā)優(yōu)勢。

“此外，隨著人工智能模型、庫和工具包的不斷變化和更新，鑒于其作為通用人工智能芯片組的能力，英偉達(dá)是一個很好的后備選擇，”蘇說?！罢\然，隨著市場的成熟，這些優(yōu)勢會慢慢減弱，但至少在可預(yù)見的未來，英偉達(dá)仍將處于強(qiáng)勢地位?！?/p>

今天的人工智能芯片組云市場分為三個部分。公共云由云服務(wù)提供商托管：AWS、微軟、谷歌、阿里巴巴、百度和騰訊等。然后是企業(yè)數(shù)據(jù)中心，它們實際上是私有云，以及 ABI 所謂的“混合云”，即結(jié)合公共云和私有云（VMware、Rackspace、NetApp、HPE、戴爾）的產(chǎn)品。

該報告還確定了一個額外的新興領(lǐng)域——電信云，它指的是電信公司為其核心網(wǎng)絡(luò)、IT 和邊緣計算工作負(fù)載部署的云基礎(chǔ)設(shè)施。

蘇說，這個新的細(xì)分市場對人工智能芯片組制造商來說是一個巨大的機(jī)會。

“我們已經(jīng)看到像華為這樣的網(wǎng)絡(luò)基礎(chǔ)設(shè)施供應(yīng)商，以及在較小程度上諾基亞推出針對電信網(wǎng)絡(luò)功能優(yōu)化的 ASIC，”Su 說。“這是一個巨大的市場，但英偉達(dá)最近一直在努力進(jìn)入這個市場?！?/p>

雖然 Su 沒有看到任何其他公司在短期內(nèi)取代 Nvidia 在云端 AI 訓(xùn)練方面的主導(dǎo)地位，但推理更像是一種自由競爭，目前還不是由單一玩家主導(dǎo)。這部分歸因于推理工作量的性質(zhì)，這在垂直領(lǐng)域之間有所不同。他說，從 2020 年起，ASIC 預(yù)計將在該領(lǐng)域?qū)崿F(xiàn)強(qiáng)勁增長。

當(dāng)前將人工智能推理轉(zhuǎn)移到邊緣設(shè)備的趨勢將意味著智能手機(jī)、自動駕駛汽車和機(jī)器人等設(shè)備對云的依賴減少。但這并不意味著推理工作量（一些云服務(wù)提供商認(rèn)為大于訓(xùn)練工作量）將會減少，Su 說。

“一些人工智能永遠(yuǎn)不會走向邊緣，例如聊天機(jī)器人和對話式人工智能、欺詐監(jiān)控和網(wǎng)絡(luò)安全系統(tǒng)，”他說。“這些系統(tǒng)將從基于規(guī)則的人工智能系統(tǒng)演變?yōu)榛?a href="http://wenjunhu.com/v/tag/448/" target="_blank">深度學(xué)習(xí)的人工智能系統(tǒng)，這實際上增加了推理工作量。[增加] 將足以取代那些移動到邊緣的推理工作負(fù)載?！?/p>

然后是谷歌。谷歌的 TPU（張量處理單元）可以同時處理云中的訓(xùn)練和推理，被視為 CPU 和 GPU 技術(shù)的有力挑戰(zhàn)者（分別由英特爾和英偉達(dá)領(lǐng)導(dǎo)）。正如報告所指出的，谷歌在 TPU 方面的成功為其他云服務(wù)提供商 (CSP) 開發(fā)自己的 AI 加速器 ASIC 提供了藍(lán)圖。華為、AWS和百度已經(jīng)這樣做了。

如果云服務(wù)提供商都在開發(fā)他們自己的芯片組，這是否會為該領(lǐng)域的任何其他芯片組供應(yīng)商留下市場？

“隨著 CSP 開始在自己的芯片組上工作，這條道路對于新來者來說非常具有挑戰(zhàn)性，你當(dāng)然是對的，”Su 說?！拔覀兩踔令A(yù)測，到 2024 年，15% 到 18% 的市場將屬于 CSP。機(jī)會更多地在于私有數(shù)據(jù)中心領(lǐng)域。銀行機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)、研發(fā)實驗室和學(xué)術(shù)界仍將需要運(yùn)行 AI，他們將考慮針對 AI 工作負(fù)載進(jìn)行更優(yōu)化的芯片組，這為 Cerebras、Graphcore、Habana Labs 和 Wave Computing 等新來者提供了一些優(yōu)勢。”

其他將從這些趨勢中受益的參與者是 IP 內(nèi)核許可供應(yīng)商，如 ARM、Cadence 和芯原，他們將負(fù)責(zé)比以前更多的芯片組開發(fā)企業(yè)的芯片組設(shè)計，Su 說。

邊緣的人工智能

ABI 的第二份報告《Edge AI Chipsets: Technology Outlook and Use Cases》顯示，2018 年邊緣 AI 推理芯片組市場規(guī)模為 19 億美元。該報告還確定了一個邊緣訓(xùn)練市場，令人驚訝的是，該市場位于同年140萬美元。

今天哪些應(yīng)用程序正在邊緣進(jìn)行培訓(xùn)？Su 解釋說，這個數(shù)字包括網(wǎng)關(guān)（歷史學(xué)家或設(shè)備集線器）和本地服務(wù)器（在私有云中，但地理位置位于生成 AI 數(shù)據(jù)的位置）。專為在本地服務(wù)器上進(jìn)行訓(xùn)練任務(wù)而設(shè)計的芯片組包括 Nvidia 的 DGX、華為的網(wǎng)關(guān)和采用 Ascend 910 芯片組的服務(wù)器，以及 Cerebras System、Graphcore 和 Habana Labs 等針對本地數(shù)據(jù)中心的系統(tǒng)級產(chǎn)品。

“這個（邊緣培訓(xùn)）市場仍然很小，因為云仍然是人工智能培訓(xùn)的首選地點，”蘇說。

與此同時，邊緣人工智能推理在 2019 年至 2024 年間估計的邊緣人工智能 31% 的復(fù)合年增長率占大部分。對于邊緣推理，Su 描述了三個主要市場（智能手機(jī)/可穿戴設(shè)備、汽車、智能家居/白色家電）以及三個利基市場.

第一個利基市場，機(jī)器人技術(shù)，通常需要異構(gòu)計算架構(gòu)，因為機(jī)器人依賴于多種類型的神經(jīng)網(wǎng)絡(luò)，例如用于導(dǎo)航的 SLAM（同時定位和映射）、用于人機(jī)界面的對話式 AI 和用于對象檢測的機(jī)器視覺等。它們在不同程度上使用 CPU、GPU 和 ASIC。他說，英偉達(dá)、英特爾和高通在這一領(lǐng)域競爭激烈。

“第二個利基是智能工業(yè)應(yīng)用，包括制造、智能建筑以及石油和天然氣行業(yè)，”他說。“我們看到 FPGA 供應(yīng)商在這個領(lǐng)域表現(xiàn)出色，不僅是由于傳統(tǒng)設(shè)備，還因為 FPGA 的架構(gòu)，[提供了]靈活性和適應(yīng)性?！?/p>

最后，還有“非常邊緣”，即將超低功耗 AI 芯片組嵌入廣域網(wǎng)上的傳感器和其他小型終端節(jié)點的趨勢。鑒于對超低功耗的關(guān)注，這一領(lǐng)域由 FPGA 公司、RISC-V 設(shè)計和 ASIC 供應(yīng)商占據(jù)。

到目前為止，誰實際上在為邊緣的 AI 推理進(jìn)行設(shè)計？

“令人驚訝或不足為奇的是，由于智能手機(jī)的出貨量很大，智能手機(jī) AI ASIC 供應(yīng)商實際上在邊緣 AI 芯片組市場上處于領(lǐng)先地位，”Su 說。“這指的是蘋果、海思、高通、三星，在較小程度上是指聯(lián)發(fā)科。但是，如果我們嚴(yán)格地談?wù)摮鮿?chuàng)公司，我認(rèn)為 Hailo、Horizon Robotics 和 Rockchip 似乎在終端設(shè)備制造商中獲得了一些動力?！?/p>

Su 還表示，軟件對于邊緣 AI 芯片組的商業(yè)實施和部署至關(guān)重要，將 Nvidia 持續(xù)升級其編譯器工具和建立開發(fā)者社區(qū)的努力與英特爾和賽靈思采取的方法進(jìn)行了比較，后者是與初創(chuàng)公司合作或收購擁有基于軟件的加速解決方案。

“芯片組公司應(yīng)考慮向開發(fā)人員社區(qū)提供工具包和庫，以及開發(fā)人員教育計劃、競賽、論壇和會議，因為這些將吸引開發(fā)人員與芯片組公司合作并開發(fā)相關(guān)應(yīng)用程序。所有這些都是新創(chuàng)業(yè)公司不容易實現(xiàn)的，”他說。

該報告得出的結(jié)論是，除了為開發(fā)者社區(qū)提供合適的軟件和支持外，該領(lǐng)域的成功公司還將提供良好的發(fā)展路線圖，并得到技術(shù)價值鏈的其余部分的支持。他們還需要在各種用例中擴(kuò)大其芯片的規(guī)模，同時保持具有競爭力的價格點。

?

?