增強(qiáng)機(jī)器學(xué)習(xí)能力的“左膀右臂”的GPU、FPGA芯片

在商業(yè)軟件中，電腦芯片已被遺忘。對(duì)于商業(yè)應(yīng)用程序來(lái)說(shuō)，這是一種商品。由于機(jī)器人技術(shù)與個(gè)人硬件設(shè)備聯(lián)系更為緊密，因而制造應(yīng)用程序仍然更側(cè)重于硬件部分。

自20世紀(jì)70年代以來(lái)，整體上看，人工智能（AI）的現(xiàn)狀，以及具體到深度學(xué)習(xí)（DL）領(lǐng)域，硬件與軟件的關(guān)系比任何時(shí)候都聯(lián)系地更加緊密。而我最近幾篇“管理人工智能（management AI）”的文章與過(guò)度擬合和偏見(jiàn)有關(guān)，機(jī)器學(xué)習(xí)（ML）系統(tǒng)中存在的兩個(gè)主要風(fēng)險(xiǎn)。本專(zhuān)欄將深入探討許多管理人員，尤其是業(yè)務(wù)線(xiàn)經(jīng)理可能會(huì)處理的硬件縮略詞問(wèn)題，這些縮略詞在機(jī)器學(xué)習(xí)系統(tǒng)中被不斷提及：圖形處理單元（Graphics Processing Unit ，GPU）和現(xiàn)場(chǎng)可編程門(mén)陣列（Field Programmable Gate Array ，FPGA）。

這有助于理解GPU的價(jià)值，因?yàn)镚PU加速了深度學(xué)習(xí)應(yīng)用程序所需的張量（tensor）處理。FPGA的興趣點(diǎn)則在于尋找研究新AI算法的途徑，訓(xùn)練這些系統(tǒng)，并開(kāi)始部署現(xiàn)在正在許多工業(yè)AI應(yīng)用中研究的低容量定制系統(tǒng)。盡管這是關(guān)于FPGA進(jìn)行訓(xùn)練的能力研究討論，但我認(rèn)為早期使用是源于F，現(xiàn)場(chǎng)（field）的使用。

例如，訓(xùn)練一個(gè)推理引擎（機(jī)器學(xué)習(xí)“機(jī)器”的核心）可能需要千兆字節(jié)，甚至兆兆字節(jié)的數(shù)據(jù)。在數(shù)據(jù)中心運(yùn)行推理時(shí)，計(jì)算機(jī)必須管理一個(gè)潛在的不斷增加中的并發(fā)用戶(hù)請(qǐng)求數(shù)。在邊緣應(yīng)用程序中，無(wú)論是在用于檢查管道的無(wú)人機(jī)中還是在智能手機(jī)中，設(shè)備都必須很小且仍然有效，而且還具有適應(yīng)性。簡(jiǎn)單地說(shuō)，一個(gè)CPU和一個(gè)GPU是兩個(gè)器件，而一個(gè)FPGA可以有不同的塊做不同的事情，并有可能提供一個(gè)穩(wěn)健的芯片系統(tǒng)。鑒于所有這些不同的需求，最好了解可支持不同需求的系統(tǒng)架構(gòu)的當(dāng)前狀態(tài)。

有兩類(lèi)主要的芯片設(shè)計(jì)可以驅(qū)動(dòng)當(dāng)前的ML系統(tǒng)，GPU和FPGA。在未來(lái)的中期（至少幾年），也有可能成為游戲轉(zhuǎn)換者的新技術(shù)暗示。讓我們來(lái)看看。

圖形處理單元（GPU）

機(jī)器學(xué)習(xí)世界中最大的芯片是圖形處理單元GPU。這個(gè)主要用于電腦游戲，讓其在計(jì)算機(jī)顯示器上看起來(lái)更好的東西是如何變得對(duì)機(jī)器學(xué)習(xí)至關(guān)重要的？要理解這一點(diǎn)，我們必須回到軟件層。

機(jī)器學(xué)習(xí)目前的冠軍是Deep Learning（DL）系統(tǒng)。DL系統(tǒng)基于各種算法，包括深度神經(jīng)網(wǎng)絡(luò)（DNN），卷積神經(jīng)網(wǎng)絡(luò)（CNN），遞歸神經(jīng)網(wǎng)絡(luò)（RNN）以及許多其他變體。你在這三個(gè)術(shù)語(yǔ)中看到的關(guān)鍵詞是“網(wǎng)絡(luò)（network）”。算法是一個(gè)主題的變體，主題是幾層節(jié)點(diǎn)， 節(jié)點(diǎn)和層之間有不同類(lèi)型的通信。

正在處理的是多個(gè)陣列或矩陣。矩陣（matrix）的另一個(gè)更為精確的術(shù)語(yǔ)是張量（tensor），因此它在整個(gè)機(jī)器學(xué)習(xí)行業(yè)中用于諸如TensorFlow之類(lèi)。

現(xiàn)在回到你的電腦屏幕。您可以將它按行和列看作是像素或點(diǎn)的矩陣。這是一個(gè)二維矩陣或張量。當(dāng)你添加顏色，添加到每個(gè)像素的位大小，想要一個(gè)快速變化的一致圖像的時(shí)候，計(jì)算可以很快變得復(fù)雜并且在一步一步的CPU中占用周期。而GPU擁有自己的內(nèi)存，可以將整個(gè)圖形圖像保存為矩陣。然后可以使用張量數(shù)學(xué)計(jì)算圖像中的變化，然后只更改屏幕上受影響的像素。這個(gè)過(guò)程比每次更改圖像時(shí)重新繪制整個(gè)屏幕要快得多。

NVIDIA成立于1993年，旨在創(chuàng)建一個(gè)芯片來(lái)解決諸如CPU等通用計(jì)算機(jī)無(wú)法解決的矩陣問(wèn)題。這是GPU的誕生。

矩陣運(yùn)算并不關(guān)心最終產(chǎn)品是什么，而只是處理元素。這是一種輕微的過(guò)度簡(jiǎn)化，因?yàn)椴煌倪\(yùn)算依稀疏矩陣（當(dāng)有很多零時(shí)）與密集矩陣的不同而有不同的工作方式，但內(nèi)容不會(huì)改變運(yùn)算，這個(gè)事實(shí)依然存在。當(dāng)深度學(xué)習(xí)理論學(xué)者看到GPU的發(fā)展時(shí)，他們很快就采用其來(lái)加速?gòu)埩窟\(yùn)算。

GPU對(duì)機(jī)器學(xué)習(xí)的發(fā)展至關(guān)重要，推動(dòng)了數(shù)據(jù)中心的訓(xùn)練和推理。例如，NVIDIA Volta V100 Tensor Core在其基本架構(gòu)和以更低精度運(yùn)行推理的能力方面繼續(xù)加速推進(jìn)（這將是另一個(gè)話(huà)題，意味著更少的位，即意味著更快的處理）。但是，當(dāng)涉及物聯(lián)網(wǎng)時(shí)還有其他問(wèn)題需要考慮。

現(xiàn)場(chǎng)可編程門(mén)陣列（FPGA）

在現(xiàn)場(chǎng)（field）中，所有類(lèi)型的應(yīng)用程序都有不同的需求。有很多不同的應(yīng)用領(lǐng)域，車(chē)輛，管線(xiàn)，機(jī)器人等等。不同行業(yè)可以為每種類(lèi)型的應(yīng)用設(shè)計(jì)不同的芯片，但這可能會(huì)非常昂貴并且會(huì)破壞公司的投資回報(bào)率。還可能推遲上市時(shí)間，錯(cuò)過(guò)重要的商業(yè)機(jī)會(huì)。對(duì)于那些不能提供足夠規(guī)模經(jīng)濟(jì)市場(chǎng)的高度個(gè)性化需求而言，情況尤其如此。

FPGA是幫助公司和研究人員解決問(wèn)題的芯片。FPGA是一種集成電路，可以編程為多種用途。它有一系列“可編程邏輯塊”和一種編程塊和塊之間關(guān)系的方法。它是一種通用工具，可以為多種用途進(jìn)行定制。主要供應(yīng)商包括賽靈思（Xinlinx）和美國(guó)國(guó)家儀器（National Instruments）。

值得注意的是，芯片設(shè)計(jì)成本較低的問(wèn)題并不能使FPGA成為低價(jià)位的選擇。它們通常最適用于研究或工業(yè)應(yīng)用。電路和設(shè)計(jì)的復(fù)雜性使其可編程，不適用于低成本的消費(fèi)類(lèi)應(yīng)用。

由于FPGA可以重新編程，這使得其對(duì)于新興的機(jī)器學(xué)習(xí)領(lǐng)域來(lái)說(shuō)很有價(jià)值。不斷增加算法，并通過(guò)重新編程塊來(lái)針對(duì)不同算法進(jìn)行微調(diào)。此外，低精度推斷的低功耗FPGA對(duì)于遠(yuǎn)程傳感器來(lái)說(shuō)是一個(gè)很好的組合。雖然發(fā)明人將“現(xiàn)場(chǎng)（field）”更多地稱(chēng)為“客戶(hù)（customer）”，但FPGA在實(shí)現(xiàn)AI應(yīng)用方面的真正優(yōu)勢(shì)在實(shí)際領(lǐng)域中。無(wú)論是對(duì)于工廠(chǎng)、道路和管道等基礎(chǔ)設(shè)施，還是無(wú)人機(jī)遠(yuǎn)程檢測(cè)，F(xiàn)PGA都允許系統(tǒng)設(shè)計(jì)人員靈活地使用一塊硬件，以實(shí)現(xiàn)多種用途，從而實(shí)現(xiàn)更簡(jiǎn)單的物理設(shè)計(jì)，從而可以更加容易地進(jìn)行現(xiàn)場(chǎng)應(yīng)用。

新體系結(jié)構(gòu)即將到來(lái)

GPU和FPGA是目前正在幫助解決如何擴(kuò)大機(jī)器學(xué)習(xí)對(duì)許多市場(chǎng)影響的挑戰(zhàn)的技術(shù)。他們所做的是讓更多人關(guān)注這個(gè)行業(yè)的發(fā)展，并試圖及時(shí)創(chuàng)建新的架構(gòu)來(lái)應(yīng)用。

一方面，許多公司試圖在GPU上學(xué)習(xí)張量運(yùn)算的教訓(xùn)。惠普、IBM和英特爾都有開(kāi)發(fā)專(zhuān)門(mén)用于深度學(xué)習(xí)的下一代張量運(yùn)算設(shè)備的項(xiàng)目。與此同時(shí)，像Cambricon、Graphcore和Wave Computing這樣的初創(chuàng)公司也在努力做同樣的事情。

另一方面，Arm、Intel和其他公司正在設(shè)計(jì)架構(gòu)，以充分利用GPU和CPU，并使器件也瞄準(zhǔn)機(jī)器學(xué)習(xí)市場(chǎng)，據(jù)稱(chēng)能夠做的不僅僅是集中張量運(yùn)算，對(duì)于圍繞核心AI流程的其他處理也更加強(qiáng)大。

雖然上述一些組織專(zhuān)注于數(shù)據(jù)中心和其他物聯(lián)網(wǎng)，但現(xiàn)在談?wù)撈渲械娜魏我粋€(gè)都為時(shí)尚早。

從全球公司到初創(chuàng)公司，一個(gè)告誡是，除了最早的信息外，還沒(méi)有其他信息出現(xiàn)。如果我們最遲在2020年看到最早的器件樣品，那么這將是一個(gè)驚喜，所以它們至少在五年內(nèi)不會(huì)上市。