AI芯片及平臺你了解多少

從平安城市到智能交通，從互聯(lián)網(wǎng)+到智慧金融，從智慧社區(qū)到智慧城市，什么樣的驅(qū)動(dòng)力在引領(lǐng)行業(yè)快速發(fā)展？無論是城市級解決方案還是行業(yè)解決方案，其系統(tǒng)平臺都需要承載、接收處理、反饋龐大的信息數(shù)據(jù)量，無疑AI芯片作為計(jì)算力的硬件基礎(chǔ)，在智慧城市建設(shè)中的重要性不言而喻，AI芯片無疑將與智慧城市深度捆綁共發(fā)展。以下是一些AI增強(qiáng)型芯片及平臺簡要介紹，展示了目前市場上從移動(dòng)端到企業(yè)級應(yīng)用的各種神經(jīng)網(wǎng)絡(luò)解決方案：

華為麒麟970：

這是華為消費(fèi)業(yè)務(wù)事業(yè)部的首個(gè)移動(dòng)AI計(jì)算平臺，采用專用神經(jīng)處理單元，可將云端AI與本機(jī)AI處理有機(jī)結(jié)合。麒麟970包括一個(gè)八核CPU和新一代12核GPU。該芯片組以更低的功耗，更快地提供相同的AI計(jì)算任務(wù)。基準(zhǔn)圖像識別測試表明，麒麟970每分鐘可處理2，000張圖像。

除了在自己的手機(jī)中使用新的AI芯片組外，華為還將移動(dòng)AI定位為開放平臺，為開發(fā)人員和合作伙伴提供技術(shù)。

英特爾Nervana神經(jīng)網(wǎng)絡(luò)處理器（NPP）：

英特爾Nervana NNP專為深度學(xué)習(xí)而設(shè)計(jì)，沒有標(biāo)準(zhǔn)的緩存層次結(jié)構(gòu)，其片上存儲器由軟件管理。 “更好的內(nèi)存管理使該芯片能夠?qū)崿F(xiàn)海量計(jì)算的高利用率，”英特爾宣稱。 “這可以為深度學(xué)習(xí)模型提供更快的訓(xùn)練時(shí)間?！?/p>

除了新的存儲器架構(gòu)外，英特爾還開發(fā)了一種新的數(shù)字格式Flexpoint，它可以顯著提高芯片的并行度，同時(shí)降低每次計(jì)算的功耗。英特爾表示，由于單個(gè)芯片的神經(jīng)網(wǎng)絡(luò)計(jì)算主要受功耗和內(nèi)存帶寬的限制，因此Flexpoint可為神經(jīng)網(wǎng)絡(luò)任務(wù)提供更高的吞吐量。英特爾這一新設(shè)計(jì)的目標(biāo)是“獲得高計(jì)算利用率并支持多芯片互連的真實(shí)模型并行性”。

英特爾Movidius VPU：

英特爾正在與微軟合作，將微軟Windows ML與英特爾的Movidius視覺處理單元（VPU）相結(jié)合來推動(dòng)邊緣AI推理。英特爾Movidius Myriad X VPU是一款專門用于加速邊緣AI應(yīng)用的芯片，它聲稱是業(yè)界首款具有專用神經(jīng)計(jì)算引擎的系統(tǒng)級芯片解決方案，可用于邊緣深度學(xué)習(xí)推理的硬件加速。 “這款第三代VPU可以高速和低功耗運(yùn)行深度神經(jīng)網(wǎng)絡(luò)，以減輕其它硬件的特定AI處理負(fù)擔(dān)，”英特爾表示。

英特爾還會(huì)針對通用機(jī)器學(xué)習(xí)和推理繼續(xù)優(yōu)化其Xeon可擴(kuò)展處理器和數(shù)據(jù)中心加速器。

Qualcomm驍龍845：

高通的第三代AI移動(dòng)平臺據(jù)稱在AI性能上比上一代SoC提升了3倍。

除了支持Google TensorFlow和Facebook Caffe / Caffe2框架外，驍龍神經(jīng)處理引擎（NPE）SDK現(xiàn)在還可以支持Tensorflow Lite和新的開放式神經(jīng)網(wǎng)絡(luò)交換（ONNX）標(biāo)準(zhǔn)，可讓開發(fā)人員輕松選擇自己喜歡的AI框架，包括Caffe2、CNTK和MxNet等。此外，它還支持谷歌的Android NN API。驍龍845目標(biāo)應(yīng)用包括智能手機(jī)、XR耳機(jī)和始終聯(lián)網(wǎng)的PC等。

為了安全起見，驍龍845現(xiàn)在還提供了一個(gè)硬件隔離子系統(tǒng)，即安全處理單元（SPU），它為高通的移動(dòng)安全方案增加了“在現(xiàn)有層上的安全閥門特性”。

高通的AI Engine包括幾個(gè)硬件和軟件組件，其設(shè)備端AI處理性能已經(jīng)在驍龍845上體現(xiàn)出來，將支持包括845、835、820和660在內(nèi)的移動(dòng)平臺。 AI Engine支持Snapdragon系列核心硬件架構(gòu)，即Hexagon矢量處理器、Adreno GPU和Kryo CPU。其軟件組件包括Snapdragon神經(jīng)網(wǎng)絡(luò)處理引擎、Android神經(jīng)網(wǎng)絡(luò)API和Haxagon神經(jīng)網(wǎng)絡(luò)。

由于采用了異構(gòu)計(jì)算，驍龍845的新架構(gòu)帶來了顯著的性能改進(jìn)。例如，高通聲稱新的相機(jī)和視覺處理架構(gòu)在視頻捕捉、游戲和XR應(yīng)用方面，功耗比上一代降低了30％，新的Adreno 630也讓圖形處理性能和功效提升高達(dá)30％。

三星Exynos 9系列：

2018年初，三星電子發(fā)布了最新的高端應(yīng)用處理器（AP）Exynos 9系列9810，主要面向AI應(yīng)用和富媒體內(nèi)容。這款移動(dòng)處理器是三星的第三代定制CPU（2.9 GHz），內(nèi)置超高速千兆LTE調(diào)制解調(diào)器和深度學(xué)習(xí)增強(qiáng)的圖像處理功能模塊。

該處理器采用新的八核CPU，其中四個(gè)是第三代定制內(nèi)核，頻率可以達(dá)到2.9 GHz，另外四個(gè)針對效能進(jìn)行了優(yōu)化?！巴ㄟ^擴(kuò)展流水線并改善高速緩存的架構(gòu)，單核性能提升了兩倍，多核性能也比其前代產(chǎn)品提高了約40％，”三星表示。

該芯片還增加了一些新功能，包括通過神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)來增強(qiáng)用戶體驗(yàn)，并通過單獨(dú)的安全處理單元來提高安全性，以保護(hù)個(gè)人數(shù)據(jù)安全，比如面部、虹膜和指紋信息。Exynos 9系列的9810目前已經(jīng)量產(chǎn)。

這些是目前已經(jīng)上市的一些AI處理器。開發(fā)人員可以為其特定的嵌入式AI項(xiàng)目找到最合適的AI芯片。