首款面向邊緣設(shè)備的AI平臺Nvidia EGX發(fā)布!將 AI 帶到網(wǎng)絡(luò)的邊緣

英偉達(dá)最新發(fā)布首款面向邊緣設(shè)備的AI平臺Nvidia EGX，將 AI 帶到了網(wǎng)絡(luò)的邊緣。該平臺可以實時感知、理解和處理數(shù)據(jù)，而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。

在今天臺北電腦展COMPUTEX 2019上，英偉達(dá)帶來了一項重大發(fā)布：推出首款面向邊緣設(shè)備的AI平臺Nvidia EGX。

此外，發(fā)布會還公布了另幾項好消息，包括將最先進(jìn)的RTXGPU 帶到了筆記本電腦上，免費提供帶有實時光線追蹤的體驗版游戲等。

新的Nvidia EGX平臺，將AI帶到了網(wǎng)絡(luò)的邊緣。該平臺可以實時感知、理解和處理數(shù)據(jù)，而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。

將AI應(yīng)用到智能手機、傳感器和工廠機器等邊緣設(shè)備上，是AI技術(shù)發(fā)展的下一步。最早的AI算法非常復(fù)雜，只能在運行在云端數(shù)據(jù)中心的強大機器上處理，這意味著要通過網(wǎng)絡(luò)發(fā)送大量信息。但這是不可取的，因為這樣做需要大量帶寬，并且會導(dǎo)致更高的延遲，使得“實時”非常難。

“在[物聯(lián)網(wǎng)]傳感器的增長推動下，計算行業(yè)發(fā)生了巨大的變化，”英偉達(dá)企業(yè)與邊緣計算高級主管Justin Boitano在新聞發(fā)布會上表示?！坝杏糜谟^察世界的攝像頭，用于聆聽世界的麥克風(fēng)，還有一些設(shè)備可以讓機器探測到現(xiàn)實世界正在發(fā)生什么。”

這些都意味著需要分析的原始數(shù)據(jù)量正在呈指數(shù)增長。

“我們很快就會到達(dá)一個交叉點，在這個交叉點，邊緣的計算能力比數(shù)據(jù)中心更強，”Boitano說。

企業(yè)真正想要的是讓AI在數(shù)據(jù)產(chǎn)生的地方執(zhí)行，無論是在制造設(shè)施、零售店還是倉庫。領(lǐng)先的科技公司一直試圖解決的問題，包括最近英特爾也推出了其首款面向邊緣計算的10納米“Ice Lake”芯片，此外，許多初創(chuàng)公司也推出了這類芯片。

但英偉達(dá)進(jìn)軍AI領(lǐng)域的舉動引人注目，因為英偉達(dá)的GPU被廣泛認(rèn)為是最好的AI處理硬件之一。其中包括用于深度學(xué)習(xí)的Tesla V100，以及能夠?qū)崟r進(jìn)行光線追蹤的Quadro GV100。

英偉達(dá)邊緣AI平臺三大特性

新的NVIDIA EGX平臺專為邊緣新型的高吞吐量AI應(yīng)用而設(shè)計，其中數(shù)據(jù)來源可實現(xiàn)即時或保證響應(yīng)時間，同時減少云帶寬。

EGX平臺是可擴展的?？梢詮幕?strong>Jetson Nano處理器的輕型服務(wù)器擴展到基于NVIDIA T4的邊緣服務(wù)器的微型數(shù)據(jù)中心，前者每秒可執(zhí)行0.5萬億次操作，僅需幾瓦特；后者每秒可執(zhí)行10,000萬億次操作。芯片的節(jié)能能力對AI來說非常重要，因為傳統(tǒng)硬件在運行這類任務(wù)時耗電量巨大。

Justin Boitano表示，到2025年，全球?qū)⒂屑s1500億臺機器傳感器和“物聯(lián)網(wǎng)”設(shè)備，因此對NGX這樣的平臺的需求將是巨大的。他說，其中許多傳感器將用于“智能城市”等項目，并將輸出需要在現(xiàn)場處理的數(shù)據(jù)，原因包括需要更低的延遲、實時響應(yīng)、數(shù)據(jù)主權(quán)規(guī)則或隱私方面的擔(dān)憂。

“無論是視覺方面還是在語言方面上，AI確實是所有行業(yè)的殺手級應(yīng)用，”Boitano說。

如果人們真的想要充分利用這些芯片，那么合作關(guān)系也很重要。出于這個原因，Nvidia正在將運行在EGX上的Nvidia Edge Stack軟件與Red Hat公司的OpenShift Kubernetes容器編排平臺相整合，以使其與現(xiàn)代軟件應(yīng)用程序兼容。

該平臺還集成了來自Mellanox technologies Ltd.的安全、存儲和網(wǎng)絡(luò)技術(shù)。英偉達(dá)計劃在年底前以69億美元的價格收購這家公司。

總結(jié)而言，NVIDIA EGX具有以下特性：

高性能和可擴展

EGX從小型的NVIDIA?Jetson Nano?開始，幾瓦的功率就可以提供每秒0.5萬億次(TOPS)的處理操作，用于圖像識別等任務(wù)。此外，EGX可擴展到所有的NVIDIA T4服務(wù)器，提供超過10,000 TOPS，可以為數(shù)百名用戶提供實時語音識別和其他復(fù)雜的AI體驗。

混合云和多云物聯(lián)網(wǎng)

NVIDIA EGX在架構(gòu)上與主要云提供的NVIDIA AI計算兼容。在云上開發(fā)的AI應(yīng)用可以運行在NVIDIA EGX上，反之亦然。NVIDIA Edge Stack連接主要的云物聯(lián)網(wǎng)服務(wù)，客戶可以通過AWS IoT Greengrass和微軟的Azure IoT Edge遠(yuǎn)程管理他們的服務(wù)。

企業(yè)級和安全性

NVIDIA Edge Stack在領(lǐng)先的企業(yè)級Kubernetes容器編排平臺Red Hat OpenShift上進(jìn)行了優(yōu)化。Mellanox Smart NIC可以卸載和加速軟件定義的網(wǎng)絡(luò)，從而在不影響CPU性能的情況下實現(xiàn)更高級別的隔離和安全性。

Mellanox的首席技術(shù)官Michael Kagan說：“Mellanox Smart NIC和交換機為從邊緣到超大規(guī)模數(shù)據(jù)中心的數(shù)據(jù)訪問提供了理想的I/O連接?！?/p>

NGX還與運行在主要云基礎(chǔ)設(shè)施服務(wù)(如AWS和Microsoft Azure)上的AI應(yīng)用程序兼容，并可以連接到物聯(lián)網(wǎng)服務(wù)，如AWS Greengrass和Azure IoT Edge等。

筆記本電腦也可以用英偉達(dá)最先進(jìn)的專業(yè)級GPU

作為Computex 2019新聞發(fā)布會的一部分，英偉達(dá)宣布了全新的“筆記本電腦品牌認(rèn)證推廣計劃”，即Nvidia RTX Studio。

首款支持的是Quadro RTX 5000，與臺式機版本相同，有3072顆CUDA核心、48顆RT核心、384顆Tensor核心和16GB GDDR6 RAM，專為那些從事大量圖形或視頻工作的專業(yè)人士而設(shè)計。

首批共有7家合作伙伴公司(華碩，戴爾，惠普，微星，雷蛇，技嘉和宏碁)的一共17款筆記本電腦由，這些筆記本電腦將搭載新的Quadro GPU，都以“RTX Studio”的名稱命名。

用英偉達(dá)GeForce軟件與技術(shù)總經(jīng)理Jason Paul的話說，這些筆記本將能夠“隨時隨地”提供“桌面級性能”。英偉達(dá)還宣稱這些筆記本的運行速度比同等級的MacBook Pro快7倍，配備32GB RAM和AMD的Pro Vega 20 GPU。

One More Thing：快來玩帶光線追蹤的《雷神之錘2》

在今年GDC上，英偉達(dá)展示了實時光線追蹤加強版的《雷神之錘2》demo，新技術(shù)加持后的老游戲魅力大放異彩，收獲了非常多的關(guān)注。

今天在Computex上，英偉達(dá)宣布將從6月6日起免費向玩家提供《雷神之錘2 RTX》的體驗版本，大家可以親身體驗堪稱游戲革命的實時光線追蹤技術(shù)了！

據(jù)介紹，這個體驗版總共只有三關(guān)，之后可以通過NVIDIA官網(wǎng)或Steam下載。NVIDIA內(nèi)部的Lightspeed Studios為游戲加入了更真實的光影效果，比如即時光線、間接照明、水面反光等視覺元素在作品中都可以找到。