NVIDIA打破AI推理性能記錄

　NVIDIA憑借A100進一步擴大了在MLPerf基準(zhǔn)測試中的領(lǐng)先優(yōu)勢，實現(xiàn)了比CPU快237倍的AI推理性能，助力企業(yè)將AI研究轉(zhuǎn)化為生產(chǎn)力。

　　加利福尼亞州圣克拉拉市— 2020年10月22日— NVIDIA今日宣布，其AI計算平臺在最新一輪MLPerf基準(zhǔn)測試中再次打破性能記錄，在這一業(yè)內(nèi)唯一評估硬件、軟件和服務(wù)的第三方AI性能基準(zhǔn)測試中進一步擴大了其領(lǐng)先優(yōu)勢。

　　在今年第二輪MLPerf 推理測試中，NVIDIA創(chuàng)下了數(shù)據(jù)中心與邊緣計算系統(tǒng)全部六個應(yīng)用領(lǐng)域的記錄。此次測試中，計算機視覺測試從最初的兩項擴展到四項，涵蓋了AI應(yīng)用增長最快的領(lǐng)域，包括：推薦系統(tǒng)、自然語言理解、語音識別和醫(yī)療影像。

　　憑借NVIDIA? A100 Tensor Core GPU出色的推理性能，各個行業(yè)的機構(gòu)將AI研究轉(zhuǎn)化為日常運營中的生產(chǎn)力。金融機構(gòu)使用對話式AI更快速地回答客戶問題，零售商們使用AI保證貨架庫存充足，醫(yī)療機構(gòu)使用AI分析數(shù)百萬張醫(yī)療影像，以更準(zhǔn)確地診斷疾病，從而挽救生命。

　　NVIDIA加速計算部門總經(jīng)理兼副總裁Ian Buck表示：“我們正處在一個轉(zhuǎn)折點，各個行業(yè)都致力于更好地利用AI，從而提供新的服務(wù)并尋求業(yè)務(wù)的發(fā)展?！?/p>

　　“NVIDIA為MLPerf上取得的成績付出了巨大的努力，將助力各企業(yè)的AI性能提升到新的高度，以改善我們的日常生活?！?/p>

　　在MLPerf最新結(jié)果出爐之際，NVIDIA 的AI推理業(yè)務(wù)也已得到迅速擴展。五年前，只有少數(shù)領(lǐng)先的高科技公司使用GPU進行推理?，F(xiàn)在，企業(yè)可通過各大云和數(shù)據(jù)中心基礎(chǔ)設(shè)施供應(yīng)商來使用NVIDIA的AI平臺。各行業(yè)都在使用NVIDIA 的AI推理平臺改善業(yè)務(wù)運營，提供更多的服務(wù)。

　　此外，NVIDIA GPU首次在公有云中實現(xiàn)了超越CPU的AI推理能力?；?NVIDIA GPU的總體云端AI推理計算能力每兩年增長約10倍。

　　NVIDIA問鼎AI推理性能的新高峰

　　NVIDIA及其合作伙伴提交了基于NVIDIA加速平臺的MLPerf 0.7的測試結(jié)果。該平臺包含NVIDIA數(shù)據(jù)中心GPU、邊緣AI加速器和經(jīng)過優(yōu)化的NVIDIA軟件。

　　NVIDIA 于今年早些時候發(fā)布了A100。憑借其第三代Tensor Core核心和多實例GPU技術(shù)，A100在ResNet-50測試中的領(lǐng)先優(yōu)勢進一步擴大。在上一輪測試中，它以30倍比6倍的成績擊敗了CPU的測試結(jié)果。另外，此次MLPerf Inference 0.7基準(zhǔn)測試中，新增了針對數(shù)據(jù)中心推理性能的推薦系統(tǒng)測試。在該測試中，A100所展現(xiàn)出的性能比最先進的CPU高出237倍。

　　這意味著，一套DGX A100系統(tǒng)可以提供相當(dāng)于近1000臺雙插槽CPU服務(wù)器的性能，能為客戶AI推薦系統(tǒng)模型從研發(fā)走向生產(chǎn)的過程，提供極高的成本效益。

　　基準(zhǔn)測試結(jié)果顯示，NVIDIA T4 Tensor Core GPU仍然是主流企業(yè)、邊緣服務(wù)器和高成本效益云實例的可靠推理平臺。在同一測試中，NVIDIA T4 GPU的性能比CPU高出28倍。此外，NVIDIA Jetson AGX Xavier? 已成為基于Soc的邊緣設(shè)備中最強大的平臺。

　　這些結(jié)果離不開高度優(yōu)化的軟件堆棧，包括NVIDIA TensorRT? 推理優(yōu)化器和NVIDIA Triton? 推理服務(wù)軟件。這兩款軟件堆棧均可在NGC?（NVIDIA的軟件目錄）中獲取。

　　除NVIDIA提交的結(jié)果外，還有11家NVIDIA合作伙伴提交了基于NVIDIA GPU的1，029個測試結(jié)果，占數(shù)據(jù)中心和邊緣類別中參評測試結(jié)果總數(shù)的85％以上。