國內(nèi)公司自主研發(fā)GPU+：兼容CUDA、性能及能效超競品

近日，自稱為國內(nèi)自主創(chuàng)新的通用GPU領(lǐng)軍企業(yè)的登臨科技獲得中國互聯(lián)網(wǎng)投資基金（簡稱“中網(wǎng)投”）獨家投資。

公司稱，這將為登臨新一代Goldwasser（高凜）規(guī)模化量產(chǎn)及商業(yè)化落地提供重要保障。

高凜是一款AI加速卡，首款產(chǎn)品2021年量產(chǎn)投入市場，2022年銷售過萬片。

第二代產(chǎn)品2022年流片，2023年實現(xiàn)量產(chǎn)。根據(jù)現(xiàn)有客戶測試結(jié)果，二代產(chǎn)品針對基于transformer類型的模型提供3-5倍的性能提升，大幅降低類ChatGPT及生成式AI應(yīng)用的硬件成本。

在官網(wǎng)，登臨介紹自己是國內(nèi)首家完全憑借自主創(chuàng)新，實現(xiàn)規(guī)模化商業(yè)落地的通用GPU企業(yè)，登臨科技核心IP完全自主研發(fā)，其自主創(chuàng)新的GPU+（基于GPGPU的軟件定義的片內(nèi)異構(gòu)計算架構(gòu)），在兼容 CUDA/OpenCL 在內(nèi)的編程模型和軟件生態(tài)的基礎(chǔ)上，通過架構(gòu)創(chuàng)新，解決了客戶核心關(guān)注的通用性和高效率的雙重難題。

其表示，經(jīng)過大量客戶產(chǎn)品化驗證，針對AI計算，GPU+相比現(xiàn)有主流GPU在性能及能效上有顯著提升。

在AI市場上，NVIDIA現(xiàn)在是沒有對手的階段，AI顯卡份額估計在90%以上，AMD都很難競爭，現(xiàn)在Intel也加入這個市場了，而且找到了NVIDIA的一個痛點，那就是性價比。

NVIDIA目前受追捧的AI顯卡主要是A100、H100，國內(nèi)有特供的閹割版A800、H800，性能比原版弱20%左右，但即便如此依然供不應(yīng)求，A800一周時間就從9萬元漲到11萬元以上，H100價格在25萬元以上，H800也要20萬出頭，而且不同經(jīng)銷商的價格差異很大。

Intel自然也不會放過這個市場，日前在國內(nèi)舉行發(fā)布會，也推出了AI顯卡Habana Gaudi2，這是去年底發(fā)布的AI推理加速芯片，從第一代的16nm工藝升級到7nm工藝，Tensor 處理器核心數(shù)量增至 24 個，同時集成了多媒體處理引擎，內(nèi)存升級至 96GB HBM2E。

國內(nèi)版的Gaudi2主要是閹割了部分網(wǎng)絡(luò)接口，但也集成了21路100Gbps網(wǎng)絡(luò)接口，總體來說性能依然很可觀。

Intel還公布了Gaudi2跟H100的AI性能對比，面對要求極為苛刻的、1750億參數(shù)的GPT-3模型，384個Gaudi2加速器上的訓(xùn)練時間僅為311.9分鐘，而且從256個加速器到384個加速器，性能擴展幅度達95％。

NVIDIA這邊在512塊 H100 GPU上的訓(xùn)練時間則為64分鐘，論單卡性能的話是Gaudi2的3.6倍多，但是Intel不會跟H100拼極限性能，而是強調(diào)性價比。

Habana Labs 首席運營官 Eitan Medina 表示，性價比是影響H100和Gaudi2相對價值的重要考量因素，Gaudi2 服務(wù)器的成本要比H100低得多。

更重要的是，目前Gaudi2還沒有支持AI常用的FP8運算格式，這種情況下Gaudi2 在性價比上也勝過了H100，今年3季度會升級支持FP8運算，Gaudi2的性能將有明顯飛躍，性價比要比H100更高了。