0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT對GPU算力的需求測算與分析

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-02-21 09:43 ? 次閱讀

GPGPU的核心壁壘是高精度浮點計算及CUDA生態(tài)。從高精度浮點計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距;在軟件和生態(tài)層面與英偉達CUDA生態(tài)的差距則更為明顯。

AI計算GPU領域,國內(nèi)壁仞科技發(fā)布的BR100產(chǎn)品在FP32單精度計算性能上實現(xiàn)超越NVIDIA A100芯片,但是不支持FP64雙精度計算;天數(shù)智芯推出的天垓100的FP32單精度計算性能實現(xiàn)超越A100芯片,但是在INT8整數(shù)計算性能方面卻低于A100;海光推出的DCU實現(xiàn)了FP64雙精度浮點計算,但是其性能為A100的60%左右,大概相當于其4年前水平。因此,從高精度浮點計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距。

雖然目前國內(nèi)產(chǎn)品的計算性能和軟件生態(tài)實力與國際廠商還有差距,但是,國內(nèi)廠商依然在奮起直追,努力實現(xiàn)GPGPU的國產(chǎn)化突破。長久來看,美國對中國高端GPU的禁售令反而給國產(chǎn)GPGPU和AI芯片廠商帶來快速發(fā)展的機會。

短期來看,我們認為對高端通用計算GPU的禁令可能會影響英偉達和AMD的GPU產(chǎn)品在中國的銷售,中國AI計算、超級計算和云計算產(chǎn)業(yè)進步受到一定的阻礙??墒褂糜ミ_和AMD還沒有被禁止的及國產(chǎn)廠商的中高計算性能CPU、GPU、ASIC芯片等替代。

長期來看,國產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國內(nèi)市場,疊加國內(nèi)信創(chuàng)市場帶來國產(chǎn)化需求增量,我們預期國內(nèi)AI芯片的國產(chǎn)化比例將顯著提升,借此機會進行產(chǎn)品升級,逐漸達到國際先進水平,突破封鎖。

252d9224-b179-11ed-bfe3-dac502259ad0.png

25601a32-b179-11ed-bfe3-dac502259ad0.png

25c4ce14-b179-11ed-bfe3-dac502259ad0.png

26200658-b179-11ed-bfe3-dac502259ad0.png

26702eee-b179-11ed-bfe3-dac502259ad0.png

269a6c2c-b179-11ed-bfe3-dac502259ad0.png

26e77c10-b179-11ed-bfe3-dac502259ad0.png

2734b1e2-b179-11ed-bfe3-dac502259ad0.png

27a7ff58-b179-11ed-bfe3-dac502259ad0.png

2818d76e-b179-11ed-bfe3-dac502259ad0.png

2871b690-b179-11ed-bfe3-dac502259ad0.png

28bdec54-b179-11ed-bfe3-dac502259ad0.png

2904abf8-b179-11ed-bfe3-dac502259ad0.png

292f6e1a-b179-11ed-bfe3-dac502259ad0.png

29829590-b179-11ed-bfe3-dac502259ad0.png

29baab24-b179-11ed-bfe3-dac502259ad0.png

29f2e7b4-b179-11ed-bfe3-dac502259ad0.png

2a2451f0-b179-11ed-bfe3-dac502259ad0.png

2a734e4a-b179-11ed-bfe3-dac502259ad0.png

2aaf76d6-b179-11ed-bfe3-dac502259ad0.png

2af9dece-b179-11ed-bfe3-dac502259ad0.png

2b16e636-b179-11ed-bfe3-dac502259ad0.png

2b695d94-b179-11ed-bfe3-dac502259ad0.png

2ba82718-b179-11ed-bfe3-dac502259ad0.png

2bdfcee8-b179-11ed-bfe3-dac502259ad0.png

2c1b7f56-b179-11ed-bfe3-dac502259ad0.png

2c82d1ba-b179-11ed-bfe3-dac502259ad0.png

2cc716fe-b179-11ed-bfe3-dac502259ad0.png

2d2c8066-b179-11ed-bfe3-dac502259ad0.png

2d710cb8-b179-11ed-bfe3-dac502259ad0.png

2db79ebc-b179-11ed-bfe3-dac502259ad0.png

2df3a6e6-b179-11ed-bfe3-dac502259ad0.png

本文選自“ChatGPT對GPU算力的需求測算與相關分析”,以上為部分內(nèi)容,完整報告請參看原文。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    51140

    瀏覽量

    426142
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4767

    瀏覽量

    129206
  • ChatGPT
    +關注

    關注

    29

    文章

    1566

    瀏覽量

    7927

原文標題:ChatGPT對GPU算力的需求測算與分析

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    中心的如何衡量?

    作為當下科技發(fā)展的重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應用的運行。以下是對智中心算衡量的詳細闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?326次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    未來邊緣GPU在車聯(lián)網(wǎng)中的創(chuàng)新應用(下)

    本文來源:壹靈??萍茧S著5G通信技術的普及和人工智能技術的飛速發(fā)展,邊緣GPU將在車聯(lián)網(wǎng)領域發(fā)揮更加重要的作用。5G網(wǎng)絡的高帶寬和低延遲特性為車聯(lián)網(wǎng)提供了強大的支持,使得車輛能夠?qū)崟r地交換大量
    的頭像 發(fā)表于 12-19 11:16 ?237次閱讀
    未來邊緣<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯(lián)網(wǎng)中的創(chuàng)新應用(下)

    一文梳理:如何構建并優(yōu)化GPU中心?

    目前最常見的AI中心部署的GPU集群大小為 2048、1024、512 和 256,且部署成本隨 GPU 數(shù)量線性增長。本文將以相對折中的1024
    的頭像 發(fā)表于 11-15 11:59 ?483次閱讀
    一文梳理:如何構建并優(yōu)化<b class='flag-5'>GPU</b>云<b class='flag-5'>算</b><b class='flag-5'>力</b>中心?

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--了解芯片GPU

    著色器(Pixel shader)是圖形流水線中相當強大的功能單元,因為它可以為每個片段執(zhí)行復雜的計算,從而為最終渲染的圖像添加細節(jié)和視覺效果。 DirectX API推動 GPU 演進
    發(fā)表于 11-03 12:55

    GPU開發(fā)平臺是什么

    隨著AI技術的廣泛應用,需求呈現(xiàn)出爆發(fā)式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業(yè)獲取
    的頭像 發(fā)表于 10-31 10:31 ?229次閱讀

    【一文看懂】大白話解釋“GPUGPU

    隨著大模型的興起,“GPU”這個詞正頻繁出現(xiàn)在人工智能、游戲、圖形設計等工作場景中,什么是GPU,它與CPU的區(qū)別是什么?以及到底什么是GPU
    的頭像 發(fā)表于 10-29 08:05 ?896次閱讀
    【一文看懂】大白話解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    GPU租用平臺怎么樣

    GPU租用平臺以其成本效益、靈活性與可擴展性、簡化運維以及即時訪問等優(yōu)勢,在深度學習、科學計算、圖形渲染等多個領域發(fā)揮著重要作用。
    的頭像 發(fā)表于 10-17 10:03 ?254次閱讀

    GPU租用平臺是什么

    GPU租用平臺是一種基于云計算的服務模式,它允許用戶通過互聯(lián)網(wǎng)按需租用高性能GPU資源,而無需自行購買、部署和維護這些硬件。
    的頭像 發(fā)表于 10-16 10:15 ?284次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    更高、更密集的應用需求。 12年前,我與本書作者相識時,他向我提出一個想法:建立中關村在線高性能計算頻道。該頻道隸屬于核心硬件事業(yè)部,聚焦芯片相關的產(chǎn)品技術分析、評測,并為企業(yè)客戶
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設備,其性能優(yōu)化顯得尤為關鍵。而GPU服務器
    的頭像 發(fā)表于 07-25 08:28 ?751次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務器為什么選擇<b class='flag-5'>GPU</b>

    液冷是大模型對需求的必然選擇?|英偉達 GTC 2024六大亮點

    在這個以高性能計算和大模型推動未來通用人工智能時代,已成為科技發(fā)展的隱形支柱。本文將重點探討的演進,深入分析在不同領域中
    的頭像 發(fā)表于 04-10 12:57 ?664次閱讀
    液冷是大模型對<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>的必然選擇?|英偉達 GTC 2024六大亮點

    Sora需求引發(fā)業(yè)界對集結國內(nèi)AI企業(yè)的探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠超千億規(guī)模模型。因而,考慮到如今國內(nèi)芯片供應受限,問題至關重要。事實上,Meta已有約50萬臺
    的頭像 發(fā)表于 02-25 10:03 ?623次閱讀