0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

突然發(fā)布AI芯片H200,英偉達(dá)在害怕什么?

AI芯天下 ? 來(lái)源:AI芯天下 ? 2023-11-25 11:32 ? 次閱讀

隨著人工智能技術(shù)的不斷發(fā)展,作為該領(lǐng)域最關(guān)鍵的基礎(chǔ)設(shè)施之一的人工智能芯片,其市場(chǎng)份額及商業(yè)價(jià)值也在持續(xù)增長(zhǎng),越來(lái)越多的行業(yè)巨頭開(kāi)始覬覦這塊不斷做大的蛋糕。

241c2586-8ac6-11ee-939d-92fbcf53809c.png ?

英偉達(dá)發(fā)布繼H100后的升級(jí)版超算芯片

近日,英偉達(dá)發(fā)布了下一代人工智能超算芯片——NVIDIA H200 Tensor Core GPU,被英偉達(dá)官網(wǎng)稱(chēng)為世界上最強(qiáng)大的GPU。

這款芯片具備卓越的性能和內(nèi)存功能,能夠顯著增強(qiáng)生成式AI和高性能計(jì)算(HPC)工作負(fù)載。

具體而言,當(dāng)用于Llama2、GPT-3等大型模型的推理或生成問(wèn)題答案時(shí),H200的性能較H100提高60%至90%。

CPU相比,H200的高性能計(jì)算速度提高了110倍。

在GPT-3的推理表現(xiàn)中,H100的性能比A100提高了11倍,H200的性能比A100提高到了18倍。

H200沿用了英偉達(dá)Hopper架構(gòu),采用臺(tái)積電4納米工藝,由超過(guò)800億個(gè)晶體管構(gòu)建而成。

這是首款采用HBM3e內(nèi)存的GPU,能夠以每秒4.8 TB的速度提供141GB內(nèi)存。

與前身NVIDIA A100相比,容量幾乎翻倍,帶寬增加2.4倍。

據(jù)Anandtech分析,H200的加速計(jì)算性能約為半年前發(fā)布的GH200 Hopper GPU的一半。

與H100相比,根據(jù)H200的總帶寬和內(nèi)存總線寬度計(jì)算,H200的內(nèi)存頻率增加了約25%。

242f983c-8ac6-11ee-939d-92fbcf53809c.png

急于抑制競(jìng)爭(zhēng)對(duì)手繼續(xù)搶占高端市場(chǎng)

英偉達(dá)急于發(fā)布H200,主要是因?yàn)橐庾R(shí)到人工智能芯片的競(jìng)爭(zhēng)即將升溫,眾多芯片巨頭已紛紛入局。

今年6月,AMD發(fā)布了針對(duì)AI需求的最新款芯片Instinct MI300,這是其最強(qiáng)大的產(chǎn)品之一,可能會(huì)讓英偉達(dá)措手不及。

微軟在11月也推出了首款自研AI芯片Maia 100。

這款芯片旨在運(yùn)行大語(yǔ)言模型,幫助人工智能系統(tǒng)更快地處理大量數(shù)據(jù)以完成圖像和語(yǔ)音識(shí)別等任務(wù),并有可能避免對(duì)英偉達(dá)的高成本依賴(lài)。

盡管微軟暫時(shí)不會(huì)出售這款芯片,但這標(biāo)志著在AI芯片領(lǐng)域英偉達(dá)已不再是唯一的主導(dǎo)者。

Meta Platforms正在開(kāi)發(fā)自己的硅芯片MTIA元訓(xùn)練和推理加速器,以實(shí)現(xiàn)其人工智能目標(biāo)。

此外,谷歌已擁有自主研發(fā)的芯片,而AI新貴OpenAI也在內(nèi)部討論自行研發(fā)人工智能芯片,以解決對(duì)英偉達(dá)GPU的依賴(lài)并減少相關(guān)支出。

因此,對(duì)英偉達(dá)而言,趁著人工智能的熱潮,盡快收割全球市場(chǎng)并回籠資金至關(guān)重要。

同時(shí),通過(guò)加速產(chǎn)品迭代給予競(jìng)爭(zhēng)對(duì)手更大壓力,特別是對(duì)AMD構(gòu)成足夠的壓迫。

中國(guó)市場(chǎng)眼下受阻長(zhǎng)期如此將生態(tài)脫鉤

黃仁勛深知中國(guó)市場(chǎng)對(duì)英偉達(dá)的重要性,中國(guó)作為全球人工智能芯片核心的市場(chǎng)之一,為英偉達(dá)帶來(lái)了高達(dá)九成的份額。

過(guò)去的幾個(gè)季度里,中國(guó)市場(chǎng)為英偉達(dá)貢獻(xiàn)了約25%的營(yíng)收,且增長(zhǎng)幅度與利潤(rùn)均表現(xiàn)優(yōu)異。

英偉達(dá)高度依賴(lài)中國(guó)市場(chǎng),中國(guó)市場(chǎng)長(zhǎng)期采購(gòu)大量游戲芯片、數(shù)據(jù)中心芯片,占英偉達(dá)總營(yíng)收的20%以上。

如果按照一枚A800芯片單價(jià)10萬(wàn)元(人民幣)計(jì)算,中國(guó)市場(chǎng)對(duì)A800/H800芯片需求量超過(guò)5萬(wàn)枚。

對(duì)于中國(guó)而言,其目的非常明確,即不能將市場(chǎng)機(jī)會(huì)拱手讓給國(guó)內(nèi)芯片廠商,尤其是華為。

更重要的是不能培養(yǎng)英偉達(dá)CUDA生態(tài)的潛在競(jìng)爭(zhēng)者,擔(dān)心華為通過(guò)昇騰芯片形成一套自主的人工智能底層生態(tài)。

因此,即使是通過(guò)閹割版也要堅(jiān)守中國(guó)市場(chǎng)。

中國(guó)市場(chǎng)不僅為英偉達(dá)提供了持續(xù)的營(yíng)收增長(zhǎng),還成為了英偉達(dá)人工智能芯片的試驗(yàn)場(chǎng)。

中國(guó)的科技公司開(kāi)發(fā)者是英偉達(dá)CUDA生態(tài)的重要參與者,為英偉達(dá)提供了豐富的應(yīng)用場(chǎng)景。

今年開(kāi)始,中國(guó)的科技巨頭與創(chuàng)業(yè)者已經(jīng)開(kāi)發(fā)了約130個(gè)大模型,他們急需英偉達(dá)速度更快的GPU芯片來(lái)提供算力支撐。

近期,百度向華為訂購(gòu)了1600枚昇騰910B AI芯片,總價(jià)值達(dá)4.5億人民幣。

此外,360集團(tuán)創(chuàng)始人周鴻祎亦表示,360采購(gòu)了約1000枚華為AI芯片。

華為推出的兩款GPU芯片昇騰310和昇騰910B備受矚目。

特別是昇騰910B被視為與A100性能相當(dāng)?shù)男酒?,受到了市?chǎng)的熱烈追捧。

科大訊飛還與華為聯(lián)合開(kāi)發(fā)了基于昇騰生態(tài)的算力底座[飛星一號(hào)]平臺(tái)。

2466c0e6-8ac6-11ee-939d-92fbcf53809c.png

隨著管制措施的實(shí)施,[中國(guó)芯]的崛起可能會(huì)帶來(lái)一個(gè)機(jī)會(huì)窗口,這可能導(dǎo)致英偉達(dá)在中國(guó)市場(chǎng)面臨更大的競(jìng)爭(zhēng)壓力。

中國(guó)本應(yīng)成為英偉達(dá)成長(zhǎng)的關(guān)鍵引擎,但如今英偉達(dá)不得不通過(guò)推出中國(guó)特供版芯片來(lái)維系在中國(guó)不斷萎縮的市場(chǎng)。

英偉達(dá)曾在中國(guó)花費(fèi)大量精力建立生態(tài),這是其競(jìng)爭(zhēng)力的核心,但在管制下,維持這一生態(tài)變得越來(lái)越困難。

如果缺少中國(guó)用戶(hù),英偉達(dá)曾努力建設(shè)的CUDA生態(tài)未來(lái)在中國(guó)可能會(huì)逐漸凋敝。

短期來(lái)看,中國(guó)區(qū)營(yíng)收下滑對(duì)英偉達(dá)的影響有限,但長(zhǎng)期來(lái)看,生態(tài)脫鉤是其最不愿意看到的局面。

結(jié)尾:

單看算力這一指標(biāo),H200的算力與H100基本相同,對(duì)比兩者的產(chǎn)品規(guī)格表可以發(fā)現(xiàn),實(shí)現(xiàn)算力不變而性能飛躍的關(guān)鍵點(diǎn)就是內(nèi)存。

在各芯片企業(yè)的推動(dòng)下,AI芯片的競(jìng)逐正從初期的算力指標(biāo)競(jìng)爭(zhēng),進(jìn)一步延展到存儲(chǔ)領(lǐng)域,HBM幾乎成為了未來(lái)AI芯片當(dāng)中必備且必爭(zhēng)的存儲(chǔ)器。







審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1792

    文章

    47425

    瀏覽量

    238961
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3796

    瀏覽量

    91321
  • GPT
    GPT
    +關(guān)注

    關(guān)注

    0

    文章

    354

    瀏覽量

    15433
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    303

    瀏覽量

    5852
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1893

    瀏覽量

    35099

原文標(biāo)題:分析丨突然發(fā)布AI芯片H200,英偉達(dá)在害怕什么?

文章出處:【微信號(hào):World_2078,微信公眾號(hào):AI芯天下】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    英偉達(dá)H200芯片將大規(guī)模交付

    英偉達(dá)AI GPU市場(chǎng)迎來(lái)新動(dòng)態(tài),其H200型號(hào)上游芯片端已于第二季度下旬正式進(jìn)入量產(chǎn)階段,預(yù)示著該產(chǎn)品將在第三季度后迎來(lái)大量交付。然而,
    的頭像 發(fā)表于 07-04 10:29 ?731次閱讀

    英偉達(dá)H200顯卡參數(shù)是什么

    英偉達(dá)H200顯卡的參數(shù)非常出色,主要表現(xiàn)在以下幾個(gè)方面。
    的頭像 發(fā)表于 03-07 17:02 ?2834次閱讀

    英偉達(dá)H200顯卡怎么樣

    英偉達(dá)H200顯卡是一款表現(xiàn)出色的產(chǎn)品,其性能、技術(shù)、應(yīng)用等方面都有顯著的優(yōu)勢(shì)。
    的頭像 發(fā)表于 03-07 16:50 ?1983次閱讀

    英偉達(dá)H200上市時(shí)間

    英偉達(dá)H200于2023年11月13日正式發(fā)布。然而,由于HBM3e芯片供應(yīng)問(wèn)題,其實(shí)際開(kāi)售時(shí)間有所延遲。
    的頭像 發(fā)表于 03-07 16:46 ?2415次閱讀

    英偉達(dá)H200帶寬狂飆

    英偉達(dá)H200帶寬的顯著提升主要得益于其強(qiáng)大的硬件配置和先進(jìn)的技術(shù)創(chuàng)新。H200配備了高達(dá)141GB的HBM3e顯存,與前代產(chǎn)品H100相比
    的頭像 發(fā)表于 03-07 16:44 ?972次閱讀

    英偉達(dá)H200性能怎么樣

    英偉達(dá)H200性能卓越,集成了高性能CPU和GPU,通過(guò)高速NVLink連接,消除了傳統(tǒng)計(jì)算瓶頸。其配備了高達(dá)141GB的HBM3e高帶寬內(nèi)存,大幅提升了數(shù)據(jù)處理能力。H200能輕松應(yīng)
    的頭像 發(fā)表于 03-07 16:39 ?1068次閱讀

    英偉達(dá)H200H800的區(qū)別

    英偉達(dá)H200H800多個(gè)方面存在一些關(guān)鍵性的區(qū)別。
    的頭像 發(fā)表于 03-07 16:30 ?4004次閱讀

    英偉達(dá)H200和A100的區(qū)別

    英偉達(dá)H200和A100兩款芯片在性能、架構(gòu)、內(nèi)存以及應(yīng)用場(chǎng)景等多個(gè)方面存在顯著的區(qū)別。
    的頭像 發(fā)表于 03-07 16:23 ?3700次閱讀

    英偉達(dá)H200和A100的差異

    英偉達(dá)H200和A100多個(gè)方面存在差異。
    的頭像 發(fā)表于 03-07 16:18 ?2618次閱讀

    英偉達(dá)H200算力怎么樣

    英偉達(dá)H200的算力非常強(qiáng)大。作為新一代AI芯片,H200
    的頭像 發(fā)表于 03-07 16:15 ?2181次閱讀

    英偉達(dá)H200能作為普通顯卡使用嗎

    英偉達(dá)H200不能作為普通顯卡使用。H200是一款專(zhuān)為AI計(jì)算設(shè)計(jì)的芯片,它并不具備普通顯卡的圖
    的頭像 發(fā)表于 03-07 16:13 ?1716次閱讀

    英偉達(dá)H200顯卡價(jià)格

    英偉達(dá)H200顯卡的具體價(jià)格尚未公布。根據(jù)上一代H100顯卡的價(jià)格范圍,預(yù)計(jì)H200的單片價(jià)格將超過(guò)40000美元。由于新
    的頭像 發(fā)表于 03-07 16:09 ?5253次閱讀

    英偉達(dá)H200什么時(shí)候上市

    英偉達(dá)于2023年11月13日發(fā)布了新一代AI芯片H200,但具體的上市時(shí)間可能因各種因素有所調(diào)
    的頭像 發(fā)表于 03-07 16:04 ?1132次閱讀

    英偉達(dá)H200H100的比較

    英偉達(dá)H200H100是兩款不同的AI芯片,它們各自具有獨(dú)特的特點(diǎn)和優(yōu)勢(shì)。以下是關(guān)于這兩款
    的頭像 發(fā)表于 03-07 15:53 ?4754次閱讀

    英偉達(dá)H200參數(shù)說(shuō)明

    英偉達(dá)H200是一款新一代AI芯片,于2023年11月14日正式發(fā)布,主要被設(shè)計(jì)用來(lái)處理生成式人
    的頭像 發(fā)表于 03-07 15:48 ?1930次閱讀