0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達(dá)缺貨?OpenAI選擇自研芯片

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2024-01-30 00:51 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/周凱揚(yáng))在生成式AI和大模型帶來的AI洪流下,不少大廠都不約而同地選擇了自研AI芯片。即便這意味著組建新的團(tuán)隊(duì),花費(fèi)大量的資金,但從長遠(yuǎn)發(fā)展的角度來看,自研芯片似乎成了勢在必行。然而掀起這股AI洪流,或者說將其推向浪尖的“始作俑者”,OpenAI,卻也已經(jīng)在計(jì)劃著自研芯片。

有了英偉達(dá)供應(yīng)的前提下為何要走向自研之路

稍有關(guān)注OpenAI動向的話,想必也對2023年底OpenAI鬧出的離職風(fēng)波有所耳聞。據(jù)外網(wǎng)報道,在OpenAI鬧劇期間,Sam Altman已經(jīng)在秘密籌劃一項(xiàng)數(shù)十億美元的芯片項(xiàng)目(據(jù)稱項(xiàng)目名為Tigris)。甚至其去年的中東之行,就是為了給這一項(xiàng)目籌集資金。

在各大公司都選擇批量掃貨的前提下,去年用于AI服務(wù)器的英偉達(dá)GPU處于一個極度缺貨的狀態(tài),比如Meta就在月初宣布計(jì)劃再購買35萬塊英偉達(dá)的H100 GPU。就連為OpenAI提供服務(wù)器的微軟,也面臨著擴(kuò)大AI服務(wù)器規(guī)模的困難。為此微軟也在加快內(nèi)部AI芯片的研發(fā)進(jìn)程,但微軟的這一芯片必然不是單純?yōu)榱薕penAI打造的,而是面向所有Azure的客戶。

更別說OpenAI面臨著超高的運(yùn)維成本,網(wǎng)傳OpenAI每天的服務(wù)器運(yùn)維費(fèi)用高達(dá)70萬美元。
在如此高昂的服務(wù)器硬件與運(yùn)維成本下,OpenAI也開展了相關(guān)的訂閱收費(fèi)模式ChatGPT Plus,費(fèi)用為20美元每月。

但據(jù)統(tǒng)計(jì),去年10月份ChatGPT Plus的訂閱用戶只有20多萬,這樣的用戶規(guī)模根本沒法覆蓋運(yùn)維支出。更何況因?yàn)橛布Y源的限制,OpenAI一直在限制ChatGPT Plus的訂閱用戶規(guī)模,以免出現(xiàn)服務(wù)器負(fù)載過高的情況。

為此,OpenAI要想進(jìn)一步降本增效,并保證下一代GPT模型能有足夠的算力支撐,走上自研這條路倒也情有可原。由OpenAI自研的芯片,自然會專為GPT模型作針對性的優(yōu)化,也有利于未來的模型與硬件迭代。

從資金、設(shè)計(jì)到制造,OpenAI尋求外援

然而自研造芯不僅需要組建一個設(shè)計(jì)團(tuán)隊(duì),也需要半導(dǎo)體制造廠商的支持,更別說打造高性能AI芯片的資金了。據(jù)了解,阿布扎比的G42和日本的軟銀已經(jīng)與Sam Altman展開合作交談,這些投資者將為OpenAI提供足夠的資金來打造一個AI芯片的制造網(wǎng)絡(luò)。

據(jù)傳這一投資也拉到了臺積電的合作,后者將為其提供芯片的支持。要知道目前用于AI芯片的CoWoS先進(jìn)封裝產(chǎn)能可是炙手可熱,即便臺積電在積極擴(kuò)產(chǎn),但在源源不斷的制造訂單下,可能仍然難以滿足云服務(wù)廠商和互聯(lián)網(wǎng)廠商們的AI芯片需求。

再者就是HBM的產(chǎn)能,除了算力對邏輯芯片提出的高要求外,AI應(yīng)用所需的高帶寬也對存儲芯片提出了不少的要求,甚至在近年推出的一大批AI芯片中,HBM內(nèi)存已經(jīng)成了標(biāo)配??蒆BM有限的制造廠商們卻面臨著產(chǎn)能緊缺的問題,比如SK海力士就透露其2024年的HBM3和HBM3E產(chǎn)能已經(jīng)全部售罄,甚至已經(jīng)在和客戶商討2025年的訂單。

其實(shí)早在去年6月,Sam Altman就曾訪問韓國,并與韓國總統(tǒng)尹錫悅會面,并提議韓國應(yīng)該多多關(guān)注芯片產(chǎn)能問題。上周,Sam Altman再度訪韓,據(jù)悉其參觀了三星電子的半導(dǎo)體產(chǎn)線,并會見了三星的芯片業(yè)務(wù)負(fù)責(zé)人,這之后又與SK海力士的CEO進(jìn)行了會談。此行的目的已經(jīng)很明顯了,這兩大HBM廠商都已經(jīng)打入了英偉達(dá)的AI芯片HBM內(nèi)存供應(yīng)鏈中,尤其是SK海力士。

OpenAI要想自研AI芯片,勢必用上最新的HBM內(nèi)存,那么與存儲廠商直接預(yù)訂產(chǎn)能是最好的選擇。這也是自研AI芯片面臨的難處之一,英偉達(dá)這類已經(jīng)有大量訂單和多年設(shè)計(jì)經(jīng)驗(yàn)的廠商,在晶圓代工廠往往有著更大的話語權(quán),能夠搶占到更大的產(chǎn)能。如果OpenAI能夠拋出大批量的訂單的話,或許可以說動臺積電、三星和SK海力士等廠商為其騰出額外的產(chǎn)能。

自研的其他捷徑

對于OpenAI來說,自研AI芯片固然存在著很多阻礙,但在這個設(shè)計(jì)路線已經(jīng)與過去大不相同的時期,也有不少捷徑可走,比如Chiplet技術(shù)。谷歌TPU項(xiàng)目的負(fù)責(zé)人之一Richard Ho從去年11月起,已被OpenAI聘請為硬件部門的負(fù)責(zé)人。但從其公開招募的職位來看,OpenAI還沒有大規(guī)模組建硬件設(shè)計(jì)團(tuán)隊(duì)。

即便如此,OpenAI依然有著縮短芯片設(shè)計(jì)周期的手段,那就是通過Chiplet技術(shù),降低設(shè)計(jì)芯片的工程量。其自研的部門只需要涵蓋芯片的邏輯計(jì)算部分,其余的I/O等模塊,均可以靠第三方IP打造的Chiplet進(jìn)行實(shí)現(xiàn)。

如此一來不僅可以充分利用異構(gòu)集成的高性價比,也可以通過重復(fù)利用IP來避免反復(fù)造輪子的情況,也更容易實(shí)現(xiàn)芯片的迭代,不需要組建一整個大型硬件設(shè)計(jì)團(tuán)隊(duì),從而將更多精力放在計(jì)算核心的設(shè)計(jì),以及與軟硬件的聯(lián)調(diào)上。更重要的是KGD的優(yōu)勢保證了Chiplet的良率,也就直接提高最終AI芯片成品的良率,對于新晉芯片設(shè)計(jì)廠商而言,這能有效地降低制造分享。

寫在最后

從OpenAI或?qū)⒆匝行酒膭酉蚧騻餮詠砜矗珹I的框架和應(yīng)用走向成熟和爆紅,僅僅只是實(shí)現(xiàn)成功的第一步。要想實(shí)現(xiàn)可持續(xù)的商業(yè)化落地,還是少不了硬件的支撐,尤其是與模型契合的AI芯片。所以只要是可以負(fù)擔(dān)得起大投入和高風(fēng)險的AI公司,都會考慮自研專用AI芯片。

同時,我們也可以看出OpenAI的野心確實(shí)不小,不少AI模型/應(yīng)用開發(fā)商并沒有這個魄力去選擇自研的道路,因?yàn)榻^大多數(shù)競爭對手的運(yùn)營方式還是靠服務(wù)器托管,以訂閱制或Token數(shù)來進(jìn)行收費(fèi),其用戶量也還沒達(dá)到云服務(wù)廠商難以維系的程度。而OpenAI憑借ChatGPT成為落地AI應(yīng)用的領(lǐng)頭羊,甚至不少云服務(wù)廠商親自下場也沒能實(shí)現(xiàn)ChatGPT的熱度。或許對于OpenAI而言,自研芯片固然風(fēng)險極高,卻依然是推動公司進(jìn)入下一階段的最優(yōu)解。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3810

    瀏覽量

    91441
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1103

    瀏覽量

    6597
收藏 人收藏

    評論

    相關(guān)推薦

    “端到端”智駕芯片,英偉達(dá)DRIVE Thor接棒,車企芯片對標(biāo)行業(yè)領(lǐng)先

    。 ? 在智駕芯片層面,不少廠商采用了英偉達(dá)的DRIVE Orin芯片,以及下一代智能駕駛計(jì)算平臺Thor進(jìn)行開發(fā),MDC610、地平線征程5、征程6
    的頭像 發(fā)表于 12-09 09:05 ?1491次閱讀

    AI大模型不再依賴英偉達(dá)GPU?蘋果揭秘大模型

    ,獲得足夠的算力構(gòu)建自己的計(jì)算中心,用于訓(xùn)練不同應(yīng)用的AI模型。 AI領(lǐng)域眾星捧月也造就了英偉達(dá)市值曾突破三萬億美元,并短暫登頂全球第一的位置。不過蘋果卻反其道而行之,在7月底蘋果公司揭露的官方論文顯示,蘋果
    的頭像 發(fā)表于 08-05 06:07 ?4035次閱讀
    AI大模型不再依賴<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>GPU?蘋果揭秘<b class='flag-5'>自</b><b class='flag-5'>研</b>大模型

    OpenAI與博通洽談合作!定制化ASIC芯片走向臺前,英偉達(dá)GPU迎來“勁敵”?

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)為了減輕對英偉達(dá)的依賴,OpenAI一直在推進(jìn)芯片計(jì)劃。7月1
    的頭像 發(fā)表于 07-20 00:02 ?4996次閱讀
    <b class='flag-5'>OpenAI</b>與博通洽談合作!定制化ASIC<b class='flag-5'>芯片</b>走向臺前,<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>GPU迎來“勁敵”?

    蘋果AI芯片,或終結(jié)與英偉達(dá)多年合作

    蘋果公司正加速推進(jìn)AI芯片的步伐,旨在減少對外部供應(yīng)商的依賴,這一戰(zhàn)略調(diào)整或?qū)氐赘淖兤渑c英偉達(dá)長達(dá)數(shù)十年的合作關(guān)系。 盡管目前蘋果仍在
    的頭像 發(fā)表于 12-27 10:18 ?170次閱讀

    OpenAI調(diào)整硬件戰(zhàn)略:2026年起將自AI芯片

    10月30日,路透社發(fā)布消息稱,OpenAI正著手調(diào)整其硬件戰(zhàn)略,旨在優(yōu)化計(jì)算資源配置并削減成本。此次調(diào)整中,OpenAI將引入AMD的MI300系列芯片,并繼續(xù)保留對英偉
    的頭像 發(fā)表于 10-30 16:23 ?443次閱讀

    科技看點(diǎn):摩根大通詳解“英偉達(dá)芯片問題”馬斯克560億薪酬方案引爭議

    給大家分享一些科技巨頭的最新消息: 摩根大通詳解“英偉達(dá)芯片問題” 在摩根大通的一份報透露出“英偉達(dá)
    的頭像 發(fā)表于 08-05 16:18 ?677次閱讀

    亞馬遜AWSAI芯片崛起,挑戰(zhàn)英偉達(dá)

    原話強(qiáng)調(diào)道:“在特定情況下,這款芯片的性能表現(xiàn)相較于英偉達(dá)產(chǎn)品可以實(shí)現(xiàn)高達(dá)40%到50%的提升,因此它的制造成本應(yīng)僅為采用英偉達(dá)同類產(chǎn)品的一半左右。”
    的頭像 發(fā)表于 07-27 14:33 ?1136次閱讀

    OpenAI芯片計(jì)劃調(diào)整,傳交臺積電生產(chǎn)

    近日,全球領(lǐng)先的生成式AI應(yīng)用大廠OpenAI芯片領(lǐng)域迎來了重大戰(zhàn)略調(diào)整。為降低對外部AI芯片的依賴,
    的頭像 發(fā)表于 07-23 16:52 ?708次閱讀

    華與英偉達(dá)深化合作,成為NVIDIA AI Enterprise軟件全球分銷商

    近日,華宣布擴(kuò)大與英偉達(dá)的合作,未來將通過工業(yè)級邊緣計(jì)算和英偉達(dá) AI Enterprise 軟件平臺提升全球企業(yè)的AI生產(chǎn)力。
    的頭像 發(fā)表于 05-10 10:25 ?474次閱讀

    英偉達(dá)首次向OpenAI供應(yīng)AI服務(wù)器,鴻海出貨預(yù)期將增長

    2017年起,鴻海便開始與英偉達(dá)合作開發(fā)服務(wù)器,其中包括世界上首臺AI服務(wù)器HGX1。值得注意的是,OpenAI成立之初,有一張照片展示了黃仁勛贈予馬斯克一臺AI服務(wù)器,并在其上簽名
    的頭像 發(fā)表于 04-26 16:18 ?942次閱讀

    微軟正開發(fā)英偉達(dá)網(wǎng)卡的替代品

    微軟公司,全球科技巨頭,正在研發(fā)一種新型網(wǎng)卡,旨在提升其人工智能芯片Maia的性能,并減少對英偉達(dá)產(chǎn)品的依賴。據(jù)稱,這款新型網(wǎng)卡的設(shè)計(jì)和功能與
    的頭像 發(fā)表于 02-21 11:06 ?840次閱讀

    微軟正在研發(fā)新型網(wǎng)卡,旨在提升AI芯片性能

    微軟近日被曝正在秘密研發(fā)一款高性能的新型網(wǎng)卡,這一創(chuàng)新旨在增強(qiáng)其的Maia AI服務(wù)器芯片的功能,并可能大幅度降低對外部芯片設(shè)計(jì)廠商如英偉
    的頭像 發(fā)表于 02-21 11:01 ?778次閱讀

    英偉達(dá)涉足定制芯片,聚焦云計(jì)算與AI市場

     作為全球高端AI芯片市場80%份額的霸主,英偉達(dá)2023以來股價上漲超過兩倍,2024年市值高達(dá)1.73萬億美元。知名公司如微軟、OpenAI
    的頭像 發(fā)表于 02-18 11:08 ?729次閱讀

    英偉達(dá)注資聊天機(jī)器人制造商Kore.ai,進(jìn)軍人工智能市場

    近年來,英偉達(dá)與新興人工智能科技公司展開頻繁合作,如Hugging Face、Cohere和Mistral AI。其頂級芯片系統(tǒng)在生成式AI的訓(xùn)練和開發(fā)過程中發(fā)揮著關(guān)鍵作用。去年
    的頭像 發(fā)表于 01-31 10:02 ?668次閱讀