0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

在AI浪潮的推動(dòng)下,AMD再用Chiplet技術(shù)交出階段性答卷!

奇普樂芯片技術(shù) ? 來源:奇普樂芯片技術(shù) ? 2023-06-20 16:29 ? 次閱讀

眾所周知,隨著最近生成式AI浪潮的席卷全球,NVIDIA無(wú)論影響力還是股價(jià)都已一息千里;

但可能令黃仁勛也想不到的是:僅僅在就在本月初,在NVIDIA推出被稱作“巨型GPU”的GH200超級(jí)芯片后,作為表外甥女的AMD總裁蘇姿豐也放出了其“終極武器”——MI300X。

6月14日凌晨一點(diǎn),AMD舉行了最新直播活動(dòng),這一次,蘇媽帶來多款重磅產(chǎn)品:

588889d6-0c27-11ee-962d-dac502259ad0.png

圖片來自:AMD

蘇姿豐率先公布了Instinct MI300A,她稱之為全球首個(gè)為AI和HPC(高性能計(jì)算)打造的APU加速器,擁有多達(dá)13顆小芯片,總共包含1460億個(gè)晶體管

該加速器采用CDNA 3 GPU架構(gòu)和24個(gè)Zen 4 CPU內(nèi)核,配置128GB的HBM3內(nèi)存,相比前代MI250,MI300的性能提高八倍,效率提高五倍。

而全場(chǎng)發(fā)布會(huì)的重頭戲,則是一款全新的純GPU產(chǎn)品 ——“Instinct MI300X”;

58e39b50-0c27-11ee-962d-dac502259ad0.png

圖片來自:AMD

據(jù)蘇姿豐介紹:Instinct MI300X內(nèi)存達(dá)到了192GB,內(nèi)存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s,晶體管達(dá)到嘆為觀止的1530億個(gè)。

這與NVIDIAH100芯片相比,MI300X提供的HBM密度最高是前者的2.4倍,HBM帶寬最高則是1.6倍。這意味著,AMD的芯片可以運(yùn)行比NVIDIA芯片更大的模型;蘇姿豐強(qiáng)調(diào),生成式AI模型可能不再需要數(shù)目那么龐大的GPU,由此可為用戶節(jié)省成本。

當(dāng)然,我們這里所說的二者的關(guān)系問題,并不是道聽途說而來:

這兩人不僅都出生在臺(tái)南,且還有親戚關(guān)系,蘇姿豐的外公與黃仁勛的母親是兄妹;相當(dāng)于,蘇姿豐是黃仁勛的外甥女,換言之,黃仁勛是蘇姿豐的表舅

更有意思的是,黃仁勛職業(yè)生涯早期還曾在AMD工作過,他也曾提起自己很喜歡當(dāng)時(shí)的工作。

回到正題,或許你和我一樣,在本場(chǎng)發(fā)布會(huì)之前都認(rèn)為:

蘇姿豐和她的AMD技術(shù)團(tuán)隊(duì)是否可以生產(chǎn)出足夠強(qiáng)大的芯片,以打破NVIDIA對(duì)GPU市場(chǎng)幾乎壟斷的地位呢?

答案就在本次發(fā)布會(huì)蘇姿豐的驚人話語(yǔ)中:“隨著模型尺寸變得越來越大,你需要多個(gè) GPU 來運(yùn)行最新的大型語(yǔ)言模型;且,隨著 AMD 芯片上內(nèi)存增加,開發(fā)者將不需要那么多 GPU?!?/p>

58f0deb4-0c27-11ee-962d-dac502259ad0.png

圖片來自:AMD

其理由是:AMD 的 Instinct MI300 系列以及NVIDIA的 H100 / H800 系列 GPU 都在采用臺(tái)積電先進(jìn)的后端 3D 封裝方法 CoWoS,導(dǎo)致臺(tái)積電 CoWoS 產(chǎn)能短缺將持續(xù)存在;臺(tái)積電目前有能力每月處理大約 8000 片 CoWoS 晶圓,其中NVIDIA和 AMD 合計(jì)占了大約 70% 到 80%。

尤其,用于CoWoS和其他先進(jìn)封裝技術(shù)的封裝設(shè)備需要專門的生產(chǎn)工具,它們的交貨時(shí)間在3到6個(gè)月之間;這意味著臺(tái)積電迅速擴(kuò)大其CoWoS產(chǎn)能的能力是有限的。

特別值得一提的是:這張集成了1530億晶體管的怪獸芯片也是AMD Chiplet技術(shù)生態(tài)的集大成者:

AMD本次發(fā)布的MI300A被蘇姿豐稱作“面向 AI 和高性能計(jì)算的全球首款 APU 加速器”,將多個(gè) CPU、GPU 和高帶寬內(nèi)存封在一起,在 13 個(gè) Chiplets 上擁有1460 億顆晶體管。

AMD Instinct MI 300X和AMD Instinct MI 300A不同點(diǎn)在于,AMD Instinct MI 300X并沒有集成CPU內(nèi)核,而是采用了8 個(gè) GPU Chiplet(基于CDNA 3架構(gòu))和另外 4 個(gè) IO 內(nèi)存Chiplet的設(shè)計(jì),這讓其集成的晶體管數(shù)量達(dá)到了驚人的1530億。

與此同時(shí),Chiplet技術(shù)在AI芯片中具有提高芯片集成度、降低生成本、提高性能、降低性能和提高芯片可能依賴等技術(shù)作用;隨著技術(shù)的不斷進(jìn)步和應(yīng)用場(chǎng)景的不斷擴(kuò)大,Chiplet技術(shù)在AI芯片中的應(yīng)用前景將會(huì)更加廣泛。

590cc84a-0c27-11ee-962d-dac502259ad0.png

圖片來自:AMD

尤其,作為一款對(duì)標(biāo)NVIDIA H100的產(chǎn)品,AMD Instinct MI 300X的HMB密度是前者的2.4倍,帶寬則為前者的1.6倍;這讓AMD的這顆產(chǎn)品在當(dāng)前的AI時(shí)代競(jìng)爭(zhēng)力大增。

同時(shí),基于帶寬高達(dá)896GB/s的AMD Infinity架構(gòu),AMD可以將八個(gè) M1300X 加速器組合在一個(gè)系統(tǒng)中,這樣就能為開發(fā)帶來更強(qiáng)大的計(jì)算能力,為 AI 推理和訓(xùn)練提供不一樣的解決方案。

綜上所述,毋庸置疑,這是一場(chǎng)攸關(guān)未來的半導(dǎo)體競(jìng)賽;全球數(shù)據(jù)中心 GPU 和 CPU 的頭部企業(yè)NVIDIA和Intel均在強(qiáng)調(diào)其加速 AI 的實(shí)力。

但,作為這兩條賽道“萬(wàn)年老二”的 AMD,也在競(jìng)相滿足對(duì) AI 計(jì)算日益增長(zhǎng)的需求,并通過推出適應(yīng)最新需求的數(shù)據(jù)中心 GPU 來挑戰(zhàn)NVIDIA在新興市場(chǎng)的主導(dǎo)地位。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • amd
    amd
    +關(guān)注

    關(guān)注

    25

    文章

    5520

    瀏覽量

    135045
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    32504

    瀏覽量

    271716
  • chiplet
    +關(guān)注

    關(guān)注

    6

    文章

    438

    瀏覽量

    12688

原文標(biāo)題:在AI浪潮的推動(dòng)下,AMD再用Chiplet技術(shù)交出階段性答卷!

文章出處:【微信號(hào):奇普樂芯片技術(shù),微信公眾號(hào):奇普樂芯片技術(shù)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 0人收藏

    評(píng)論

    相關(guān)推薦

    Banana Pi 與瑞薩電子攜手共同推動(dòng)開源創(chuàng)新:BPI-AI2N

    與嵌入式系統(tǒng)的優(yōu)勢(shì),該聯(lián)合解決方案旨在打造更開放、更靈活的軟硬件平臺(tái)。 “此次合作將提升瑞薩開源社區(qū)的知名度?;?RZ/V2N 的突破 BPI-AI2N SOM 有望對(duì)多個(gè)行業(yè)產(chǎn)生重大影響,為工程師
    發(fā)表于 03-12 09:43

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    工作的理解。 有AI加持的FPGA工程師不僅不會(huì)被人工智能取代,反而能夠充分發(fā)揮FPGA的靈活性和高效AI時(shí)代創(chuàng)造出更具競(jìng)爭(zhēng)力的解決方案,推動(dòng)
    發(fā)表于 03-03 11:21

    AI賦能邊緣網(wǎng)關(guān):開啟智能時(shí)代的新藍(lán)海

    在數(shù)字化轉(zhuǎn)型的浪潮中,AI與邊緣計(jì)算的結(jié)合正掀起一場(chǎng)深刻的產(chǎn)業(yè)變革。邊緣網(wǎng)關(guān)作為連接物理世界與數(shù)字世界的橋梁,AI技術(shù)的加持
    發(fā)表于 02-15 11:41

    解鎖Chiplet潛力:封裝技術(shù)是關(guān)鍵

    如今,算力極限挑戰(zhàn)正推動(dòng)著芯片設(shè)計(jì)的技術(shù)邊界。Chiplet的誕生不僅僅是技術(shù)的迭代,更是對(duì)未來芯片架構(gòu)的革命改變。然而,要真正解鎖
    的頭像 發(fā)表于 01-05 10:18 ?567次閱讀
    解鎖<b class='flag-5'>Chiplet</b>潛力:封裝<b class='flag-5'>技術(shù)</b>是關(guān)鍵

    AMD發(fā)布10億參數(shù)開源AI模型OLMo

    AMD公司近日宣布了一項(xiàng)重大進(jìn)展,推出了首個(gè)完全開放的10億參數(shù)語(yǔ)言模型系列——AMD OLMo。這一舉措為開發(fā)者和研究人員提供了強(qiáng)大的AI研究工具,有助于推動(dòng)
    的頭像 發(fā)表于 11-12 18:08 ?575次閱讀

    浪潮信息AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    AI技術(shù)的無(wú)限可能。近日,MLCommons的子項(xiàng)目MLPerf Storage v1.0性能基準(zhǔn)評(píng)測(cè)中,浪潮信息再度展現(xiàn)了
    的頭像 發(fā)表于 10-29 16:30 ?390次閱讀
    <b class='flag-5'>浪潮</b>信息<b class='flag-5'>AI</b>存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    IMEC組建汽車Chiplet聯(lián)盟

    來源:芝能智芯 微電子研究中心imec宣布了一項(xiàng)旨在推動(dòng)汽車領(lǐng)域Chiplet技術(shù)發(fā)展的新計(jì)劃。 這項(xiàng)名為汽車Chiplet計(jì)劃(ACP)的倡議,吸引了包括Arm、ASE、寶馬、博世、
    的頭像 發(fā)表于 10-15 13:36 ?396次閱讀
    IMEC組建汽車<b class='flag-5'>Chiplet</b>聯(lián)盟

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    。 4. 對(duì)未來生命科學(xué)發(fā)展的展望 閱讀這一章后,我對(duì)未來生命科學(xué)的發(fā)展充滿了期待。我相信,人工智能技術(shù)推動(dòng),生命科學(xué)將取得更加顯著
    發(fā)表于 10-14 09:21

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    計(jì)算的結(jié)合 我深刻體會(huì)到高性能計(jì)算(HPC)AI for Science中的重要。傳統(tǒng)的科學(xué)計(jì)算往往面臨計(jì)算量大、計(jì)算時(shí)間長(zhǎng)等問題,而AI技術(shù)
    發(fā)表于 10-14 09:16

    AMD發(fā)布新版Instinct MI325X

    今日,芯片行業(yè)的老牌巨頭AMDAI領(lǐng)域交出了一份令人矚目的答卷。   美國(guó)時(shí)間10月10日,AM
    的頭像 發(fā)表于 10-12 16:54 ?900次閱讀

    突破與解耦:Chiplet技術(shù)AMD實(shí)現(xiàn)高性能計(jì)算與服務(wù)器領(lǐng)域復(fù)興

    的前沿技術(shù)時(shí),AMD 才會(huì)越來越好。 ——AMD 董事會(huì)主席及首席執(zhí)行官 Lisa Su 博士 開端:Why Chiplet? 2017年對(duì)于AMD
    的頭像 發(fā)表于 08-21 18:33 ?2275次閱讀
    突破與解耦:<b class='flag-5'>Chiplet</b><b class='flag-5'>技術(shù)</b>讓<b class='flag-5'>AMD</b>實(shí)現(xiàn)高性能計(jì)算與服務(wù)器領(lǐng)域復(fù)興

    AI魔術(shù)上演前夕,國(guó)產(chǎn)存儲(chǔ)早已強(qiáng)勢(shì)清場(chǎng)

    逆襲AI,國(guó)產(chǎn)存儲(chǔ)已交出答卷
    的頭像 發(fā)表于 08-08 17:46 ?3250次閱讀
    <b class='flag-5'>AI</b>魔術(shù)上演前夕,國(guó)產(chǎn)存儲(chǔ)早已強(qiáng)勢(shì)清場(chǎng)

    OpenAI公布AI發(fā)展的五個(gè)階段

    北京時(shí)間7月12日,OpenAI為追蹤其人工智能(AI技術(shù)追趕并超越人類智能的進(jìn)程,正式公布了AI發(fā)展的五個(gè)階段性劃分,旨在加深公眾對(duì)公司AI
    的頭像 發(fā)表于 07-12 15:50 ?3116次閱讀

    AMD巨資收購(gòu)Silo AI,加速AI生態(tài)布局

    科技界掀起新一輪人工智能(AI浪潮之際,全球領(lǐng)先的處理器制造商AMD宣布了一項(xiàng)重大戰(zhàn)略舉措,正式簽署了以6.65億美元全現(xiàn)金收購(gòu)歐洲最大私人人工智能實(shí)驗(yàn)室Silo
    的頭像 發(fā)表于 07-11 11:18 ?892次閱讀

    微鏈道愛與浪潮信息合作,AI視覺技術(shù)邁入全新階段

    的服務(wù)器解決方案提供商浪潮信息正式簽署了元腦生態(tài)戰(zhàn)略合作協(xié)議,標(biāo)志著雙方AI視覺技術(shù)領(lǐng)域的合作邁入了一個(gè)全新的階段
    的頭像 發(fā)表于 07-08 17:00 ?689次閱讀

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品