AMD硬剛英偉達(dá)，推出Instinct MI300，單芯片可運(yùn)行800億參數(shù)

電子發(fā)燒友網(wǎng)報(bào)道（文/黃山明）美國(guó)時(shí)間本周二，AMD舉行了重磅發(fā)布會(huì)，推出了一款全新的人工智能GPU Instinct MI300，并表示這款處理器將于今年晚些時(shí)候開(kāi)始向部分客戶(hù)發(fā)貨。自英偉達(dá)發(fā)布了AI芯片后，便徹底帶動(dòng)了市場(chǎng)的投資熱情，也推動(dòng)英偉達(dá)登上萬(wàn)億美元市值的高峰。此次AMD發(fā)布重磅AI芯片，有望對(duì)英偉達(dá)當(dāng)前的市場(chǎng)地位形成一定沖擊。

AMD推出高性能AI芯片

在這次AMD的新品發(fā)布會(huì)中，核心產(chǎn)品無(wú)疑是用于訓(xùn)練大模型的GPU Instinct MI300。早在今年初，AMD便已經(jīng)宣布了新一代Instinct MI300，是全球首款同時(shí)集成CPU、GPU的數(shù)據(jù)中心APU。

如今，這款芯片的名字變成了Instinct MI300A，而純GPU產(chǎn)品則命名為Instinct MI300X。據(jù)AMD的CEO蘇姿豐透露，MI300A是全球首個(gè)為AI和HPC（高性能計(jì)算）打造的APU加速卡，擁有13個(gè)小芯片，總共包含1460億個(gè)晶體管，24個(gè)Zen 4 CPU核心，1個(gè)CDNA 3圖形引擎和128GB HBM3內(nèi)存。

相比前代MI250，MI300的性能提高八倍，效率提高五倍。AMD在發(fā)布會(huì)稍早介紹，新的Zen 4c內(nèi)核比標(biāo)準(zhǔn)的Zen 4內(nèi)核密度更高，比標(biāo)準(zhǔn)Zen 4的內(nèi)核小35%，同時(shí)保持100%的軟件兼容性。

而GPU MI300X更是本次發(fā)布會(huì)的重點(diǎn)，這款芯片是AMD針對(duì)大語(yǔ)言模型優(yōu)化的版本，該產(chǎn)品的晶體管數(shù)量達(dá)到1530億個(gè)，內(nèi)存達(dá)到了192GB，內(nèi)存帶寬為5.2TB/s，Infinity Fabric帶寬為896GB/s。對(duì)比英偉達(dá)的H100，MI300X提供的HBM（高帶寬內(nèi)存）密度約為H100的2.4倍，HBM帶寬是1.6倍。

這意味著AMD的這款產(chǎn)品可以運(yùn)行比英偉達(dá)H100更大的模型，在現(xiàn)場(chǎng)AMD演示了MI300X運(yùn)行400億參數(shù)的Falcon模型，而OpenAI的GPT-3模型有1750億個(gè)參數(shù)。蘇姿豐還用Hugging Face基于MI300X的大模型寫(xiě)了一首關(guān)于活動(dòng)舉辦地舊金山的詩(shī)。

這也是全球首次在單個(gè)GPU上運(yùn)行這么大的模型，據(jù)AMD介紹，單個(gè)MI300X可以運(yùn)行一個(gè)參數(shù)多達(dá)800億的模型。而在未來(lái)隨著AI模型越來(lái)越大，意味著需要更多GPU來(lái)運(yùn)行最新的大模型，而AMD芯片上內(nèi)存的增加，意味著開(kāi)發(fā)人員不需要那么多GPU，可以為用戶(hù)節(jié)省大量成本。

蘇姿豐表示，MI300X將于今年第三季度向一些客戶(hù)提供樣品，并于第四季度量產(chǎn)。同時(shí)AMD還發(fā)布了AMD Instinct Platform，集合了8個(gè)MI300X，可提供總計(jì)1.5TB的HBM3內(nèi)存。對(duì)標(biāo)英偉達(dá)的CUDA，AMD也介紹了自身的芯片軟件ROCm，AMD總裁Victor Peng稱(chēng)，在構(gòu)建強(qiáng)大的軟件堆棧方面，AMD取得了真正的巨大進(jìn)步，ROCm軟件棧可與模型、庫(kù)、框架和工具的開(kāi)放生態(tài)系統(tǒng)配合使用。

之所以將重心放在AI芯片，也是因?yàn)锳MD非常看好未來(lái)的AI市場(chǎng)。蘇姿豐認(rèn)為，數(shù)據(jù)中心人工智能加速器的潛在市場(chǎng)總額將從今年的300億美元增長(zhǎng)到2027年的1500億美元以上。

硬剛英偉達(dá)，但尚未透露大客戶(hù)

從AMD所介紹的產(chǎn)品性能來(lái)看，將成為當(dāng)下AI市場(chǎng)的有力競(jìng)爭(zhēng)者，尤其在ChatGPT等生成式AI的帶動(dòng)下，市場(chǎng)對(duì)高性能GPU需求旺盛。不過(guò)當(dāng)前市場(chǎng)中，英偉達(dá)處于絕對(duì)優(yōu)勢(shì)，占據(jù)80%的市場(chǎng)。

而AMD并沒(méi)有公布這款GPU的具體價(jià)格，但是對(duì)比英偉達(dá)H100價(jià)格大多在3萬(wàn)美元以上，如果MI300X價(jià)格能夠更加實(shí)惠，將顯著的對(duì)英偉達(dá)產(chǎn)品造成沖擊，并有助于降低生成式AI的研發(fā)成本。

有意思的是，在如此強(qiáng)勁的性能面前，市場(chǎng)卻似乎并不買(mǎi)單。截至當(dāng)日收盤(pán)，AMD股價(jià)反而下降了3.61%，市值來(lái)到2000億元關(guān)口。而英偉達(dá)股價(jià)則拉升了3.9%，總市值達(dá)到1.01萬(wàn)億美元，是AMD的五倍。

此次AMD并未透露哪些公司會(huì)采用MI300X或簡(jiǎn)配版MI300A，而在此前的發(fā)布會(huì)中，AMD都會(huì)披露新產(chǎn)品的大客戶(hù)。這可能讓市場(chǎng)認(rèn)為，目前并沒(méi)有大客戶(hù)為這款芯片買(mǎi)單。

另一方面，AMD并沒(méi)有透露新款A(yù)I芯片的具體售價(jià)，但想要有顯著的成本優(yōu)勢(shì)可能不太現(xiàn)實(shí)，因?yàn)楦呙芏鹊腍BM價(jià)格昂貴。即便MI300X的內(nèi)存達(dá)到了192GB，但這也不是顯著優(yōu)勢(shì)，因?yàn)橛ミ_(dá)也擁有相同內(nèi)存規(guī)格的產(chǎn)品。

更重要的原因在于，MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型，以在AI的訓(xùn)練和推理中以較低的內(nèi)存利用率提供更好的性能。

有分析師認(rèn)為，如果訓(xùn)練一個(gè)新的模型，需要投入數(shù)千個(gè)GPU，并耗費(fèi)一年的時(shí)間，那么幾乎不會(huì)有人會(huì)浪費(fèi)2-3年或者投入3倍數(shù)量的GPU。而Transformer Engine能夠讓大模型實(shí)現(xiàn)三倍的性能表達(dá)。

盡管市場(chǎng)中認(rèn)為，AMD的MI300芯片應(yīng)該是除了谷歌的TPU之外，能與英偉達(dá)在AI訓(xùn)練端上匹敵的產(chǎn)品。成為當(dāng)前大企業(yè)在訓(xùn)練AI大模型時(shí)，除了英偉達(dá)之外的另一個(gè)重要選擇。

但想要在短時(shí)間內(nèi)挑戰(zhàn)英偉達(dá)，顯然還是比較困難的。就如AMD總裁VictorPeng說(shuō)的那樣，“盡管這是一個(gè)過(guò)程，但我們?cè)跇?gòu)建強(qiáng)大的軟件堆棧方面取得了很大進(jìn)展，該軟件堆棧與開(kāi)放的模型、庫(kù)、框架和工具生態(tài)系統(tǒng)兼容。”

無(wú)論如何需要市場(chǎng)中有大客戶(hù)切實(shí)的使用AMD新款芯片。

小結(jié)

AMD此次重磅發(fā)布的MI300系列芯片，無(wú)疑為AI市場(chǎng)注入了一劑強(qiáng)心針，不僅預(yù)示著AMD在持續(xù)看好未來(lái)的AI市場(chǎng)，也將表明AMD將在這一市場(chǎng)中與英偉達(dá)正面競(jìng)爭(zhēng)。至少對(duì)于相關(guān)企業(yè)及用戶(hù)而言，有更多的選擇是一件好事。