GPU集成12顆HBM4，臺(tái)積電CoWoS-L、CoW-SoW技術(shù)演進(jìn)

電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）日前消息，臺(tái)積電計(jì)劃于2027年量產(chǎn)CoW-SoW（晶圓上系統(tǒng)）封裝技術(shù)，該技術(shù)是將InFO-SoW（集成扇出晶圓上系統(tǒng)）與SoIC（集成芯片系統(tǒng)）結(jié)合，把存儲(chǔ)器和邏輯芯片堆疊在晶圓上。這一技術(shù)的推進(jìn)是為了應(yīng)對(duì)更強(qiáng)大的人工智能芯片以及AI趨勢(shì)下集成更多HBM存儲(chǔ)芯片的需求。

臺(tái)積電的InFO-SoW已經(jīng)用于Cerebras AI芯片、Tesla Dojo的處理器等上面。其中，Cerebras Systems打造的超大AI芯片，采用互連的方法將所有內(nèi)核放在同一塊硅晶圓上，臺(tái)積電曾表示其扇出型封裝技術(shù)使芯片厚度減少20%，成本降低30%，同時(shí)互連功耗降低15%。也就是說數(shù)據(jù)移動(dòng)快速且低功耗。而特斯拉Dojo超算系統(tǒng)集成25個(gè)D1芯片的訓(xùn)練模塊，也是通過臺(tái)積電的InFO_SoW整合扇出技術(shù)來實(shí)現(xiàn)的。

而InFO-SoW主要還是以一種制造工藝進(jìn)行生產(chǎn)，難以進(jìn)行不同工藝Die的集成。CoW-SoW的出現(xiàn)能夠更好地整合邏輯芯片和存儲(chǔ)芯片的集成，并獲取更高的互聯(lián)帶寬。據(jù)臺(tái)積電介紹，CoW-SoW技術(shù)的面積可比當(dāng)前光罩極限大40倍，并且可以將HBM容量擴(kuò)展60倍。這將使人工智能和大型數(shù)據(jù)中心的巨型芯片的開發(fā)成為可能。

2024年6月黃仁勛宣布下一代數(shù)據(jù)中心GPU架構(gòu)平臺(tái)Rubin將集成 HBM4 內(nèi)存，Rubin GPU 和Rubin Ultra GPU預(yù)計(jì)分別于2026年和2027年發(fā)布。根據(jù)曝料，Rubin架構(gòu)首款產(chǎn)品為R100，采用臺(tái)積電3nm EUV制造工藝，四重曝光技術(shù)，CoWoS-L封裝，預(yù)計(jì)2025年第四季度投產(chǎn)。Rubin GPU將配備8個(gè)HBM4芯片、 Rubin Ultra GPU 將集成12顆HBM4芯片。這也是英偉達(dá)首次在其AI芯片中使用12顆HBM 芯片。

這里的CoWoS-L是CoWoS提供三種不同的轉(zhuǎn)接板技術(shù)之一，是CoWoS未來發(fā)展的關(guān)鍵技術(shù)。根據(jù)臺(tái)積電的規(guī)劃，其將于2026年推出，可將中介層尺寸拓展至光罩極限的5.5倍,可支持12個(gè)HBM內(nèi)存堆棧，也就是單一封裝中整合更多計(jì)算和存儲(chǔ)資源，進(jìn)一步滿足AI性能的需求。

考慮到臺(tái)積電CoW-SoW技術(shù)計(jì)劃于2027年開始量產(chǎn)，外界認(rèn)為有可能會(huì)被英偉達(dá)的Rubin Ultra采用。

另?yè)?jù)早前的報(bào)道，SK 海力士希望將HBM4通過3D堆疊的方式直接集成在芯片上。外媒認(rèn)為，Nvidia和SK海力士很可能會(huì)共同設(shè)計(jì)這種集成芯片，并借助臺(tái)積電進(jìn)行代工。通過臺(tái)積電的晶圓鍵合技術(shù)將SK海力士的HBM4芯片直接堆疊到邏輯芯片上，HBM無需中介層。

市場(chǎng)調(diào)研機(jī)構(gòu)Yole預(yù)測(cè)，先進(jìn)封裝市場(chǎng)在2021-2027年間復(fù)合增長(zhǎng)率將達(dá)到9.81%，到2027年市場(chǎng)規(guī)模將達(dá)到591億美元。此外，2.5D/3D封裝技術(shù)將實(shí)現(xiàn)顯著增長(zhǎng)，預(yù)計(jì)其復(fù)合增長(zhǎng)率將達(dá)到13.73%，到2027年2.5D/3D封裝市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)180億美元。

誠(chéng)然，AI性能的不斷提升需要依靠算力、存力和運(yùn)力的綜合能力，單純的依靠先進(jìn)制程來提升算力已不足夠。尤其是將大AI芯片與更多存儲(chǔ)更近距離的集成是AI性能不斷突破的關(guān)鍵，先進(jìn)封裝對(duì)于AI芯片的優(yōu)化起到越來越重要的作用。