Chiplet&互聯(lián)要聞分享 「奇說芯語 Kiwi talks」

Chiplet&互聯(lián)要聞

1、英特爾預計在“Clearwater Forest”采用獨立IO

英特爾計劃推出一款名為“Clearwater Forest”的高核心數(shù)服務器CPU，采用18A工藝、PowerVIA以提高性能和能效。該CPU將采用多種封裝技術，如Foveros Direct 3D直接銅鍵合和EMIB 3.5D技術，以優(yōu)化SRAM和I/O的封裝。

Intel Foveros Direct 3D

Intel EMIB 3.5D

值得一提的是，在封裝方面，英特爾表示將使用其他工藝節(jié)點來封裝 SRAM 和 I/O，因為它們在較新的工藝上擴展性不佳。

若18A工藝可以按時交付，與 2024 年第一季度的 Xeon 相比，Clearwater Forest 通過大量的 E 核、更大的緩存和更多的 I/O ，將有機會改變游戲規(guī)則。

2、Meta 基于RDMA和 RoCE構建GenAI 基礎設施

為確保每天處理數(shù)百萬億個AI模型執(zhí)行的數(shù)據(jù)中心可以高效運行，Meta正建立強大的AI基礎設施，包括兩個裝有24k GPU的集群，以支持開放計算和AI模型，如Llama 3的開發(fā)。

其中，Meta基于Arista 7800以及Wedge400和Minipack2 OCP 機架交換機構建了一個具有融合了 RDMA和 RoCE的網(wǎng)絡結構解決方案的集群。另一個集群采用NVIDIA Quantum2 InfiniBand fabric。這兩種解決方案的互聯(lián)均為400 Gbps endpoint。

通過對網(wǎng)絡、軟件和模型架構的仔細協(xié)同設計，Meta 成功的將 RoCE 和 InfiniBand 集群用于大型 GenAI 工作負載（包括在 RoCE 集群上持續(xù)訓練 Llama 3）。Meta計劃到2024年底，擴展其GPU數(shù)量至350,000，推動人工通用智能（AGI）的進展。

3、TSMC推出新技術以增強高性能計算芯片互聯(lián)

近日，臺積電推出了一個新的封裝平臺，旨在通過使用硅光子學改善高性能計算和人工智能芯片的互連帶寬。

該技術通過硅光子傳輸數(shù)據(jù)和異構芯片堆疊，以提升AI加速器的性能，并支持增加更多高帶寬內(nèi)存和芯粒。為了解決添加更多HBM和芯粒帶來的互連和電源問題，這項技術采用了混合鍵合、集成穩(wěn)壓器，以及可能的本地硅中介層。據(jù)TSMC稱，此技術有望將今日最先進芯片的晶體管數(shù)量從1000億提升至1萬億，對AI領域造成重大影響。

高性能計算應用探索

1、英特爾拓展代工業(yè)務，尋求與NVIDIA、AMD合作

英特爾正努力擴大其代工業(yè)務，以尋求將高通、谷歌、微軟，甚至NVIDIA、AMD納為自家客戶，并通過分離其設計和代工部門的名稱（可能還包括結構）來進行戰(zhàn)略轉型。

Pat Gelsinger近期宣布，將很快發(fā)布設計和代工部門的獨立財務報告，并計劃創(chuàng)建一個專注于最大化制造能力的獨立法人實體。此外，Gelsinger提到，采用英特爾20A/18A工藝節(jié)點設計的基于Arm的Neoverse處理器即將開始生產(chǎn)。

不過也有評論認為，臺積電之所以能成為領先的晶圓廠，是因為它做到了完全中立，以及具有實現(xiàn)其路線圖的悠久歷史?！叭绻⑻貭栂胍獮?AMD、Arm 和 NVIDIA 生產(chǎn)芯片，它可能不得不砍掉一只手臂以示善意。”

2、AGI 原型即將正式運行

SingularityNET創(chuàng)始人Ben Goertzel表示，人工通用智能（AGI）的早期原型框架可能會在2025年運行。在Goertzel 所發(fā)表的AGI新書《意識爆炸》中，他表示，AGI將帶來巨大的好處，可能會把人類從重復性勞動中解放出來，終結所有身心疾病，治愈衰老，并有可能防止非自愿死亡。不過他表示AIG仍然可能在很多方面出現(xiàn)問題?！拔覀冋谶M入完全未知的領域”他說。

就此，Goertzel提出了一項藍圖，旨在確保AGI不受公司或政府控制，且將利于而非害人類。他提倡使用開源代碼、去中心化的基礎設施和治理、開放式認知架構、多樣化的AGI算法，以及倫理來源和管理的數(shù)據(jù)。