AI和HPC制造相當(dāng)困難且昂貴 定制SoC的黃金時(shí)代即將來(lái)臨

定制的 AI 和 HPC 解決方案往往能提供強(qiáng)大的性能，但制造起來(lái)相當(dāng)困難且昂貴。

如今的半導(dǎo)體行業(yè)可以觀察到一些趨勢(shì)。一方面，采用領(lǐng)先制造技術(shù)的片上系統(tǒng) (SoC) 的開發(fā)和生產(chǎn)變得越來(lái)越昂貴。另一方面，盡管成本較高，但越來(lái)越多的公司選擇設(shè)計(jì)自己的 SoC，以區(qū)別于競(jìng)爭(zhēng)對(duì)手。這種趨勢(shì)并沒(méi)有讓 AMD、英特爾和高通等標(biāo)準(zhǔn) CPU 和 SoC 供應(yīng)商受益。但這對(duì)于其他行業(yè)參與者非常有利，例如 EDA 軟件開發(fā)商、IP 公司、合同芯片設(shè)計(jì)人員，當(dāng)然還有代工廠。

幾個(gè)全球大趨勢(shì)影響著微電子的發(fā)展。它們包括 5G 和邊緣計(jì)算（我們更愿意稱之為互聯(lián)設(shè)備的爆炸性增長(zhǎng)）、自動(dòng)駕駛和軟件定義車輛 (SDV)、人工智能、云計(jì)算和高性能計(jì)算( HPC)。

像AI，云和HPC這樣的應(yīng)用程序可以吞噬提供給它們的任何性能，它們的主要限制是數(shù)據(jù)中心的功率和空間，而不是硬件成本。

同時(shí)，自主 SDV和邊緣計(jì)算設(shè)備也可以利用更高的計(jì)算性能。但是，除了功率和空間之外，它們還受到成本的限制（例如，它們使用的芯片數(shù)量以及這些芯片的芯片尺寸）。

人工智能、汽車、云、邊緣計(jì)算和高性能計(jì)算是非常不同的應(yīng)用，它們可以通過(guò)廣泛使用的現(xiàn)成芯片來(lái)解決。但是，根據(jù)芯片要運(yùn)行的工作負(fù)載精確定制芯片，可以從成本和功耗的角度更有效地實(shí)現(xiàn)所需的性能和功能水平。

“我們看到越來(lái)越多的公司意識(shí)到一刀切的方法不再滿足他們的計(jì)算需求，相反，他們正在探索定制 SoC 項(xiàng)目，以確保他們可以為正確的應(yīng)用程序使用正確的計(jì)算級(jí)別， ”Arm 基礎(chǔ)設(shè)施業(yè)務(wù)線產(chǎn)品解決方案副總裁 Dermot O'Driscoll 說(shuō)道。

此外，IP 保護(hù)、提供差異化功能、設(shè)計(jì)靈活性和供應(yīng)壽命等考慮因素比以往任何時(shí)候都更加重要。這些因素促使許多公司（無(wú)論是老牌公司還是初創(chuàng)公司）開發(fā)內(nèi)部 SoC 或從芯片合同制造商處訂購(gòu)。這些公司的數(shù)量正在增長(zhǎng)。

Ansys 首席技術(shù)專家兼工程模擬和 EDA 軟件開發(fā)人員 Christophe Bianchi 表示：“設(shè)計(jì)自己芯片的公司數(shù)量肯定有所增加。這種向‘定制芯片’的轉(zhuǎn)變?cè)诒泵栏鼮槊黠@，但歐洲、中東和非洲和亞太地區(qū)也在追隨這一趨勢(shì)?！?/p>

英國(guó)合同芯片設(shè)計(jì)公司 Sondrel 的創(chuàng)始人兼首席執(zhí)行官 Graham Curren 表示：“擁有定制 SoC 意味著您擁有獨(dú)特的解決方案，其中融合了您特殊的差異化技術(shù)，并且很難復(fù)制?！边@是深深嵌入到芯片中的。此外，它是一個(gè)完美定制的解決方案，在功率、性能和面積方面完全符合任務(wù)規(guī)范。

蘋果公司就是一個(gè)很好的例子，它設(shè)計(jì)了自己的 SoC（首先為智能手機(jī)，然后為個(gè)人電腦），并獲得了巨大的收益。

該公司一開始要求三星在 2000 年代末將其一些定制 IP 實(shí)施到其 iPhone 的應(yīng)用處理器中，但隨后迅速建立了自己的芯片開發(fā)團(tuán)隊(duì)，并開始設(shè)計(jì)具有定制 CPU 微架構(gòu)和加速器的高度復(fù)雜的移動(dòng) SoC。為其 iPhone、iPad 和 Apple TV 機(jī)頂盒等產(chǎn)品增加價(jià)值。最近，該公司開始為其 PC 構(gòu)建 SoC，再次整合各種定制 IP，以在要求苛刻的應(yīng)用中獲得更低的功耗、更長(zhǎng)的電池壽命和更高的性能。

“設(shè)計(jì)定制 SoC 的幾個(gè)主要原因是附加專門的加速、實(shí)施獨(dú)特的系統(tǒng)和封裝拓?fù)湟约巴ㄟ^(guò)垂直集成優(yōu)化成本，”O(jiān)'Driscoll 說(shuō)。

蘋果從 M 系列 SoC 的努力中獲得了巨大收益：該公司在 PC 市場(chǎng)的份額從2019 年第一季度的 6.4%（出貨量 379.1 萬(wàn)臺(tái)）增長(zhǎng)到2022 年第一季度的 9.3%（銷量 732.4 萬(wàn)臺(tái)）。蘋果2022 財(cái)年的研發(fā)支出為 262.51 億美元（高于2019 財(cái)年的162.17 億美元），其中很大一部分與芯片開發(fā)有關(guān)。

過(guò)去，芯片設(shè)計(jì)是 IBM和思科等擁有利潤(rùn)豐厚產(chǎn)品的大公司的特權(quán)。隨后，蘋果向世界展示了消費(fèi)電子 SoC 的用途，華為和三星等公司紛紛效仿。

到 2010 年代中期，互聯(lián)網(wǎng)巨頭變得如此龐大且盈利，以至于他們?cè)O(shè)計(jì)自己的芯片變得有意義。

如今，汽車制造商正在走蘋果的道路。

TechInsights 副主席丹·哈欽森 (Dan Hutchenson) 表示：“近年來(lái)，自行設(shè)計(jì)芯片的公司數(shù)量呈爆炸式增長(zhǎng)?！?“最初是 IBM、Amdahl、思科和Oracle加入了無(wú)晶圓廠/代工運(yùn)動(dòng)。隨后蘋果公司加入進(jìn)來(lái)，移動(dòng)應(yīng)用程序的發(fā)展勢(shì)頭開始升溫。到 2015 年，谷歌、Meta、亞馬遜、百度和特斯拉等所有超垂直行業(yè)都在設(shè)計(jì)自己的芯片。然后風(fēng)險(xiǎn)投資家開始為人工智能和智能電力初創(chuàng)企業(yè)提供資金。從2021年開始，各大汽車制造商開始設(shè)計(jì)自己的芯片?！?/p>

超大規(guī)模企業(yè)處于領(lǐng)先地位

目前，蘋果是唯一一家設(shè)計(jì)自己的定制處理器的大型個(gè)人電腦制造商。鑒于 PC 制造商對(duì) Windows 開發(fā)的控制力顯然不如蘋果對(duì) MacOS 開發(fā)的控制力，他們不太愿意構(gòu)建自己的 SoC，因?yàn)樗麄兊某晒⑷Q于微軟的支持。

與 PC 制造商不同，超大規(guī)模企業(yè)對(duì)其硬件和軟件擁有幾乎絕對(duì)的控制權(quán)，這使得他們很有可能開發(fā)自己的定制 SoC。

“定制芯片的最初驅(qū)動(dòng)力來(lái)自超大規(guī)模企業(yè)：人工智能計(jì)算和云性能需求都推動(dòng)了這種增長(zhǎng)。”比安奇說(shuō)。

谷歌運(yùn)營(yíng)著一些世界上最受歡迎的互聯(lián)網(wǎng)服務(wù)，并擁有多方面的定制數(shù)據(jù)中心芯片戰(zhàn)略，包括用于人工智能訓(xùn)練和推理加速的張量處理單元（TPU）、用于 YouTube 的視頻轉(zhuǎn)碼單元（VCU），甚至據(jù)報(bào)道還有服務(wù)器 SoC。谷歌傳聞中的服務(wù)器 SoC 是否會(huì)比 AMD 的 Epyc 或英特爾的 Xeon CPU 更適合該公司還有待觀察。

與此同時(shí)，該公司的 TPU 和 VCU 已經(jīng)帶來(lái)了谷歌擴(kuò)展其人工智能和視頻服務(wù)所需的性能、可擴(kuò)展性、功能和成本。

Cambrian-AI Research 創(chuàng)始人兼首席分析師 Karl Freund 表示：“成本和定制化促使這些公司開發(fā)自己的芯片。”他表示，他相信如今的 AI 工作負(fù)載是超大規(guī)模企業(yè)希望通過(guò)其解決方案解決的關(guān)鍵應(yīng)用之一。

EDA 工具和 IP 巨頭 Cadence 數(shù)字和簽核小組產(chǎn)品管理副總裁 Kam Kittrell 表示：“超大規(guī)模企業(yè)可以比大量購(gòu)買芯片更便宜，從而省去中間環(huán)節(jié)?！?“通常，這些公司是自己的云的消費(fèi)者，并且擁有有價(jià)值的專業(yè)軟件。他們可以制造在交付軟件工作負(fù)載時(shí)更加節(jié)能的特定硬件?！?/p>

亞馬遜網(wǎng)絡(luò)服務(wù) (AWS) 是全球領(lǐng)先的云服務(wù)提供商 (CSP) 之一，支持亞馬遜自己的在線商店和倉(cāng)庫(kù)管理以及 Netflix 等服務(wù)，其芯片策略與 Google 不同。

為了向客戶提供足夠的計(jì)算性能和功能以及可預(yù)測(cè)的數(shù)據(jù)中心功耗，AWS 設(shè)計(jì)了自己的用于通用計(jì)算的服務(wù)器級(jí) Graviton SoC。AWS 的 Graviton 現(xiàn)已發(fā)展到第三代。

“內(nèi)部生產(chǎn)芯片的公司數(shù)量顯著增加，特別是在超大規(guī)模領(lǐng)域，他們可以根據(jù)數(shù)據(jù)中心的工作負(fù)載獲得差異化，”Synopsys的營(yíng)銷和戰(zhàn)略副總裁 John Koeter 表示。

AWS、百度、谷歌、Meta 和 Microsoft Azure 等公司運(yùn)行著如此多不同的工作負(fù)載，因此將所有工作負(fù)載轉(zhuǎn)換為定制芯片以提高性能效率似乎只是時(shí)間問(wèn)題。這些公司財(cái)力雄厚，有能力開發(fā)定制 SoC。

Alphawave Semi 營(yíng)銷主管 Sudhir Mallya 表示：“我們看到最大的增長(zhǎng)是在數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域，其中包括云、數(shù)據(jù)輸入、網(wǎng)絡(luò)、存儲(chǔ)和 5G 基礎(chǔ)設(shè)施?！?“當(dāng)你今天看到它時(shí)，數(shù)據(jù)中心基礎(chǔ)設(shè)施的定制芯片的增長(zhǎng)是驚人的。幾年前，當(dāng)谷歌、微軟、AWS 和 Facebook (Meta) 等大型超大規(guī)模企業(yè)開始設(shè)計(jì)自己的芯片時(shí)，我們就看到了這一趨勢(shì)?！?/p>

人工智能和高性能計(jì)算：不同的方法

與此同時(shí)，有多家數(shù)據(jù)中心級(jí) SoC 開發(fā)商通過(guò)其定制處理器、SoC 和多芯片系統(tǒng)級(jí)封裝專門針對(duì) AI 和 HPC 應(yīng)用。Koeter 表示，這些定制的 AI 和 HPC 解決方案往往能提供強(qiáng)大的性能，但制造起來(lái)相當(dāng)困難且昂貴，因?yàn)槠渲幸恍┑男酒叽缃咏?EUV 光罩 (858 mm2)。

老牌廠商有很多針對(duì)人工智能和高性能計(jì)算的標(biāo)準(zhǔn)產(chǎn)品。AMD 通過(guò)其 Instinct 計(jì)算 GPU 和 EPYC 處理器（使用小芯片設(shè)計(jì)）解決 AI 和 HPC 工作負(fù)載。

英特爾擁有多方面的戰(zhàn)略，其中包括用于人工智能的單片 Habana 處理器、用于人工智能和 HPC 的多芯片數(shù)據(jù)中心 GPU Max，以及用于幾乎所有功能的多芯片第四代 Xeon 可擴(kuò)展 CPU。

相比之下，Nvidia的最新 H100 產(chǎn)品采用了單片設(shè)計(jì)。所有這些都是現(xiàn)成的產(chǎn)品，具有自己的特點(diǎn)，來(lái)自擁有大量研發(fā)預(yù)算和人員的公司。

盡管如此，仍有許多新來(lái)者將在未來(lái)幾年挑戰(zhàn)行業(yè)巨頭。

審核編輯：劉清