大模型背景下，AI芯片廠商面臨怎樣的機(jī)遇與挑戰(zhàn)？

從2022.11.30的ChatGPT，到2023.6.13的360智腦大模型2.0，全球AI界已為大模型持續(xù)瘋狂了七個(gè)多月。ChatGPT們正如雨后春筍般涌現(xiàn)，向AI市場投放一個(gè)個(gè)“炸彈”：辦公、醫(yī)療、教育、制造，亟需AI的賦能。

而AI應(yīng)用千千萬，把大模型打造好才是硬道理。

對(duì)于大模型“世界”來說，算法是“生產(chǎn)關(guān)系”，是處理數(shù)據(jù)信息的規(guī)則與方式；算力是“生產(chǎn)力”，能夠提高數(shù)據(jù)處理、算法訓(xùn)練的速度與規(guī)模；數(shù)據(jù)是“生產(chǎn)資料”，高質(zhì)量的數(shù)據(jù)是驅(qū)動(dòng)算法持續(xù)迭代的養(yǎng)分。在這之中，算力是讓大模型轉(zhuǎn)動(dòng)的前提。

我們都知道的是，大模型正對(duì)算力提出史無前例的要求，具體的表現(xiàn)是：據(jù)英偉達(dá)數(shù)據(jù)顯示，在沒有以Transformer模型為基礎(chǔ)架構(gòu)的大模型之前，算力需求大致是每兩年提升8倍；而自利用Transformer模型后，算力需求大致是每兩年提升275倍?；诖?，530B參數(shù)量的Megatron-Turing NLG模型，將要吞噬超10億FLOPS的算力。

（AI不同模型算法算力迭代情況 圖源：格隆匯）

作為大模型的大腦——AI芯片，是支撐ChatGPT們高效生產(chǎn)及應(yīng)用落地的基本前提。保證算力的高效、充足供應(yīng)，是目前AI大算力芯片廠商亟需解決的問題。

GPT-4等大模型向芯片廠商獅子大開口的同時(shí)，也為芯片廠商尤其是初創(chuàng)芯片廠商，帶來一個(gè)利好消息：軟件生態(tài)重要性正在下降。

早先技術(shù)不夠成熟之時(shí)，研究者們只能從解決某個(gè)特定問題起步，參數(shù)量低于百萬的小模型由此誕生。例如谷歌旗下的AI公司DeepMind，讓AlphaGo對(duì)上百萬種人類專業(yè)選手的下棋步驟進(jìn)行專項(xiàng)“學(xué)習(xí)”。

而小模型多了之后，硬件例如芯片的適配問題迫在眉睫。故，當(dāng)英偉達(dá)推出統(tǒng)一生態(tài)CUDA之后，GPU+CUDA迅速博得計(jì)算機(jī)科學(xué)界認(rèn)可，成為人工智能開發(fā)的標(biāo)準(zhǔn)配置。

現(xiàn)如今紛紛涌現(xiàn)的大模型具備多模態(tài)能力，能夠處理文本、圖片、編程等問題，也能夠覆蓋辦公、教育、醫(yī)療等多個(gè)垂直領(lǐng)域。這也就意味著，適應(yīng)主流生態(tài)并非唯一的選擇：在大模型對(duì)芯片需求量暴漲之時(shí)，芯片廠商或許可以只適配1-2個(gè)大模型，便能完成以往多個(gè)小模型的訂單。

也就是說，ChatGPT的出現(xiàn)，為初創(chuàng)芯片廠商們提供了彎道超車的機(jī)會(huì)。這就意味著，AI芯片市場格局將發(fā)生巨變：不再是個(gè)別廠商的獨(dú)角戲，而是多個(gè)創(chuàng)新者的群戲。

本報(bào)告將梳理AI芯片行業(yè)發(fā)展概況、玩家情況，總結(jié)出大算力時(shí)代，玩家提高算力的路徑，并基于此，窺探AI大算力芯片的發(fā)展趨勢。

PART-01

國產(chǎn)AI芯片，正走向AI3.0時(shí)代

現(xiàn)階段的AI芯片，根據(jù)技術(shù)架構(gòu)種類來分，主要包括GPGPU、FPGA、以 VPU、TPU 為代表的 ASIC、存算一體芯片。

根據(jù)其在網(wǎng)絡(luò)中的位置，AI 芯片可以分為云端AI芯片 、邊緣和終端AI芯片；

云端主要部署高算力的AI訓(xùn)練芯片和推理芯片，承擔(dān)訓(xùn)練和推理任務(wù)，例如智能數(shù)據(jù)分析、模型訓(xùn)練任務(wù)等；

邊緣和終端主要部署推理芯片，承擔(dān)推理任務(wù)，需要獨(dú)立完成數(shù)據(jù)收集、環(huán)境感知、人機(jī)交互及部分推理決策控制任務(wù)。

根據(jù)其在實(shí)踐中的目標(biāo)，可分為訓(xùn)練芯片和推理芯片：

縱觀AI芯片在國內(nèi)的發(fā)展史，AI芯片國產(chǎn)化進(jìn)程大致分為三個(gè)時(shí)代。

1.0時(shí)代，是屬于ASIC架構(gòu)的時(shí)代

自2000年互聯(lián)網(wǎng)浪潮拉開AI芯片的序幕后，2010年前后，數(shù)據(jù)、算法、算力和應(yīng)用場景四大因素的逐漸成熟，正式引發(fā)AI產(chǎn)業(yè)的爆發(fā)式增長。申威、沸騰、兆芯、龍芯、魂芯以及云端AI芯片相繼問世，標(biāo)志著國產(chǎn)AI芯片正式啟航。

2016年5月，當(dāng)谷歌揭曉AlphaGo背后的功臣是TPU時(shí)，ASIC隨即成為“當(dāng)紅辣子雞”。于是在2018年，國內(nèi)寒武紀(jì)、地平線等國內(nèi)廠商陸續(xù)跟上腳步，針對(duì)云端AI應(yīng)用推出ASIC架構(gòu)芯片，開啟國產(chǎn)AI芯片1.0時(shí)代。

ASIC芯片，能夠在某一特定場景、算法較固定的情況下，實(shí)現(xiàn)更優(yōu)性能和更低功耗，基于此，滿足了企業(yè)對(duì)極致算力和能效的追求。

所以當(dāng)時(shí)的廠商們，多以捆綁合作為主：大多芯片廠商尋找大客戶們實(shí)現(xiàn)“專用場景”落地，而有著綜合生態(tài)的大廠選擇單打獨(dú)斗。

地平線、耐能科技等AI芯片廠商，分別專注AI芯片的細(xì)分領(lǐng)域，采用“大客戶捆綁”模式進(jìn)入大客戶供應(yīng)鏈。

在中廠們綁定大客戶協(xié)同發(fā)展之際，自有生態(tài)的大廠阿里成立獨(dú)資芯片公司平頭哥，著眼AI和量子計(jì)算。

在1.0時(shí)代，剛出世的國內(nèi)芯片廠商們選擇綁定大客戶，有綜合生態(tài)的大廠選擇向內(nèi)自研，共同踏上探索AI芯片算力的征途。

2.0時(shí)代，更具通用性的GPGPU“引領(lǐng)風(fēng)騷”

盡管ASIC有著極致的算力和能效，但也存在著應(yīng)用場景局限、依賴自建生態(tài)、客戶遷移難度大、學(xué)習(xí)曲線較長等問題。

于是，通用性更強(qiáng)的GPGPU（通用圖形處理器）在不斷迭代和發(fā)展中成為AI計(jì)算領(lǐng)域的最新發(fā)展方向，當(dāng)上AI芯片2.0時(shí)代的指路人。

自2020年起，以英偉達(dá)為代表的GPGPU架構(gòu)開始有著不錯(cuò)的性能表現(xiàn)。通過對(duì)比英偉達(dá)近三代旗艦產(chǎn)品發(fā)現(xiàn)，從FP16 tensor 算力來看，性能實(shí)現(xiàn)逐代翻倍的同時(shí)，算力成本在下降。

于是，國內(nèi)多個(gè)廠商紛紛布局GPGPU芯片，主打CUDA兼容，試探著AI算力芯片的極限。2020年起，珠海芯動(dòng)力、壁仞科技、沐曦、登臨科技、天數(shù)智芯、瀚博半導(dǎo)體等新勢力集結(jié)發(fā)力，大家一致的動(dòng)作是：自研架構(gòu)，追隨主流生態(tài)，切入邊緣側(cè)場景。

在前兩個(gè)時(shí)代中，國產(chǎn)AI芯片廠商都在竭力順應(yīng)時(shí)代潮流，前赴后繼地跟隨國際大廠的步伐，通過研發(fā)最新芯片解決AI算力芯片的挑戰(zhàn)。

我們能看到的變化是，在2.0時(shí)代中，國產(chǎn)AI芯片廠商自主意識(shí)覺醒，嘗試著自研架構(gòu)以求突破。

3.0時(shí)代，存算一體芯片或成GPT-4等大模型的最優(yōu)選

ASIC芯片的弱通用性難以應(yīng)對(duì)下游層出不窮的應(yīng)用，GPGPU受制于高功耗與低算力利用率，而大模型又對(duì)算力提出前所未有的高要求：目前，大模型所需的大算力起碼是1000TOPS及以上。

以 2020 年發(fā)布的 GPT-3 預(yù)訓(xùn)練語言模型為例，其采用的是2020年最先進(jìn)的英偉達(dá)A100 GPU, 算力是624TOPS。2023年，隨著模型預(yù)訓(xùn)練階段模型迭代，又新增訪問階段井噴的需求，未來模型對(duì)于芯片算力的需求起碼要破千。

再例如自動(dòng)駕駛領(lǐng)域，根據(jù)財(cái)通證券研究所表明，自動(dòng)駕駛所需單個(gè)芯片的算力未來起碼要1000+TOPS：2021年4月, 英偉達(dá)就已經(jīng)發(fā)布了算力為1000TOPS的DRIVE Atlan芯片；到了今年，英偉達(dá)直接推出芯片Thor，達(dá)到2000TOPS。

由此，業(yè)界亟需新架構(gòu)、新工藝、新材料、新封裝，突破算力天花板。除此之外，日漸緊張的地緣關(guān)系，無疑又給高度依賴先進(jìn)制程工藝的AI大算力芯片廠商們提出新的挑戰(zhàn)。

在這些大背景下，從2017年到2021年間集中成立的一批初創(chuàng)公司，選擇跳脫傳統(tǒng)馮·諾依曼架構(gòu)，布局存算一體等新興技術(shù)，中國AI芯片3.0時(shí)代，正式拉開帷幕。

目前存算一體，正在上升期：

學(xué)界，ISSCC上存算/近存算相關(guān)的文章數(shù)量迅速增加：從20年的6篇上漲到23年的19篇；其中數(shù)字存內(nèi)計(jì)算，從21年被首次提出后，22年迅速增加到4篇。

產(chǎn)界，巨頭紛紛布局存算一體，國內(nèi)陸陸續(xù)續(xù)也有近十幾家初創(chuàng)公司押注該架構(gòu)：

在特斯拉2023 Investor Day預(yù)告片末尾，特斯拉的dojo超算中心和存算一體芯片相繼亮相；在更早之前，三星、阿里達(dá)摩院包括AMD也早早布局并推出相關(guān)產(chǎn)品：阿里達(dá)摩院表示，相比傳統(tǒng)CPU計(jì)算系統(tǒng)，存算一體芯片的性能提升10倍以上，能效提升超過300倍；三星表示，與僅配備HBM的GPU加速器相比，配備HBM-PIM的GPU加速器一年的能耗降低了約2100GWh。

目前，國內(nèi)的億鑄科技、知存科技、蘋芯科技、九天睿芯等十余家初創(chuàng)公司采用存算一體架構(gòu)投注于AI算力，其中億鑄科技偏向數(shù)據(jù)中心等大算力場景。

現(xiàn)階段，業(yè)內(nèi)人士表示，存算一體將有望成為繼CPU、GPU架構(gòu)之后的第三種算力架構(gòu)。

該提法的底氣在于，存算一體理論上擁有高能效比優(yōu)勢，又能繞過先進(jìn)制程封鎖，兼顧更強(qiáng)通用性與更高性價(jià)比，算力發(fā)展空間巨大。

在此基礎(chǔ)上，新型存儲(chǔ)器能夠助力存算一體更好地實(shí)現(xiàn)以上優(yōu)勢。目前可用于存算一體的成熟存儲(chǔ)器有NOR FLASH、SRAM、DRAM、RRAM（ReRAM）、MRAM等。相比之下，RRAM具備低功耗、高計(jì)算精度、高能效比和制造兼容CMOS工藝等優(yōu)勢：

目前，新型存儲(chǔ)器RRAM技術(shù)已然落地：2022上半年，國內(nèi)創(chuàng)業(yè)公司昕原半導(dǎo)體宣布，大陸首條RRAM 12寸中試生產(chǎn)線正式完成裝機(jī)驗(yàn)收，并在工控領(lǐng)域達(dá)成量產(chǎn)商用。

隨著新型存儲(chǔ)器件走向量產(chǎn)，存算一體AI芯片已經(jīng)挺進(jìn)AI大算力芯片落地競賽。

而無論是傳統(tǒng)計(jì)算芯片，還是存算一體芯片，在實(shí)際加速AI計(jì)算時(shí)往往還需處理大量的邏輯計(jì)算、視頻編解碼等非AI加速計(jì)算領(lǐng)域的計(jì)算任務(wù)。隨著多模態(tài)成為大模型時(shí)代的大勢所趨，AI芯片未來需處理文本、語音、圖像、視頻等多類數(shù)據(jù)。

對(duì)此，初創(chuàng)公司億鑄科技首個(gè)提出存算一體超異構(gòu)AI大算力技術(shù)路徑。億鑄的暢想是，若能把新型憶阻器技術(shù)(RRAM)、存算一體架構(gòu)、芯粒技術(shù)（Chiplet）、3D封裝等技術(shù)結(jié)合，將會(huì)實(shí)現(xiàn)更大的有效算力、放置更多的參數(shù)、實(shí)現(xiàn)更高的能效比、更好的軟件兼容性、從而抬高AI大算力芯片的發(fā)展天花板。

站在3.0時(shí)代門口，國產(chǎn)AI大算力芯片廠商自主意識(shí)爆發(fā)，以期為中國AI大算力芯片提供彎道超車的可能。

（中略）

算力解決方案，蓄勢待發(fā)

以AI云端推理卡為例，我們能看到的是，2018-2023年，算力由于工藝制程“卷不動(dòng)”等種種原因，成本、功耗、算力難以兼顧。

但國力之爭已然打響，ChatGPT已然到來，市場亟需兼顧成本、功耗、算力的方案。

目前國際大廠、國內(nèi)主流廠商、初創(chuàng)企業(yè)都在謀求計(jì)算架構(gòu)創(chuàng)新，試圖找出兼顧性能、規(guī)模、利用率的方案，突破算力天花板。

（中略）

AI芯片“新星”存算一體門檻奇高

2019年后，新增的AI芯片廠商，多數(shù)在布局存算一體：據(jù)偲睿洞察不完全統(tǒng)計(jì)，在2019-2021年新增的AI芯片廠商有20家，在這之中，有10家選擇存算一體路線。

這無一不說明著，存算一體將成為繼GPGPU、ASIC等架構(gòu)后的，一顆冉冉升起的新星。而這顆新星，并不是誰都可以摘。

在學(xué)界、產(chǎn)界、資本一致看好存算一體的境況下，強(qiáng)勁的技術(shù)實(shí)力、扎實(shí)的人才儲(chǔ)備以及對(duì)遷移成本接受度的精準(zhǔn)把控，是初創(chuàng)公司在業(yè)內(nèi)保持競爭力的關(guān)鍵，也是擋在新玩家面前的三大門檻。

存算一體，打破了三堵墻，能夠?qū)崿F(xiàn)低功耗、高算力、高能效比，但想要實(shí)現(xiàn)如此性能，挑戰(zhàn)頗多：

首先是存算一體涉及到芯片制造的全環(huán)節(jié)：從最底層的器件，到電路設(shè)計(jì)，架構(gòu)設(shè)計(jì)，工具鏈，再到軟件層的研發(fā)；

其次是，在每一層做相應(yīng)改變的同時(shí)，還要考慮各層級(jí)之間的適配度。

我們一層一層來看，一顆存算一體芯片被造出來，有怎樣的技術(shù)難題。

首先，在器件選擇上，廠商就“如履薄冰”：存儲(chǔ)器設(shè)計(jì)決定芯片的良率，一旦方向錯(cuò)誤將可能導(dǎo)致芯片無法量產(chǎn)。

其次是電路設(shè)計(jì)層面。電路層面有了器件之后，需要用其做存儲(chǔ)陣列的電路設(shè)計(jì)。而目前在電路設(shè)計(jì)上，存內(nèi)計(jì)算沒有EDA工具指導(dǎo)，需要靠手動(dòng)完成，無疑又大大增加了操作難度。

緊接著，架構(gòu)層面有電路之后，需要做架構(gòu)層的設(shè)計(jì)。每一個(gè)電路是一個(gè)基本的計(jì)算模塊，整個(gè)架構(gòu)由不同模塊組成，存算一體模塊的設(shè)計(jì)決定了芯片的能效比。模擬電路會(huì)受到噪聲干擾，芯片受到噪聲影響后運(yùn)轉(zhuǎn)起來會(huì)遇到很多問題。

這種情況下，需要架構(gòu)師了解模擬存內(nèi)計(jì)算的工藝特點(diǎn)，針對(duì)這些特點(diǎn)去設(shè)計(jì)架構(gòu)，同時(shí)也要考慮到架構(gòu)與軟件開發(fā)的適配度。

軟件層面架構(gòu)設(shè)計(jì)完成后，需要開發(fā)相應(yīng)的工具鏈。

而由于存算一體的原始模型與傳統(tǒng)架構(gòu)下的模型不同，編譯器要適配完全不同的存算一體架構(gòu)，確保所有計(jì)算單元能夠映射到硬件上，并且順利運(yùn)行。

一條完整的技術(shù)鏈條下來，考驗(yàn)著器件、電路設(shè)計(jì)、架構(gòu)設(shè)計(jì)、工具鏈、軟件層開發(fā)各個(gè)環(huán)節(jié)的能力，與協(xié)調(diào)各個(gè)環(huán)節(jié)的適配能力，是耗時(shí)耗力耗錢的持久戰(zhàn)。

根據(jù)以上環(huán)節(jié)操作流程可以看到，存算一體芯片亟需經(jīng)驗(yàn)豐富的電路設(shè)計(jì)師、芯片架構(gòu)師。

除此之外，鑒于存算一體的特殊性，能夠做成存算一體的公司在人員儲(chǔ)備上需要有以下兩點(diǎn)特征：

1、帶頭人需有足夠魄力。在器件選擇（RRAM、SRAM等）、計(jì)算模式（傳統(tǒng)馮諾依曼、存算一體等）的選擇上要有清晰的思路。

這是因?yàn)椋嫠阋惑w作為一項(xiàng)顛覆、創(chuàng)新技術(shù)，無人引領(lǐng)，試錯(cuò)成本極高。能夠?qū)崿F(xiàn)商業(yè)化的企業(yè)，創(chuàng)始人往往具備豐富的產(chǎn)業(yè)界、大廠經(jīng)驗(yàn)和學(xué)術(shù)背景，能夠帶領(lǐng)團(tuán)隊(duì)快速完成產(chǎn)品迭代。

2、在核心團(tuán)隊(duì)中，需要在技術(shù)的各個(gè)層級(jí)中配備經(jīng)驗(yàn)豐富的人才。例如架構(gòu)師，其是團(tuán)隊(duì)的核心。架構(gòu)師需要對(duì)底層硬件，軟件工具有深厚的理解和認(rèn)知，能夠把構(gòu)想中的存算架構(gòu)通過技術(shù)實(shí)現(xiàn)出來，最終達(dá)成產(chǎn)品落地；

3、此外，據(jù)量子位報(bào)告顯示，國內(nèi)缺乏電路設(shè)計(jì)的高端人才，尤其在混合電路領(lǐng)域。存內(nèi)計(jì)算涉及大量的模擬電路設(shè)計(jì)，與強(qiáng)調(diào)團(tuán)隊(duì)協(xié)作的數(shù)字電路設(shè)計(jì)相比，模擬電路設(shè)計(jì)需要對(duì)于工藝、設(shè)計(jì)、版圖、模型pdk以及封裝都極度熟悉的個(gè)人設(shè)計(jì)師。

落地，是第一生產(chǎn)力。在交付時(shí)，客戶考量的并不僅僅是存算一體技術(shù)，而是相較于以往產(chǎn)品而言，存算一體整體SoC的能效比、面效比和易用性等性能指標(biāo)是否有足夠的提升，更重要的是，遷移成本是否在承受范圍內(nèi)。

如果選擇新的芯片提升算法表現(xiàn)力需要重新學(xué)習(xí)一套編程體系，在模型遷移上所花的人工成本高出購買一個(gè)新GPU的成本，那么客戶大概率不會(huì)選擇使用新的芯片。

因此，存算一體在落地過程中是否能將遷移成本降到最低，是客戶在選擇產(chǎn)品時(shí)的關(guān)鍵因素。

目前來看，英偉達(dá)憑借著更為通用的GPGPU霸占了中國AI加速卡的市場。

然而，存算一體芯片憑借著低功耗但高能效比的特性，正成為芯片賽道，冉冉升起的一顆新星。

而存算一體市場，風(fēng)云未定，仍處于“小荷才露尖尖角”階段。但我們不可否認(rèn)的是，存算一體玩家已然構(gòu)筑了三大高墻，非技術(shù)實(shí)力雄厚，人才儲(chǔ)備扎實(shí)者，勿進(jìn)。

PART-04

行業(yè)發(fā)展趨勢

存算一體，算力的下一級(jí)

隨著人工智能等大數(shù)據(jù)應(yīng)用的興起，存算一體技術(shù)得到國內(nèi)外學(xué)界與產(chǎn)界的廣泛研究與應(yīng)用。在2017年微處理器頂級(jí)年會(huì)(Micro 2017)上，包括英偉達(dá)、英特爾、微軟、三星、加州大學(xué)圣塔芭芭拉分校等都推出他們的存算一體系統(tǒng)原型。

自此，ISSCC上存算/近存算相關(guān)的文章數(shù)量迅速增加：從20年的6篇上漲到23年的19篇；其中數(shù)字存內(nèi)計(jì)算，從21年被首次提出后，22年迅速增加到4篇，23年有6篇。

（ISSCC2023存算一體相關(guān)文章 圖源：ISSCC2023）

系統(tǒng)級(jí)創(chuàng)新，嶄露頭角

系統(tǒng)級(jí)創(chuàng)新正頻頻現(xiàn)身半導(dǎo)體TOP級(jí)會(huì)議，展露著打破算力天花板的潛力。

在 AMD 的總裁兼CEO Lisa Su（蘇姿豐）帶來的主旨演講“Innovation for the next decade of compute efficiency“（下一個(gè)十年計(jì)算效率的創(chuàng)新）中，她提到了AI應(yīng)用的突飛猛進(jìn)，以及它給芯片帶來的需求。

Lisa Su表示，根據(jù)目前計(jì)算效率每兩年提升2.2倍的規(guī)律，預(yù)計(jì)到2035年，如果想要算力達(dá)到十萬億億級(jí)，則需要的功率可達(dá)500MW，相當(dāng)于半個(gè)核電站能產(chǎn)生的功率，“這是極為離譜、不切合實(shí)際的”。

而為了實(shí)現(xiàn)這樣的效率提升，系統(tǒng)級(jí)創(chuàng)新是最關(guān)鍵的思路之一。

（算力與功耗關(guān)系 圖源：ISSCC2023大會(huì)）

在另一個(gè)由歐洲最著名三個(gè)的半導(dǎo)體研究機(jī)構(gòu)IMEC/CEA Leti/Fraunhofer帶來的主旨演講中，系統(tǒng)級(jí)創(chuàng)新也是其核心關(guān)鍵詞。

該演講中提到，隨著半導(dǎo)體工藝逐漸接近物理極限，新的應(yīng)用對(duì)于芯片的需求也必須要從系統(tǒng)級(jí)考慮才能滿足，并且提到了下一代智能汽車和AI作為兩個(gè)尤其需要芯片從系統(tǒng)級(jí)創(chuàng)新才能支持其新需求的核心應(yīng)用。

“從頭到腳”打破算力天花板

系統(tǒng)級(jí)創(chuàng)新，是協(xié)同設(shè)計(jì)上中下游多個(gè)環(huán)節(jié)，實(shí)現(xiàn)性能的提升。還有一種說法是，系統(tǒng)工藝協(xié)同優(yōu)化。

系統(tǒng)工藝協(xié)同優(yōu)化為一種“由外向內(nèi)”的發(fā)展模式，從產(chǎn)品需支持的工作負(fù)載及其軟件開始，到系統(tǒng)架構(gòu)，再到封裝中必須包括的芯片類型，最后是半導(dǎo)體制程工藝。

（系統(tǒng)工藝協(xié)同優(yōu)化 圖源：ISSCC2023大會(huì)）

簡單來說，就是把所有環(huán)節(jié)共同優(yōu)化，由此盡可能地改進(jìn)最終產(chǎn)品。

對(duì)此，Lisa Su給出了一個(gè)經(jīng)典案例：在對(duì)模型算法層面使用創(chuàng)新數(shù)制（例如8位浮點(diǎn)數(shù)FP8）的同時(shí)，在電路層對(duì)算法層面進(jìn)行優(yōu)化支持，最終實(shí)現(xiàn)計(jì)算層面數(shù)量級(jí)的效率提升：相比傳統(tǒng)的32位浮點(diǎn)數(shù)（FP32），進(jìn)行系統(tǒng)級(jí)創(chuàng)新的FP8則可以將計(jì)算效率提升30倍之多。而如果僅僅是優(yōu)化FP32計(jì)算單元的效率，無論如何也難以實(shí)現(xiàn)數(shù)量級(jí)的效率提升。

（特定域計(jì)算支持工作負(fù)載優(yōu)化，從而提高性能和效率 圖源：ISSCC2023大會(huì)）

這便是系統(tǒng)級(jí)創(chuàng)新成為關(guān)鍵路徑的原因所在：如果電路設(shè)計(jì)僅僅停留在電路這一層——只是考慮如何進(jìn)一步優(yōu)化FP32計(jì)算單元的效率，無論如何也難以實(shí)現(xiàn)數(shù)量級(jí)的效率提升。

對(duì)此，在未來發(fā)展機(jī)會(huì)模塊的演講中，Lisa Su給出了未來系統(tǒng)級(jí)封裝架構(gòu)的大致模樣：包含異構(gòu)計(jì)算叢集，特定加速單元，先進(jìn)封裝技術(shù)，高速片間UCIe互聯(lián)，存算一體等內(nèi)存技術(shù)。

（未來的系統(tǒng)級(jí)封裝架構(gòu) 圖源：ISSCC2023大會(huì)）

百舸爭流，創(chuàng)新者先

技術(shù)路徑、方案已然明確，接下來就是拼魄力的階段。

每一個(gè)新興技術(shù)的研發(fā)廠商，在前期無疑要面臨技術(shù)探索碰壁，下游廠商不認(rèn)同等各個(gè)層面的問題。而在早期，誰先預(yù)判到未來的發(fā)展趨勢，并用于邁出探索的腳步，鋪下合理的資源去嘗試，就會(huì)搶到先機(jī)。

芯片巨頭NVIDIA在這方面做出了很好的榜樣。

當(dāng)數(shù)據(jù)中心浪潮還未鋪天蓋地襲來、人工智能訓(xùn)練還是小眾領(lǐng)域之時(shí)，英偉達(dá)已經(jīng)投入重金，研發(fā)通用計(jì)算GPU和統(tǒng)一編程軟件CUDA，為英偉達(dá)謀一個(gè)好差事——計(jì)算平臺(tái)。

而在當(dāng)時(shí)，讓GPU可編程，是“無用且虧本”的：不知道其性能是否能夠翻倍，但產(chǎn)品研發(fā)會(huì)翻倍。為此，沒有客戶愿意為此買單。但預(yù)判到單一功能圖形處理器不是長遠(yuǎn)之計(jì)的英偉達(dá)毅然決定，在所有產(chǎn)品線上都應(yīng)用CUDA。

在芯東西與英偉達(dá)中國區(qū)工程和解決方案高級(jí)總監(jiān)賴俊杰博士的采訪中，賴俊杰表示：“為了計(jì)算平臺(tái)這一愿景，早期黃仁勛快速調(diào)動(dòng)了英偉達(dá)上上下下非常多的資源?！?/p>

遠(yuǎn)見+重金投入，在2012年，英偉達(dá)拿到了創(chuàng)新者的獎(jiǎng)勵(lì)：2012年，深度學(xué)習(xí)算法的計(jì)算表現(xiàn)轟動(dòng)學(xué)術(shù)圈，作為高算力且更為通用、易用的生產(chǎn)力工具，GPU+CUDA迅速風(fēng)靡計(jì)算機(jī)科學(xué)界，成為人工智能開發(fā)的“標(biāo)配”。

現(xiàn)如今，存算一體已顯現(xiàn)出強(qiáng)大的性能，在人工智能神經(jīng)網(wǎng)絡(luò)、多模態(tài)的人工智能計(jì)算、類腦計(jì)算等大算力場景，有著卓越的表現(xiàn)。

國內(nèi)廠商也在2019年前后紛紛布局存算一體，同時(shí)選擇3D封裝、chiplet等新興技術(shù)，RRAM、SRAM等新興存儲(chǔ)器，突破算力天花板。

AI大算力芯片的戰(zhàn)爭，創(chuàng)新者為先。

結(jié)語：

ChatGPT火爆來襲，引發(fā)AI產(chǎn)業(yè)巨浪，國產(chǎn)AI芯片正迎來3.0時(shí)代；在3.0時(shí)代，更適配大模型的芯片架構(gòu)——存算一體將嶄露頭角，同時(shí)系統(tǒng)級(jí)創(chuàng)新將成為未來的發(fā)展趨勢，搶先下注的廠商將先吃到ChatGPT帶來的紅利。