什么是第三代通用計(jì)算？既通用又高性能的計(jì)算存在嗎？

編者按

大家一直有個(gè)誤解，覺(jué)得通用和專用，是對(duì)等的兩個(gè)選擇。例如，牧本波動(dòng)（Makimoto's Wave），是一個(gè)與摩爾定律類似的電子行業(yè)發(fā)展規(guī)律，它認(rèn)為集成電路有規(guī)律的在“通用”和“專用”之間變化，循環(huán)周期大約為10年。

我們的觀點(diǎn)則是：相比專用，通用是更高級(jí)的能力。集成電路等各種事物發(fā)展規(guī)律的常態(tài)是通用，“通用到專用”只是達(dá)到通用狀態(tài)后的一些新的探索，是臨時(shí)狀態(tài)，最終還是要回歸到通用。專用是事物表面的、臨時(shí)的、局部的特征，而通用則是事物本質(zhì)的、長(zhǎng)期的、全面的特征。

對(duì)大芯片來(lái)說(shuō)，通用是成功的必由之路。CPU是通用芯片，成就了Intel的成功；GPU是通用芯片，成就了NVIDIA的成功。目前，還沒(méi)有看到做專用芯片非常成功的案例。長(zhǎng)期地看，專用是臨時(shí)的，專用的芯片也是臨時(shí)的，最終的結(jié)果只能是走向消亡。

今天這篇文章，我們聊聊通用和通用計(jì)算的話題。

1 相比專用，通用是更高級(jí)別的能力

1.1 牧本波動(dòng)

1987年，原日立公司總工程師牧本次生(Tsugio Makimoto)提出，集成電路發(fā)展過(guò)程中，芯片產(chǎn)品總是在“標(biāo)準(zhǔn)化”與“定制化”之間交替擺動(dòng)，大概每十年波動(dòng)一次。牧本波動(dòng)（Makimoto's Wave，也稱為牧本定律）背后是性能、功耗和開發(fā)效率之間的一個(gè)平衡。

也因?yàn)橥瑯拥睦斫?，芯片行業(yè)的很多人認(rèn)為，“通用”和“專用”是對(duì)等的，是一個(gè)天平的兩邊。設(shè)計(jì)研發(fā)的產(chǎn)品，偏向通用或偏向?qū)Ｓ?，是基于客戶?chǎng)景需求，對(duì)產(chǎn)品實(shí)現(xiàn)的權(quán)衡。

1.2 專用是臨時(shí)的，通用是永恒的

如果我們深入的分析牧本波動(dòng)的規(guī)律，會(huì)發(fā)現(xiàn)：通用時(shí)代的產(chǎn)品都逐漸沉淀下來(lái)了，并且仍在發(fā)展壯大；而專用時(shí)代的產(chǎn)品，要么消失在歷史長(zhǎng)河里了，要么是也在變得越來(lái)越通用。

以GPU為例，最開始的GPU（Graphics Processing Unit）其實(shí)是專用的圖形加速芯片。在上世紀(jì)90年代，有太多的公司做專用的GPU加速芯片或者其他各種專用類型的加速芯片。后來(lái)NVIDIA發(fā)現(xiàn)GPU中有非常多的并行計(jì)算部分，于是把GPU改造成由很多高效能的小CPU核（CUDA核）組成的通用GPU（GPGPU），最終才獲得了成功。而其他仍然堅(jiān)持做專用加速芯片的公司，都已經(jīng)銷聲匿跡。

所以呢，牧本波動(dòng)只是一個(gè)現(xiàn)象規(guī)律，而不是本質(zhì)規(guī)律。透過(guò)現(xiàn)象看本質(zhì)，我們會(huì)發(fā)現(xiàn)，集成電路等各種事物發(fā)展的常態(tài)是通用，“通用到專用”只是達(dá)到通用狀態(tài)后，持續(xù)向前發(fā)展的一些新的探索，是臨時(shí)狀態(tài)，最終還是要回歸到新的通用階段、新的通用狀態(tài)。專用是事物表面的、臨時(shí)的、局部的特征，而通用則是事物本質(zhì)的、長(zhǎng)期的、全面的特征。

一言以蔽之：相比專用，通用是更高級(jí)的能力。? ?

1.3 通用案例：智能手機(jī)

幾乎我們每個(gè)人都擁有智能手機(jī)，但可能年輕一些的朋友沒(méi)有見(jiàn)過(guò)這么多“古老”的電子設(shè)備。它們每個(gè)設(shè)備都有自己特定的功能，導(dǎo)航儀用于導(dǎo)航，電子詞典用于查詞和學(xué)習(xí)，MP3用于播放音樂(lè)等等。后來(lái)，隨著智能手機(jī)的出現(xiàn)，這些專用的電子設(shè)備就都消失在了歷史長(zhǎng)河中。

智能手機(jī)，是通用的個(gè)人移動(dòng)智能終端，在通用的硬件之上，通過(guò)各種不同的軟件應(yīng)用，實(shí)現(xiàn)各種各樣豐富多彩的功能。

1.4 通用案例：AGI大模型

AGI通用人工智能，指的是具備與人類同等甚至超越人類的智能，能表現(xiàn)出正常人類所具有的所有智能行為。? ?

傳統(tǒng)的基于中小模型的人工智能，是專用AI，聚焦某個(gè)相對(duì)具體的業(yè)務(wù)方面。比如專門用于人臉識(shí)別的AI，專門用于檢測(cè)某種特定行為的AI等等?！皥?chǎng)景千千萬(wàn)，模型千千萬(wàn)”。傳統(tǒng)AI是完全碎片化的一個(gè)局面，場(chǎng)景之間的數(shù)據(jù)和模型等信息無(wú)法傳遞，無(wú)法整合。傳統(tǒng)AI是弱人工智能。

目前火爆的GPT，則是模型參數(shù)發(fā)展量變到質(zhì)變的過(guò)程，也是從專用的臨時(shí)態(tài)往通用的常態(tài)發(fā)展的過(guò)程。目前，GPT4具備了一定的AGI能力，隨著GPT的成功，AGI已經(jīng)成為全球競(jìng)爭(zhēng)的焦點(diǎn)。GPT所在的OpenAI公司CEO奧特曼表示，AGI將于2030年之前到來(lái)。

隨著GPT等具有通用能力的AI模型出現(xiàn)，之前的諸多專用AI模型已經(jīng)在快速地萎縮，未來(lái)也必然走向消亡。

2 通用，是大芯片成功的必由之路

2.1 越來(lái)越復(fù)雜的系統(tǒng)需要通用

隨著業(yè)務(wù)場(chǎng)景越來(lái)越復(fù)雜，場(chǎng)景的變化也就越來(lái)越快。即使同一領(lǐng)域同一場(chǎng)景，不同客戶的業(yè)務(wù)之間仍然存在巨大差異，甚至在大客戶內(nèi)部，不同團(tuán)隊(duì)的業(yè)務(wù)之間也存在差異。此外，業(yè)務(wù)仍在快速地迭代。

作為芯片，無(wú)法做到為每一個(gè)場(chǎng)景定制開發(fā)專用芯片，一方面是專用芯片覆蓋場(chǎng)景太少，此外專用芯片的生命周期較短。通用芯片，是唯一解決之道。

并且，越來(lái)越復(fù)雜的場(chǎng)景及場(chǎng)景的差異化，對(duì)芯片的通用性設(shè)計(jì)也提出了更高的要求。芯片的通用性設(shè)計(jì)，難度越來(lái)越高，需要更多的創(chuàng)新思路和更多的投入。? ?

2.2 大芯片的高門檻需要通用

大芯片系統(tǒng)越來(lái)越龐大，設(shè)計(jì)規(guī)模越來(lái)越大，研發(fā)成本越來(lái)越成天文數(shù)字，門檻越來(lái)越高。芯片只有更大規(guī)模地落地，才能有效攤薄研發(fā)成本。

更大的落地規(guī)模，意味著需要更多的場(chǎng)景和領(lǐng)域覆蓋，意味著更高的通用性能力。

2.3 云邊端融合需要通用

云邊端融合，需要架構(gòu)生態(tài)的整合，而不是碎片化：

最開始，當(dāng)我們的設(shè)備是孤島的時(shí)候，設(shè)備間相互約束較少，設(shè)備可以是任意架構(gòu)，任意開發(fā)和運(yùn)行環(huán)境，相互之間影響較小。

隨著互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展，萬(wàn)物互聯(lián)，設(shè)備和設(shè)備之間開始有了通信。這個(gè)時(shí)候，我們需要雙方按照既定的規(guī)范進(jìn)行通信。

更進(jìn)一步，更多的設(shè)備連接到一塊了，我們的計(jì)算可以跳脫單機(jī)的約束，分布式計(jì)算逐漸流行。分布式計(jì)算，需要考慮不同設(shè)備工作之間的工作劃分和協(xié)同。因?yàn)楣ぷ鞯膭澐趾蛥f(xié)同，于是有了云邊端。

隨著發(fā)展，僅考慮協(xié)同也會(huì)有問(wèn)題。哪些工作應(yīng)該在終端做，哪些工作應(yīng)該在云端做，哪些工作應(yīng)該在邊緣做，都是提前規(guī)劃好的，此刻的協(xié)同是靜態(tài)的。但隨著協(xié)同的工作越來(lái)越多、越來(lái)越復(fù)雜，我們發(fā)現(xiàn)實(shí)際上很難在早期就做好準(zhǔn)確而仔細(xì)的任務(wù)劃分，這樣就需要在運(yùn)行階段動(dòng)態(tài)地調(diào)整云邊端的工作劃分和協(xié)同。于是，融合產(chǎn)生了。在融合階段，云邊端的架構(gòu)和環(huán)境是一致的，某種程度上，從協(xié)同階段的數(shù)以萬(wàn)計(jì)的設(shè)備單系統(tǒng)，升級(jí)成了融合階段的數(shù)以萬(wàn)計(jì)設(shè)備組成的宏觀的單個(gè)超級(jí)大系統(tǒng)。這個(gè)階段，軟件可以動(dòng)態(tài)地、自由地在不同的平臺(tái)上調(diào)度和運(yùn)行。??

要想實(shí)現(xiàn)云邊端融合，具有高可擴(kuò)展性的，架構(gòu)和生態(tài)一致的通用計(jì)算芯片，是必選項(xiàng)。

3 既通用又高性能的計(jì)算存在嗎？

很多朋友會(huì)提出疑問(wèn)，性能和通用靈活性是矛盾，魚和熊掌不可兼得。我們的答案是：有辦法做到魚和熊掌兼得。

接下來(lái)是我們對(duì)這個(gè)問(wèn)題的解答。

3.1 系統(tǒng)存在“二八定律”

二八定律是一個(gè)非常有意思的存在：

RISC和CISC之爭(zhēng)，是因?yàn)槎硕伞Ｈ藗儼l(fā)現(xiàn)，80%時(shí)間里，運(yùn)行的常見(jiàn)指令只占指令數(shù)量的20%，而另外80%的指令較少使用。

存儲(chǔ)分層，Cache的存在，也是因?yàn)槎硕?。程序局部性原理，用二八定律?lái)解釋，就是在某個(gè)時(shí)間段內(nèi)，80%的大部分時(shí)間里，只是在訪問(wèn)20%的區(qū)域。

云計(jì)算，也是二八定律的一個(gè)典型的案例。我們從自建數(shù)據(jù)中心，到云計(jì)算IaaS、PaaS和SaaS，其實(shí)就是整個(gè)計(jì)算系統(tǒng)逐漸由供應(yīng)商接管的過(guò)程。系統(tǒng)是符合二八定律的：就是系統(tǒng)中存在80%相對(duì)確定且共性的工作，而20%的工作是相對(duì)多變且個(gè)性的工作。這80%的工作供應(yīng)商可以接管，而另外20%的工作則由用戶自己把握較好。

并且，二八定律還存在嵌套的情況?；诖耍覀兛梢詫?duì)系統(tǒng)做如下三個(gè)層次的劃分：

從系統(tǒng)中，分離出來(lái)80%共性的工作，這部分劃分到系統(tǒng)的基礎(chǔ)設(shè)施層。

系統(tǒng)中另外20%的個(gè)性的工作，可以再細(xì)分，也就是16%（20%*80%）的工作相對(duì)共性，而另外4%（20%*20%）的工作是極度個(gè)性的：

?16%相對(duì)共性的工作，歸屬于系統(tǒng)的彈性加速層。

4%極度個(gè)性的工作，歸屬于系統(tǒng)的應(yīng)用層。

?3.2 團(tuán)隊(duì)分工協(xié)同，既通用又高效

DSA是專家，做專業(yè)的事情非常高效，但劣勢(shì)在于過(guò)于專用；CPU是通才，啥都能干，但干啥都不夠高效；而GPU的能力介于兩者之間。

作為單兵，DSA、GPU、GPU都是有長(zhǎng)有短。但作為團(tuán)隊(duì)，發(fā)揮各自的優(yōu)勢(shì)，可以形成各自能力的高效整合：

80%共性的基礎(chǔ)設(shè)施層，因?yàn)楣ぷ魅蝿?wù)相對(duì)確定，因此可以采用相對(duì)確定且高效的DSA處理器。

16%相對(duì)共性的彈性加速層，因?yàn)楣ぷ魅蝿?wù)具有一定的靈活彈性，但也不是無(wú)章可循，因此采用相對(duì)彈性的GPU處理器比較合適。

4%極度個(gè)性的應(yīng)用層。則采用最通用靈活的CPU處理器。

或者我們換個(gè)思路分析。系統(tǒng)中的各項(xiàng)工作，讓各類DSA先挑，DSA挑剩下的工作GPU再挑，DSA和GPU都挑剩下的工作，最后由CPU來(lái)兜底完成。這樣就可以達(dá)到通用：通過(guò)CPU+GPU+DSAs的異構(gòu)融合系統(tǒng)可以處理所有系統(tǒng)的工作。? ??

可能，會(huì)有朋友挑戰(zhàn)，DSA會(huì)有很多，萬(wàn)一不存在一個(gè)合適的DSA去處理特定的某個(gè)性能敏感的任務(wù)，這豈不是只能GPU或CPU來(lái)做，這是不是就不是極致的性能效率了？

如果從單機(jī)計(jì)算來(lái)看，這個(gè)問(wèn)題是存在的。但從宏觀的云邊端融合計(jì)算來(lái)看，這個(gè)問(wèn)題根本就不是問(wèn)題?？梢酝ㄟ^(guò)宏觀調(diào)度的方式，找到最合適某個(gè)或某些DSAs最高效的計(jì)算平臺(tái)，實(shí)現(xiàn)這個(gè)小系統(tǒng)的最極致性能的并且通用的運(yùn)行環(huán)境。? ?

4 第三代通用計(jì)算

4.1 基于異構(gòu)協(xié)同視角的計(jì)算架構(gòu)劃分

基于多種異構(gòu)處理器協(xié)作的視角，計(jì)算架構(gòu)可以分為六個(gè)階段：

第一代，CPU單核串行階段。

第二代，CPU同構(gòu)多核并行階段。

第三代，CPU+GPU通用異構(gòu)并行階段。

第四代，CPU+DSA專用異構(gòu)并行階段。

第五代，CPU+GPU+DSAs的多異構(gòu)或超異構(gòu)階段。

第六代，CPU+GPU+DSAs的異構(gòu)融合階段。

需要說(shuō)明的是，新的階段開始，并不意味著上一階段的完全消亡，只是說(shuō)它的場(chǎng)景會(huì)越來(lái)越少，逐漸走向凋零。

在2023年9月份，工信部電子五所發(fā)布的《異構(gòu)融合計(jì)算技術(shù)白皮書》中，詳細(xì)介紹了 “異構(gòu)融合計(jì)算”技術(shù)的發(fā)展背景、技術(shù)細(xì)節(jié)，以及未來(lái)發(fā)展展望，歡迎下載閱讀。

4.2 增加“通用”約束，形成通用計(jì)算架構(gòu)

通用，是大芯片成功的必由之路。那么，我們有必要為計(jì)算架構(gòu)增加“通用”的約束，這樣計(jì)算架構(gòu)的六個(gè)發(fā)展階段可以縮減為三個(gè)階段：

第一代通用計(jì)算，CPU同構(gòu)通用計(jì)算。依據(jù)“二八定律”，這一時(shí)期，所有（100%）的工作都是CPU來(lái)做。

第二代通用計(jì)算，CPU+GPU異構(gòu)通用計(jì)算。這一時(shí)期，GPU完成絕大部分（80%）的工作，CPU完成較少部分（20%）的工作。

第三代通用計(jì)算，CPU+GPU+DSAs異構(gòu)融合通用計(jì)算。這一時(shí)期，DSAs完成絕大部分（80%）的工作，GPU完成剩余較少部分中的絕大部分（16%）工作，剩下的（4%）工作，由CPU完成。

第一代通用計(jì)算，成就了Intel的成功；第二代通用計(jì)算，成就了NVIDIA的成功；第三代通用計(jì)算，才剛剛開始萌芽。“彎道超車”的重要機(jī)會(huì)，希望國(guó)內(nèi)有廠家能夠脫穎而出，成就偉大的事業(yè)。

4.3 最終的形態(tài)，為什么是異構(gòu)融合而不是DSA？

有些朋友可能會(huì)問(wèn)，既然第二代是GPU，那么第三代為什么不是AI-DSA或者DPU這種形態(tài)的計(jì)算芯片？

在第二代通用計(jì)算時(shí)代，為了更好的通用性，獨(dú)立的加速卡方式是比較好的選擇。所以最終成功的是獨(dú)立形態(tài)的GPU，而不是CPU+GPU集成形態(tài)的APU。? ?

在第三代通用計(jì)算時(shí)代，我們沒(méi)法簡(jiǎn)單復(fù)制第二階段的做法。因?yàn)榈谌A段存在如下一些問(wèn)題：

問(wèn)題一，專用芯片無(wú)法承載通用計(jì)算。AI芯片是一種DSA，DPU可以當(dāng)作多種DSA的集合體。DSA是一種專用芯片，無(wú)法實(shí)現(xiàn)通用計(jì)算，也無(wú)法主導(dǎo)計(jì)算架構(gòu)的走向。

問(wèn)題二，架構(gòu)和生態(tài)碎片化。獨(dú)立的DSA，面向的領(lǐng)域五花八門，實(shí)現(xiàn)的架構(gòu)五花八門。如果不考慮DSA的整合，會(huì)使得計(jì)算架構(gòu)和生態(tài)碎片化。

問(wèn)題三，協(xié)同問(wèn)題。第二代通用計(jì)算僅有兩類處理器CPU和GPU，協(xié)同相對(duì)簡(jiǎn)單。但第三階段，處理器芯片的類型通常在5個(gè)以上，這一時(shí)期，核心問(wèn)題在協(xié)同和融合。來(lái)自不同廠商的各自獨(dú)立的處理器芯片，幾乎無(wú)法高效協(xié)同。

目前階段，整合成單芯片的做法是可行的路徑。

審核編輯：黃飛

?