RISC-V指令集會促進未來芯片架構(gòu)的發(fā)展

RISC-V指令集會促進未來芯片架構(gòu)的發(fā)展，真正釋放芯片設(shè)計的巨大潛力，讓更多的人能夠在專屬領(lǐng)域內(nèi)實現(xiàn)軟硬結(jié)合，設(shè)計出合適的架構(gòu)。

雷鋒網(wǎng)按：2020 年 8 月 7 日，全球人工智能和機器人峰會（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會由中國計算機學會（CCF）主辦，香港中文大學（深圳）、雷鋒網(wǎng)聯(lián)合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協(xié)辦。從 2016 年的學產(chǎn)結(jié)合，2017 年的產(chǎn)業(yè)落地，2018 年的垂直細分，2019 年的人工智能 40 周年，峰會一直致力于打造國內(nèi)人工智能和機器人領(lǐng)域規(guī)模最大、規(guī)格最高、跨界最廣的學術(shù)、工業(yè)和投資平臺。 2020年8月8日上午，來自學術(shù)界、工業(yè)街、投資界的重磅嘉賓齊聚CCF-GAIR 2020 AI芯片專場共同探討新基建浪潮下AI芯片發(fā)展的絕佳機遇。睿思芯科副總裁王衛(wèi)在《領(lǐng)域架構(gòu)促進人工智能發(fā)展》的演講中指出，在人工智能時代，算力提升遇到巨大挑戰(zhàn)，伴隨工藝進步速度下降，傳統(tǒng)的提升性能方法也逐漸下降，需要在芯片體系架構(gòu)和計算體系架構(gòu)上有所創(chuàng)新。RISC-V發(fā)明人David Patterson認為，RISC-V這一新新指令集將促進未來芯片架構(gòu)的發(fā)展，實現(xiàn)算力提升。王衛(wèi)從AI芯片的發(fā)展歷程與設(shè)計時需要考量的因素、AI算力在RISC-V指令集中提升的體現(xiàn)、RISC-V的特點與發(fā)展等方面解釋了RISC-V對人工智能發(fā)展的推動作用。

睿思芯科副總裁王衛(wèi)以下為王衛(wèi)的主題演講內(nèi)容，雷鋒網(wǎng)做了不改變原意的編輯與整理：我們公司是一家專注于做RISC-V開源指令集芯片的公司，我們也試圖通過觀察整個芯片的發(fā)展歷史展望未來，了解做AI芯片應(yīng)該研發(fā)的方向，以及整個行業(yè)芯片體系結(jié)構(gòu)的發(fā)展方向。今天主要分享一些對未來AI芯片發(fā)展方向和趨勢的思考。

尋找提升算力的新思路

—

今天，大家所提的AI，主要是針對神經(jīng)網(wǎng)絡(luò)這種特定的算法。從基本的原理和算法來講，大概30年前，就已經(jīng)有基本的框架了。但為什么直到最近幾年，大概是從2012年開始，AI才真正得到了爆發(fā)式的應(yīng)用，并在實際中有所體現(xiàn)，這主要是因為算力的增長。

很多業(yè)內(nèi)的權(quán)威專家都在探討算力、算法和數(shù)據(jù)這三個方面哪一個更重要一些，其實三方面都重要。從歷史發(fā)展看，有了算法，如果沒有足夠的算力支撐，就沒有辦法在實踐中得到真正的應(yīng)用。有了算法和算力，必須要有大量的數(shù)據(jù)才能夠得到我們想要的結(jié)果，所以這三者的關(guān)系應(yīng)該是缺一不可的，不過這三個方面的發(fā)展程度此起彼伏，在不同的階段有不同的發(fā)展方向，某一方面可能會走得快一點，但很快它也會驅(qū)動其他幾個方面共同發(fā)展。 有了算法，只有算力跟上，才能真正發(fā)揮作用，對整個社會產(chǎn)生實際意義。目前在算法提升的道路上，遇到了巨大挑戰(zhàn)。在芯片性能的發(fā)展中，最早是摩爾定律預(yù)言整個工業(yè)界都會按照一定的速度穩(wěn)定地向前發(fā)展。但同時，為了保持摩爾定律的發(fā)展速度，除了工藝上的進步，還包括體系結(jié)構(gòu)等其他方面的進步。例如，為了保持算力的增長速度，從最早的單核代多核并行運算，又到串并行協(xié)同運算，算力持續(xù)增長。但最近幾年，現(xiàn)有的思路方法幾乎在提升算力上失效，需要新的思路來替代，即芯片體系架構(gòu)和計算體系架構(gòu)的創(chuàng)新。

谷歌TPU帶來的啟發(fā)

—

以谷歌為例，谷歌無論是在硬件還是在軟件上都有強大的基礎(chǔ)，他們做出一個芯片可能一開始效果并不好，但是后來通過不斷挑戰(zhàn)算法，以達到算力的巨大提升。如果設(shè)計芯片時，一開始就將它的體系結(jié)構(gòu)和算法有效結(jié)合，最終設(shè)計出來的芯片肯定就有更好的表現(xiàn)。

這里引用的人工智能發(fā)展史上的里程碑芯片，即谷歌的TPU，它也是整個行業(yè)里第一款公開且引起大眾關(guān)注的AI芯片。至今為止，行業(yè)內(nèi)很多AI芯片的基本結(jié)構(gòu)，就是它的基礎(chǔ)上發(fā)展過來的，具有代表性意義。這其實體現(xiàn)了Domain specific architectures（特定領(lǐng)域的體系結(jié)構(gòu)）的強大力量，因為它是特定地為神經(jīng)網(wǎng)絡(luò)算法加速去設(shè)計的一種芯片硬件結(jié)構(gòu)，通過對這個特定目標的機制優(yōu)化，做出來一個性能好、算力強大，在功耗和能耗比上也在當時達到很好的指標的芯片。當然，后續(xù)又有很多初創(chuàng)公司或成熟公司，飛速地發(fā)展他們的產(chǎn)品、技術(shù)，更多、更強、更好、的芯片便涌現(xiàn)出來。 谷歌TPU到了第三代，比第一代有很大的進步。TPU3采用水冷技術(shù)降低能耗比，為什么會用到水冷技術(shù)？因為空氣的散熱能力有限，單純用風扇無法散走足夠的熱量，必須采用水冷方式才能保證芯片正常工作。但這一芯片主要應(yīng)用于數(shù)據(jù)中心，需要非常好的環(huán)境、相對較高的成本，才能保證有效降低能耗比的條件。當應(yīng)用到終端或邊緣端，不太可能有這些條件提供保障，因此在設(shè)計終端芯片和邊緣端芯片時，思路會有所不同。

架構(gòu)自由創(chuàng)新是RISC-V的關(guān)鍵優(yōu)勢

—

在具體的實現(xiàn)方式上，RISC-V發(fā)明人David Patterson認為，RISC-V指令集會促進未來芯片架構(gòu)的發(fā)展，真正釋放芯片設(shè)計的巨大潛力，讓更多的人能夠在專屬領(lǐng)域內(nèi)實現(xiàn)軟硬結(jié)合，設(shè)計出合適的架構(gòu)。RISC-V作為一個計算機體系架構(gòu)，是近期非常熱門的話題，RISC-V的特點是什么？開源的、免費的、低成本的，是RISC-V的絕對優(yōu)勢。如果從芯片的體系結(jié)構(gòu)角度而言，其最大的優(yōu)勢則是像樂高積木一樣的模塊化結(jié)構(gòu)。RISC-V把指令集中的不同功能子集分得很細致，不同的模塊之間可以自由地排列組合，而且整個指令集中預(yù)留了大量自動指令集，可以讓客戶在芯片層面結(jié)合子集的算法和應(yīng)用需求，定制一個對應(yīng)自己專屬場景最有用、最優(yōu)化的命令。這也是Domain specific architectures的經(jīng)典體現(xiàn)。

因此，RISC-V最關(guān)鍵的技術(shù)優(yōu)勢在于可以在架構(gòu)上自由創(chuàng)新。在RISC-V指令集中，AI算力的提升體現(xiàn)在其向量擴展指令集方面，規(guī)定了跟CPU本身高度耦合的擴展指令集，可以通過向量的擴展指令集的運算，從硬件上加速各種矩陣乘加的運算。目前所有的深度學習，對算力要求最高的是各種矩陣運算，恰好能夠在RISC-V指令集中實現(xiàn)。 另外，由于RISC-V是開源的，會吸引更多人加入這一體系結(jié)構(gòu)中，去研發(fā)、去競爭，帶來更多創(chuàng)新，推動自主可控的新基建。 對于RISC-V，大家更多的是在強調(diào)其在終端或邊緣的應(yīng)用。事實上，RISC-V本身沒有適用于終端或者云端的屬性，RISC-V也可以在云端，在高性能、大規(guī)模運算上發(fā)揮優(yōu)勢。但作為指令集，越復(fù)雜的應(yīng)用對整個生態(tài)的依賴程度越高，包括編譯器、工具鏈、具體架構(gòu)的設(shè)計，相對云端而言，邊緣端對生態(tài)的依賴程度更低，因此RISC-V在云端的應(yīng)用會晚于在邊緣端的應(yīng)用。

開源架構(gòu)更需國際協(xié)作

—

RISC-V的發(fā)展非常迅速，RISC-V基金會已有500多個成員，包括全球各地的軟件公司、芯片公司、服務(wù)商、云服務(wù)提供商等，中國也有非常多的公司在積極地參與RISC-V開源組織。在軟件方面，開源的東西有越多的人參與，它的發(fā)展速度就越快，甚至會呈指數(shù)級發(fā)展，RISC-V也是如此。

我們對RISC-V的認知是結(jié)合了所有的開源項目，包括硬件、軟件，它必然需要國際上的協(xié)作，在一個特定的小圈子里，在特定地域范圍內(nèi)做開源，最終是不可能成功的。如果你希望享受開源的成果，就應(yīng)該更積極地去參與，更積極地對整個社區(qū)有所貢獻。所以目前國內(nèi)已經(jīng)有很多公司在積極參與RISC-V基金會的活動。包括我們公司的創(chuàng)始人譚章熹博士，本身就是RISC-V基金會董事會的成員之一，也非常積極地把我們所做的RISC-V方面的一些研究成果、生態(tài)環(huán)境的促進工作往前推進，希望更加積極地回饋RISC-V社區(qū)，也希望更多人加入到RISC-V開源社區(qū)中來，希望未來RISC-V、x86、ARM能夠形成三足鼎立的格局。 尤其是對中國而言，新基建下，一個開源的、開放的，充分國際合作且無人能阻止的平臺，我們認為意義重大，對它的發(fā)展抱有非常大的信心。因為我們也看到在短短一年之內(nèi)，在中國整個領(lǐng)域相關(guān)的公司和產(chǎn)品都發(fā)展得非常迅速，我們也希望對整個發(fā)展做出貢獻，希望跟更多業(yè)界的同仁們合作，如果大家希望在RISC-V基金會能有更多的反饋，我們也非常愿意進行這樣的合作。