關(guān)于AI技術(shù)五個(gè)相關(guān)的研究趨勢(shì)發(fā)現(xiàn)

2020 年 12 月，機(jī)器之心發(fā)布《2020-2021 全球 AI 技術(shù)趨勢(shì)發(fā)展報(bào)告》，基于頂會(huì)、論文及專利等公共數(shù)據(jù)、機(jī)器之心專業(yè)領(lǐng)域數(shù)據(jù)倉(cāng)庫(kù)，通過(guò)數(shù)據(jù)挖掘定位七大趨勢(shì)性 AI 技術(shù)領(lǐng)域，并邀請(qǐng)了近 100 位專家學(xué)者通過(guò)問(wèn)卷形成對(duì)這七大技術(shù)領(lǐng)域近年發(fā)展情況、成熟度與未來(lái)趨勢(shì)的綜合總結(jié)，并基于 2015-2020 年間的開(kāi)源論文與專利語(yǔ)料，結(jié)合機(jī)器之心自有的新聞?shì)浾撘约澳Ｐ妥罴驯憩F(xiàn)（SOTA）等相關(guān)數(shù)據(jù)庫(kù)進(jìn)行了探索性數(shù)據(jù)分析，并形成了用以幫助技術(shù)趨勢(shì)判定的量化指標(biāo) Synced Indicator (SI)。

* 注：Synced Indicator 綜合反映該技術(shù)的熱度、重要性、應(yīng)用情況、以及未來(lái)發(fā)展?jié)摿Φ榷鄠€(gè)維度的情況，通常來(lái)說(shuō)指數(shù)越高說(shuō)明該技術(shù)越值得關(guān)注。

在經(jīng)歷了前幾年的高歌猛進(jìn)之后，許多人工智能相關(guān)技術(shù)在 2019 年開(kāi)始放慢腳步?；跀?shù)據(jù)分析的結(jié)果，機(jī)器之心總結(jié)出了近 5 年來(lái)累計(jì)趨勢(shì)指數(shù)總排名前十的 AI 技術(shù)（圖一），2018、2019 年兩年里各自趨勢(shì)指數(shù)增長(zhǎng)最快的 AI 技術(shù)（圖二、圖三），以及 2017~2019 三年間綜合對(duì)比增幅最大的 AI 技術(shù)（圖四）

圖一：趨勢(shì)指數(shù)（SI）Top10 技術(shù)為語(yǔ)音識(shí)別、卷積神經(jīng)網(wǎng)絡(luò)、云計(jì)算、GPU、深度學(xué)習(xí)、推薦系統(tǒng)、機(jī)器翻譯、定位、大規(guī)模預(yù)訓(xùn)練模型。

圖二：2018 年趨勢(shì)指數(shù)（SI）增長(zhǎng)最迅速的技術(shù) Top 5技術(shù)為區(qū)塊鏈、聯(lián)邦學(xué)習(xí)、多任務(wù)學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)。

圖三：2019 年趨勢(shì)指數(shù)（SI）增長(zhǎng)最迅速的技術(shù) Top 5 技術(shù)為擴(kuò)展現(xiàn)實(shí)、工業(yè)物聯(lián)網(wǎng)、人體關(guān)鍵點(diǎn)檢測(cè)、三維推理、移動(dòng)機(jī)器人；

圖四：2017~2019 年趨勢(shì)指數(shù)（SI）增長(zhǎng)最迅速的技術(shù) Top 5 技術(shù)為語(yǔ)音識(shí)別、文本分類、數(shù)據(jù)挖掘、物體識(shí)別、 GPU 技術(shù)。

綜合參考文獻(xiàn)、報(bào)告以及專家意見(jiàn)的定性分析，輔以大量數(shù)據(jù)的定量分析，以下分享五個(gè)相關(guān)的研究趨勢(shì)發(fā)現(xiàn)。

趨勢(shì)一：強(qiáng)化學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)是未來(lái) AI 技術(shù)突破的主要著力點(diǎn)

在最新的 NeurIPS 2020 上，強(qiáng)化學(xué)習(xí)領(lǐng)域（Reinforcement Learning）以及其目前的主要應(yīng)用領(lǐng)域 「游戲博弈（Game）」 是除機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)外討論度最高的技術(shù)主題。

圖 1-3-1-3 NeurIPS 論文相關(guān)技術(shù)主題

圖 1-3-3-2 NeurIPS 2020 收錄論文機(jī)器學(xué)習(xí)子領(lǐng)域主題分布

對(duì)比無(wú)監(jiān)督學(xué)習(xí)以及與之相關(guān)的半監(jiān)督學(xué)習(xí)，其相關(guān)專利數(shù)量在近年有所下滑，但研究論文整體呈現(xiàn)快速增長(zhǎng)趨勢(shì)。

圖 7-3-6 無(wú)監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)論文數(shù)量走勢(shì)

圖 7-3-6 無(wú)監(jiān)督學(xué)習(xí) vs. 半監(jiān)督學(xué)習(xí)專利數(shù)量走勢(shì)

圖 7-4-1-5 無(wú)監(jiān)督學(xué)習(xí)對(duì)比半監(jiān)督學(xué)習(xí)(整體資訊)

在機(jī)器學(xué)習(xí)領(lǐng)域的近年累計(jì)趨勢(shì)指數(shù)排行中，無(wú)監(jiān)督學(xué)習(xí)與半監(jiān)督學(xué)習(xí)分列二、三位。

圖 7-5-1 機(jī)器學(xué)習(xí) Synced Indicator(累加)

在語(yǔ)言和視覺(jué)技術(shù)這兩個(gè)人工智能感知層應(yīng)用落地最成熟的技術(shù)領(lǐng)域，無(wú)監(jiān)督學(xué)習(xí)都是被提及頻率最高的技術(shù)發(fā)展趨勢(shì)。2018 年的圖靈獎(jiǎng)的共同獲得者 Geoffrey Hinton、Yann LeCun 以及 Yoshua Bengio 近年的研究重點(diǎn)也均是無(wú)監(jiān)督學(xué)習(xí)相關(guān)的。而強(qiáng)化學(xué)習(xí)近年來(lái)雖在研究上一直有新的突破，但應(yīng)用上多局限于游戲、自動(dòng)駕駛等模擬環(huán)境，整體呈現(xiàn)出理論超前于應(yīng)用的狀態(tài)，未來(lái)會(huì)在具體應(yīng)用上有更多實(shí)踐乃至突破。

趨勢(shì)二：圖神經(jīng)網(wǎng)絡(luò)、圖深度學(xué)習(xí)、大規(guī)模圖計(jì)算平臺(tái)將有很大發(fā)展空間

近年來(lái)，受社交網(wǎng)絡(luò)、知識(shí)圖譜以及神經(jīng)科學(xué)中圖形的重要性所驅(qū)動(dòng)，將深度學(xué)習(xí)模型應(yīng)用在不規(guī)則圖結(jié)構(gòu)的數(shù)據(jù)上逐漸成為了一種新興趨勢(shì)。這些基于圖的神經(jīng)網(wǎng)絡(luò)目前已經(jīng)在分類、嵌入、問(wèn)答等多種不同的目標(biāo) 應(yīng)用中取得最佳表現(xiàn)效果。

對(duì)比機(jī)器學(xué)習(xí)領(lǐng)域下的主流神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，雖然圖神經(jīng)網(wǎng)絡(luò)在目前的研究占比并不是很重，但可以看到在 2018 年后有一個(gè)較為陡峭的上升趨勢(shì)，是近年來(lái)較值得關(guān)注的新領(lǐng)域。

圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)論文數(shù)量走勢(shì)（未包含 CNN）

與此同時(shí)，圖神經(jīng)網(wǎng)絡(luò)從 2017 年起，技術(shù)到應(yīng)用的轉(zhuǎn)化率呈加速發(fā)展階段，在 2019 年機(jī)器學(xué)習(xí)領(lǐng)域整體專利數(shù)據(jù)源較少的情況下反而逆勢(shì)上漲。

圖 7-3-5 機(jī)器學(xué)習(xí)七大架構(gòu)專利數(shù)量走勢(shì)（未包含 CNN）

相比傳統(tǒng)的文本、語(yǔ)音、圖像數(shù)據(jù)格式，圖結(jié)構(gòu)將端到端學(xué)習(xí)與歸納推理相結(jié)合，是一種泛用性更強(qiáng)且更能代表現(xiàn)實(shí)世界真實(shí)情況的數(shù)據(jù)表示方式，有望解決深度學(xué)習(xí)無(wú)法處理的因果推理、可解釋性等一系列瓶頸問(wèn)題

趨勢(shì)三：深度學(xué)習(xí)的可解釋性與 AI 安全問(wèn)題越發(fā)受重視

黑盒問(wèn)題是自深度學(xué)習(xí)誕生起便一直伴隨其中的主要問(wèn)題與瓶頸之一，盡管深度學(xué)習(xí)技術(shù)的發(fā)展日新月異，在準(zhǔn)確率等技 術(shù)指標(biāo)上取得了驚人的成就，但是對(duì)于模型的可解釋性方面提升仍然不大。這極大地影響了相關(guān)技術(shù)在一些對(duì)模型結(jié)果的可信度和可解釋性有著高要求行業(yè)的應(yīng)用(比如金融和醫(yī)學(xué)行業(yè))。與此同時(shí)，伴隨著 AI 技術(shù)的不斷發(fā)展，用戶對(duì)于技術(shù)的關(guān)注度越來(lái)越高，其所帶來(lái)的各項(xiàng)問(wèn)題也隨之越來(lái)越受到大眾關(guān)注。

研究方面，AI 安全相關(guān)的論文近年從萌芽開(kāi)始穩(wěn)步增長(zhǎng)，專利方面，在逐年增長(zhǎng)的基礎(chǔ)上 2018 年~ 2019 年里還有一次較大增速的提升。

圖 10-3-2 強(qiáng)人工智能相關(guān)技術(shù)走勢(shì)（左：論文數(shù)量，右：專利數(shù)量）

新聞方面，2018 年之前 AI 安全的新聞?dòng)懻摱冉咏?0，但出現(xiàn)后是領(lǐng)域內(nèi)增速最快的技術(shù)分類。

圖 10-4-1-2 強(qiáng)人工智能相關(guān)技術(shù)新聞走勢(shì)

趨勢(shì)四：移動(dòng)和物聯(lián)網(wǎng)設(shè)備開(kāi)始承擔(dān)更多的智能計(jì)算任務(wù)

隨著移動(dòng)智能手機(jī)和物聯(lián)網(wǎng)設(shè)備的計(jì)算能力越來(lái)越強(qiáng)，移動(dòng)網(wǎng)絡(luò) 5G 等配套基礎(chǔ)設(shè)施的逐步成熟，移動(dòng)物聯(lián)網(wǎng)設(shè)備開(kāi)始承擔(dān)越來(lái)越多機(jī)器學(xué)習(xí)相關(guān)的訓(xùn)練和推理計(jì)算。

從相關(guān)領(lǐng)域的論文發(fā)表數(shù)量來(lái)看，分布式計(jì)算是目前的主要技術(shù)，然而其近年的相關(guān)論文發(fā)表數(shù)量卻有下降趨勢(shì)。而與之相關(guān)的邊緣計(jì)算和近年興起的無(wú)服務(wù)器計(jì)算則增速明顯。

圖 8-3-3 云計(jì)算論文數(shù)量分布

圖 8-3-3 論文走勢(shì)

圖 8-3-3 云計(jì)算專利數(shù)量走勢(shì)

一方面，云計(jì)算發(fā)展依舊迅猛，并逐漸向邊緣計(jì)算發(fā)展，助力物聯(lián)網(wǎng)智能化; 另一方面，AI 芯片也逐漸走向云端、邊緣端以及物聯(lián)網(wǎng)設(shè)備終端，有實(shí)力的科技公司將 AI 算力打包成服務(wù)，既合理利用了自身多余的算力資 源，又降低了不具備相關(guān)科研實(shí)力的中小企業(yè)可以以更低的成本使用到足夠的資源，完成自身的 AI 開(kāi)發(fā)與部署需求，這與 近年來(lái)媒體討論度頗高的無(wú)服務(wù)計(jì)算有著一致的思想理念。

趨勢(shì)五：自動(dòng)駕駛與機(jī)器人技術(shù)任重而道遠(yuǎn)

從我們基于媒體資訊挖掘的整體數(shù)據(jù)可以看出，自動(dòng)駕駛技術(shù)雖然整體上仍然處于上升趨勢(shì)，但是其最近 3 年的總體熱度相對(duì)其他 AI 技術(shù)而言卻是逐年下降的。無(wú)論是技術(shù)上還是社會(huì)影響上，無(wú)人駕駛領(lǐng)域的泡沫開(kāi)始逐漸散去，其研發(fā)開(kāi)始轉(zhuǎn)入了一個(gè)相對(duì)沉靜的緩慢發(fā)展期。

機(jī)器人技術(shù)方面，無(wú)人機(jī)是該技術(shù)領(lǐng)域近年來(lái)較為成熟的一大應(yīng)用，其近年的相關(guān)論文數(shù)量占據(jù)了該領(lǐng)域的六成以上，并保持了一個(gè)較高的增長(zhǎng)趨勢(shì)。智能機(jī)器人、服務(wù)機(jī)器人在專利方面總體都呈現(xiàn)上漲趨勢(shì)，可以看到整個(gè)行業(yè)正在從完全側(cè)重關(guān)注工業(yè)機(jī)器人向更貼近大眾生活的服務(wù)型機(jī)器人方向轉(zhuǎn)化。

圖 6-3-4 移動(dòng)機(jī)器人論文數(shù)量走勢(shì)（左）與專利數(shù)量走勢(shì)（右）

圖 6-3-5 人機(jī)交互、機(jī)器人流程自動(dòng)化數(shù)量走勢(shì)（上）與專利數(shù)量走勢(shì)（下）
編輯：hfy