人工智能對算力的需求分析和預(yù)測

　　9月28日，為期3天的2020全國高性能計算學(xué)術(shù)年會（HPCChina2020）在鄭州舉行。中國工程院副院長、中國工程院院士陳左寧進行了題為《人工智能進展對算力需求分析》的報告。陳左寧提出人工智能模型和算法的7大發(fā)展趨勢，并對AI趨勢對算力的需求進行分析和預(yù)測：

　　1.向無監(jiān)督的方向發(fā)展

　　人工智能需要適應(yīng)“小數(shù)據(jù)”、減少標注需求、減少計算開銷。現(xiàn)在用的比較多的是主動學(xué)習(xí)，即算法主動提出標注請求，將一些經(jīng)過篩選的數(shù)據(jù)提交給專家標注。遷移學(xué)習(xí)即增強訓(xùn)練好的模型，解決目標領(lǐng)域中僅有少量有標簽樣本數(shù)據(jù)的問題。強化學(xué)習(xí)即用agents構(gòu)成系統(tǒng)來描述行為并給予評價和反饋學(xué)習(xí)。從主動學(xué)習(xí)到遷移學(xué)習(xí)再到強化學(xué)習(xí)，需要的能力也由“人機交互能力、數(shù)據(jù)整合能力”到“大算力預(yù)訓(xùn)練、數(shù)據(jù)處理能力”再到“信息采集能力、概率計算能力”不斷演化。

　　2.可解釋（XAI）越來越重要

　　首先，深度學(xué)習(xí)進一步設(shè)計算法和參數(shù)，提高泛化能力，需要模型算法可解釋。對抗樣本如果導(dǎo)致模型失效，那訓(xùn)練數(shù)據(jù)將不合理地被局部放大。另外，模型愈復(fù)雜，越容易失去可調(diào)式性和透明性。人工智能模型有透明模型和事后可解釋模式，無論是哪一個模型，他們都有對算力的需求，具體需求是需要我們將可解釋技術(shù)融入軟件環(huán)境中，為現(xiàn)有軟件框架增加可解釋技術(shù)接口；第二個需求是將人-AI系統(tǒng)結(jié)合。以人為中心，把人對事情的解釋跟整個模型融合在一起。

　　3.人工智能模型的自學(xué)習(xí)、自演化

　　從自動機器學(xué)習(xí)（AutoML）到限制約束條件的AutoML再到不設(shè)初始條件，搜索空間極大豐富的自演化AutoML，人工智能模型的自學(xué)習(xí)、自演化需要我們提供計算框架支撐、大算力支撐、輔助設(shè)備支撐。

　　4.多種算法、模型的有機組合

　　這個趨勢目前已經(jīng)非常明顯了，目前單一的算法或模型難以解決實際問題，經(jīng)過分析，我們可以把多種模型有機結(jié)合起來，另外，人工智能模型的發(fā)展希望融入多種技術(shù)來解決已有問題。當(dāng)然，人工智能的應(yīng)用流程越來越復(fù)雜，所以，不同流程所涉及的環(huán)境也多樣化，這就需要不同的算法和模型的組合，需要計算存儲等可擴展能力和基礎(chǔ)軟件能力提升，支持復(fù)雜模型。

　　5.人工智能應(yīng)用需要關(guān)注生命周期

　　從設(shè)計到數(shù)據(jù)預(yù)處理，建立、訓(xùn)練、優(yōu)化模型，部署、推理，保持和更新，數(shù)據(jù)積累，準備，訓(xùn)練，得到推理結(jié)果等這些全周期不同任務(wù)具有不同的事件、空間和計算需求，全生命周期都要考慮可解釋、公平性需求。

　　6.分布式、分散式的需求越來越突出

　　首先，大型、復(fù)雜模型，海量數(shù)據(jù)需要并行、分布式計算；第二，聯(lián)邦學(xué)習(xí)等分散場景需要分布式ML原生算法。因此這就需要大算力、原生支持分散場景，而并行的、分散的人工智能模型算法本身的需求越來越突出。

　　7.深度推理

　　清華大學(xué)唐杰老師認為，從計算、感知、認知到意識，對算力的需求，從最初的計算存儲、輸入輸出，到語音圖像等識別，再到認知推理、自學(xué)習(xí)、頓悟等，反映出對計算需求的演進。如何應(yīng)對多種形式的不確定性是目前的一大難題。比如從環(huán)境中感知的信息、知識的情景特異性、缺乏完全解釋自然現(xiàn)象的完整理論、計算的有限合理性等。我們可以從以下三個方面有效應(yīng)對多種形式的不確定性，如概率計算，類腦、仿腦體系結(jié)構(gòu)、模擬計算。

　　總結(jié)下來，人工智能對算力的需求有如下特點：關(guān)系和概率計算更加突出，同時不要求高精度、不要求高容錯；并且在節(jié)點上簡單了，此外，人在環(huán)路中的需求非常明顯。這些特點可能隨著人工智能的發(fā)展不斷突破。
責(zé)任編輯人：CC