黃鐵軍：未來二十年AI的智力或?qū)⒊^人類?

人工通用智能（AGI）的目標(biāo)，是在人類智能所有方面全面超越人類智能。人做不到的事情它都能做到，人做到的事情它全部可以做到。這樣一種人工智能，在以前大家認(rèn)為是一種科幻，但是今年AI的發(fā)展，讓很多人的想法有所改變。

近日，北京智源人工智能研究院院長、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍先生在演講時(shí)指出，大模型（Large Model）作為通用人工智能的過渡階段，具有非常重要的現(xiàn)實(shí)意義和影響力，是這次人工智能浪潮的里程碑式進(jìn)展。具有三方面特點(diǎn)：規(guī)模大、通用性強(qiáng)和涌現(xiàn)性突出。規(guī)模大指的是一個(gè)模型的參數(shù)達(dá)到百億規(guī)模；通用性強(qiáng)指的是一個(gè)模型可以解決多種問題，而不是專門針對(duì)一個(gè)問題；涌現(xiàn)性突出指的是一個(gè)模型訓(xùn)練到一定程度以后突然出現(xiàn)預(yù)料之外的能力，就像人類學(xué)習(xí)到一定程度后會(huì)產(chǎn)生創(chuàng)造力一樣。

黃鐵軍認(rèn)為，人工智能大模型的發(fā)展與人類歷史上的兩次革命有可比性，一是工業(yè)革命，二是電力革命。工業(yè)革命解放了人的體力推動(dòng)了動(dòng)力發(fā)展，電力革命解決了能源流通，這兩次革命都改變了人類的生產(chǎn)和生活方式。而人工智能大模型的發(fā)展，將改變?nèi)祟惖闹橇λ胶椭悄芊?wù)形態(tài)。

“以前是機(jī)器接管人的很多力氣活，這次是要接管人很多智力活。以前是信息系統(tǒng)和互聯(lián)網(wǎng)系統(tǒng)由基礎(chǔ)軟件和應(yīng)用軟件構(gòu)成，這次是中間插入了一個(gè)智能大模型作為核心。以前是數(shù)據(jù)驅(qū)動(dòng)的靜態(tài)智能，這次是時(shí)空環(huán)境驅(qū)動(dòng)的具身智能。這些都是人工智能大模型所帶來的創(chuàng)新和挑戰(zhàn)。”黃鐵軍講道。

人工智能大模型的發(fā)展需要一個(gè)全新的生態(tài)系統(tǒng)和管理體系。如今的信息類智能，需要有海量、實(shí)時(shí)、可靠、全量的數(shù)據(jù)來源，需要有高效、安全、穩(wěn)定、可擴(kuò)展的計(jì)算平臺(tái)，需要有開放、協(xié)作、共享、創(chuàng)新的研發(fā)模式，需要有規(guī)范、合理、透明、可控的監(jiān)管機(jī)制。這些都需要國家、社會(huì)、行業(yè)和各方共同參與和推進(jìn)的事業(yè)。預(yù)計(jì)在未來幾年內(nèi)，類似于電網(wǎng)的人工智能運(yùn)營系統(tǒng)將逐步建立起來，為經(jīng)濟(jì)社會(huì)發(fā)展提供基礎(chǔ)服務(wù)。

“未來三年、十年和二十年內(nèi)大模型可能帶來更大的變革和挑戰(zhàn)。”黃鐵軍認(rèn)為，未來三年內(nèi)，除了語言，大模型正在迅速擴(kuò)展視覺、聽覺、具身、行動(dòng)等通用智能；未來十年內(nèi)，智力革命已經(jīng)打響，就像工業(yè)革命解放體力，電力革命解決能源流通，是全新生態(tài)的構(gòu)建；未來二十年內(nèi)，Chat-GPT是數(shù)據(jù)驅(qū)動(dòng)的靜態(tài)智能，而未來是時(shí)空環(huán)境驅(qū)動(dòng)的具身智能，智能載體不是今天的人工神經(jīng)網(wǎng)絡(luò)，而是類腦的脈沖神經(jīng)網(wǎng)絡(luò)，還可能出現(xiàn)超人“電子大腦”、結(jié)構(gòu)仿腦、功能類腦、性能超腦等。

如今大模型在語言、視覺、聽覺、具身和行動(dòng)等方面已經(jīng)得到了廣泛應(yīng)用并取得有效成果，已經(jīng)覆蓋了人類語言空間的很大一部分，并預(yù)計(jì)在兩三年內(nèi)可以逼近人類產(chǎn)生所有的語言功能。未來人工智能的發(fā)展可能會(huì)超乎想象。黃鐵軍提醒關(guān)注和防范大模型可能帶來的風(fēng)險(xiǎn)和危害，比如失控、目標(biāo)沖突、安全威脅等。全球都在研究人工智能的管控問題，我國近日也推出了《生成式人工智能暫行管理辦法》。

“控制論中有個(gè)基本觀點(diǎn)是，任何有效的控制系統(tǒng)都必須和控制系統(tǒng)一樣復(fù)雜。也就是說簡單系統(tǒng)控制不了復(fù)雜系統(tǒng)，如果人工智能智能水平超過了人類，人類要完全控制它從理論上是不可能的?！秉S鐵軍講道，人工智能的發(fā)展和人工智能風(fēng)險(xiǎn)的管控應(yīng)該同時(shí)進(jìn)行重視，才可能迎來光明的未來。