黃鐵軍：AI安全要同等重視，否則人類(lèi)面臨巨大風(fēng)險(xiǎn)

以“促進(jìn)數(shù)碼融合天行備份”為主題的2023（第22屆）中國(guó)網(wǎng)絡(luò)大會(huì)18日在北京開(kāi)幕。

北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍以“人工智能巨大模型的現(xiàn)狀和展望”為主題發(fā)表了主題演講。

黃鐵軍認(rèn)為，大型模型有3個(gè)典型特征，規(guī)模大，參數(shù)要達(dá)到100億，普遍性，人工智能模型什么都能做。當(dāng)出現(xiàn)性，模型訓(xùn)練達(dá)到一定程度時(shí)，會(huì)突然出現(xiàn)意想不到的能力。

黃鐵軍指出，今天的chatgpt具有強(qiáng)大的智能，影響力深遠(yuǎn)。未來(lái)3年，除了語(yǔ)言之外，巨大模型還將迅速擴(kuò)展視覺(jué)，聽(tīng)覺(jué)，身體，行動(dòng)等普遍智能，其影響將更大。

在談及ai風(fēng)險(xiǎn)時(shí)，黃鐵軍表示：“簡(jiǎn)單的系統(tǒng)無(wú)法控制復(fù)雜的系統(tǒng)。如果人工智能智能水平超過(guò)人類(lèi)，人類(lèi)就不可能完全控制?！薄叭斯ぶ悄艿陌l(fā)展和人工智能風(fēng)險(xiǎn)管理，確實(shí)要同時(shí)重視，才能迎來(lái)光明的未來(lái)?！?/p>

黃哲說(shuō)，未來(lái)10年：智力革命已經(jīng)開(kāi)始，產(chǎn)業(yè)革命解放體力，電力革命解決能源流通，是全新生態(tài)的構(gòu)建，開(kāi)放資源開(kāi)放生態(tài)最終會(huì)取得勝利。未來(lái)20年：chatgpt是數(shù)據(jù)驅(qū)動(dòng)的靜態(tài)智能，未來(lái)是時(shí)空環(huán)境驅(qū)動(dòng)的體積智能。智能載體不是今天的人工神經(jīng)網(wǎng)絡(luò)，而是像大腦一樣的脈沖神經(jīng)網(wǎng)絡(luò)。超人“電子大腦”：如果不同等重視結(jié)構(gòu)模仿腦、功能腦腦、性能超腦腦、ai的安全，人類(lèi)將面臨巨大的危險(xiǎn)。