美國三院院士圖靈獎(jiǎng)得主Manuel Blum: 如何為機(jī)器賦予意識(shí)?

1995年，Manuel Blum 因計(jì)算復(fù)雜性理論及其在密碼系統(tǒng)和程序檢驗(yàn)中的應(yīng)用而獲圖靈獎(jiǎng)。在今年的第三屆世界智能大會(huì)上，Manuel Blum 發(fā)表了題為“邁向有意識(shí)的人工智能，受神經(jīng)科學(xué)啟發(fā)的計(jì)算機(jī)體系結(jié)構(gòu)”的演講，一起來聆聽大師的智慧。

Manuel Blum, 1995年，因計(jì)算復(fù)雜性理論及其在密碼系統(tǒng)和程序檢驗(yàn)中的應(yīng)用而獲圖靈獎(jiǎng)。美國國家科學(xué)院院士，美國國家工程院院士，美國藝術(shù)與科學(xué)學(xué)院院士?，F(xiàn)任美國卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院教授。2019年5月16日，Manuel Blum在第三屆世界智能大會(huì)上，以“邁向有意識(shí)的人工智能，受神經(jīng)科學(xué)啟發(fā)的計(jì)算機(jī)體系結(jié)構(gòu)”為題展開演講。 Manuel Blum：朝著有意識(shí)的人工智能發(fā)展，這是電腦的架構(gòu)，是由一個(gè)神經(jīng)科學(xué)家所開發(fā)的。這是一項(xiàng)聯(lián)合研究，我們就這個(gè)理論也發(fā)布了一篇論文。我們所講的認(rèn)知神經(jīng)科學(xué)，要求我們?nèi)ダ斫獯竽X的運(yùn)作。1980年，Bernard Baars提出這樣的一個(gè)理論。我們?nèi)ダ斫馑_發(fā)的項(xiàng)目，也就是全球空間模型，這個(gè)模型可以幫助我們更好地理解什么是意識(shí)。而且有一個(gè)正式的計(jì)算機(jī)架構(gòu)，因?yàn)檫@個(gè)模型的啟發(fā)而得以開發(fā)出來。 這個(gè)模型是由認(rèn)知神經(jīng)科學(xué)家所提出來?；谶@個(gè)模型可以開發(fā)出更為靈活高效的機(jī)器，這也是未來機(jī)器發(fā)展的走向。

曼紐爾·布盧姆（右一） 我在這里探討的是意識(shí)。為什么要講意識(shí)？這個(gè)架構(gòu)和意識(shí)又有什么關(guān)系呢？我們認(rèn)為意識(shí)能夠讓人有能力和靈活性。同樣基于意識(shí)的架構(gòu)，能夠賦予計(jì)算機(jī)和機(jī)器人以非常強(qiáng)大的能力和靈活性。這里有很多的學(xué)生，我希望你們未來能夠打造出有意識(shí)的電腦。 首先，什么是意識(shí)？人的意識(shí)或者人的感知能力，就是我們所注意到的任何事情。無論是處于清醒狀態(tài)還是睡眠狀態(tài)，當(dāng)然如果你睡覺的時(shí)候沒有做夢(mèng)，那是沒有意識(shí)的。但是只要你能夠看到、聽到、感受到、聞到、品嘗到，這都是意識(shí)。你的感受、你的喜悅、你的悲傷、你的恐懼，這都是意識(shí)。我們內(nèi)心的自我獨(dú)白也是意識(shí)。我們每天無時(shí)無刻不在自己內(nèi)心和自己進(jìn)行對(duì)話。我們?cè)谕砩献鰤?mèng)的時(shí)候會(huì)夢(mèng)到各種各樣的圖像，這些圖像看上去栩栩如生，反映出我們大腦的故事?；旧衔覀兇竽X內(nèi)部所感知到的東西，這也是意識(shí)。

我們舉幾個(gè)例子。什么是有意識(shí)的計(jì)算？什么是沒有意識(shí)的計(jì)算？你們?nèi)⒓舆^party嗎？當(dāng)你看到一個(gè)人，感覺非常面熟就是不知道他叫什么名字。他叫什么名字呢？想不起來。你沒有在意這件事，算了吧，想不起來就想不起來吧。但是過了半小時(shí)，你突然想起來他叫什么名字了。這就是你的潛意識(shí)或者無意識(shí)地在進(jìn)行計(jì)算。 如果我們生命中沒有意識(shí)，那什么樣的狀態(tài)？就是睡覺，而且是沒有夢(mèng)的睡覺。有一種疾病就是人有意識(shí)，但是卻看不到東西?；颊叩囊曈X功能是正常的，但是他們卻看不到東西，這就是所謂的盲視?；颊呖吹綎|西卻沒有意識(shí)，因此覺得自己是盲人。但是他們真的是盲人嗎？把患者放到一個(gè)房間，這個(gè)房間有入口，里面有很多的障礙物，讓他們避開這些障礙物，到房間的另一端，他們是能夠做到的。他們往往做到之后也感到非常驚奇，覺得難以置信。

圖片來自大科技 意識(shí)讓我們的生命充滿了活力。意識(shí)來自于哪里？認(rèn)知神經(jīng)科學(xué)家Bernard Baars指出，意識(shí)來自大腦的結(jié)構(gòu)。這里講的不是神經(jīng)元，而是在神經(jīng)元更基礎(chǔ)之上，更高一個(gè)層面的架構(gòu)系統(tǒng)設(shè)計(jì)。神經(jīng)科學(xué)家于1989年提出來一個(gè)理論叫做劇場(chǎng)意識(shí)，這是一個(gè)聰明絕頂?shù)睦碚摚褪且詣?chǎng)作為類比來描述“什么是意識(shí)”。意識(shí)就是在舞臺(tái)上的演員憑借短期的記憶從事一系列的表演。短期記憶，一個(gè)非常非常短的記憶，它就是你的意識(shí)。舞臺(tái)上的演員憑借這個(gè)短期的記憶在進(jìn)行表演，有很多很多的觀眾坐在暗處觀看。這些觀眾不見得有意識(shí)，那這就是長期意識(shí)，長期記憶。

基于這個(gè)理論進(jìn)一步的完善，讓它成為一個(gè)正式嚴(yán)謹(jǐn)?shù)睦碚摗Ｎ覀兛匆豢?，左邊是輸入，我從上面開始講吧。這個(gè)頂端有一個(gè)中央指揮員，就像是一個(gè)導(dǎo)演，劇場(chǎng)上這些演員怎么調(diào)動(dòng)由他說了算。右邊的這個(gè)圖像是我們短期記憶，也就是短暫的存儲(chǔ)，短暫的信息庫存?；诖?，我們?cè)龠M(jìn)一步地前進(jìn)到輸出這個(gè)環(huán)節(jié)。在最下面，是各種各樣的長期記憶處理。 這是個(gè)聰明絕頂?shù)哪Ｐ?。我多年來就想找到這樣的模型，但是一直沒有找到。后來幸運(yùn)的是Bernard Baars發(fā)明了這個(gè)模型，但是這不是一個(gè)“放之四海皆準(zhǔn)”的藍(lán)圖，你不能憑著這個(gè)模型就造出一個(gè)有意識(shí)的機(jī)器。作為計(jì)算機(jī)科學(xué)家，我和其他的聯(lián)合研究員對(duì)這個(gè)模型的完善也做出一些貢獻(xiàn)，就是對(duì)人工智能、智能圖靈機(jī)器給出一個(gè)正式的定義，而且有相應(yīng)的理論。

有意識(shí)的圖靈機(jī)器不是要做無法計(jì)算的任務(wù)，這是沒辦法做到的。只是能夠把那些可以計(jì)算的任務(wù)以更加高效的方式做出來，能夠給我們提供一個(gè)打造有意識(shí)的機(jī)器的圖紙，能夠讓我們更好地去理解意識(shí)，讓我們知道為什么機(jī)器有可能是變成有意識(shí)的。

現(xiàn)在，這樣的機(jī)器已經(jīng)在建造之中，至少有一個(gè)這樣的軟件。有兩個(gè)團(tuán)隊(duì)在做，其中一個(gè)團(tuán)隊(duì)負(fù)責(zé)人是華盛頓大學(xué)的教授，另外一個(gè)團(tuán)隊(duì)負(fù)責(zé)人是哈工大的王長喜教授。這是意識(shí)的架構(gòu)，由簡單的圖靈機(jī)器所啟發(fā)的。還有Bernard GWM的模型，這兩者結(jié)合在一起我們就可以對(duì)有意識(shí)的圖靈機(jī)器給出一個(gè)定義，界定已具備的幾個(gè)特點(diǎn)。

這里我們看一看一個(gè)正式的、有意識(shí)的圖靈機(jī)器。在這上面有一個(gè)鐘表在計(jì)時(shí)間。每一個(gè)有意識(shí)的機(jī)器，它的每一步都在進(jìn)行計(jì)算，而且在周遭有一個(gè)環(huán)境，包括有意識(shí)的個(gè)體本身。有意識(shí)的AI，有7個(gè)層級(jí)，像輸入輸出、短期記憶、長期記憶、向下的數(shù)向上的數(shù)。這里我用一個(gè)深入淺出的方式來講，給大家看一個(gè)圖表，就像Bernard的圖表一樣。 這是有意識(shí)的圖表機(jī)器架構(gòu)，看起來像Baars提出的模型，短期記憶是黃色的部分，這是我們感知到的有意識(shí)的部分。中央指揮官在最上面這個(gè)導(dǎo)演我們是沒有的，在我們的機(jī)器中取消了這個(gè)東西，直接輸入，從這條直線沒有直接輸入到短期記憶，在這個(gè)模型中短期記憶并沒有直接的輸出。但是我們有外界的輸入進(jìn)入下面長期記憶，長期記憶也在運(yùn)作。長期記憶處理發(fā)出信號(hào)產(chǎn)生產(chǎn)出。長期記憶的處理經(jīng)歷了某種類型的競爭，來決定到底哪些東西是可以進(jìn)入到短期記憶。一旦進(jìn)入短期記憶，就要進(jìn)行廣播，向所有的長期記憶處理器進(jìn)行廣播。 我們提出一個(gè)觀點(diǎn)就是，我們所開發(fā)出的這種意識(shí)，短期記憶中的東西都進(jìn)行廣播，向所有的長期記憶處理器進(jìn)行廣播，讓長期記憶知道你對(duì)什么東西是有意識(shí)的。

這就是競爭的進(jìn)行。而這個(gè)競爭必須要簡單地競爭，而且要求的速度非?？?，幾十億個(gè)長期記憶進(jìn)行競爭，經(jīng)過競爭后只有一個(gè)長期記憶進(jìn)入短期記憶，所以要非常地快。 短期記憶非常短，就是一個(gè)小塊。大家知道小塊是什么意思嗎？經(jīng)濟(jì)學(xué)家經(jīng)常用這個(gè)詞，這個(gè)小塊也就是所謂的數(shù)字或者一個(gè)詞或者一個(gè)字母，或者是一個(gè)字母表比如說英文的字母表。我們對(duì)字母表其實(shí)是沒有意識(shí)的，我們只知道ABCD，我們可以一直數(shù)下去，但是這個(gè)小塊呢，指的是一個(gè)提示器。它能夠指到你想要的東西。 比如說下面減5，如果是痛苦的話，減7，如果是高興的話，又是另外的一個(gè)數(shù)值。那5比3要大，所以痛苦的分值要比高興的分值要高，所以痛苦就在競爭中脫穎而出，勝出進(jìn)入短期記憶。我們可以看到像恐懼是負(fù)5的得分，所以他們勝出了，在競爭中向上傳負(fù)7，痛苦的分值是負(fù)7，在競爭中勝出，往上傳，往短期記憶傳。所以像這樣的活動(dòng)持續(xù)不斷的，總是有些東西在競爭中勝出，而進(jìn)入短期記憶。

在這個(gè)模型里面有這樣一個(gè)小塊，會(huì)進(jìn)入短期記憶，那心理學(xué)家就說短期記憶能夠容納2個(gè)小塊，但是在我們模型里面我們只設(shè)置了一個(gè)小塊。

圖片來自網(wǎng)絡(luò) 我給大家展示一下，長期記憶處理器到底長什么樣子。它對(duì)外界的輸入進(jìn)行采集，然后再經(jīng)過競爭，輸入到短期記憶，再形成產(chǎn)出，進(jìn)入外界。這是一個(gè)很有意思的點(diǎn)，當(dāng)一個(gè)嬰兒出生的時(shí)候，是沒有這樣的連接的。當(dāng)有知覺的、有意識(shí)的圖靈機(jī)器剛剛創(chuàng)造出來的時(shí)候也是沒有知覺的，就像一個(gè)剛剛生出的嬰兒一樣。但是隨著嬰兒不斷的成長，也就是隨著機(jī)器不斷的成長，這些處理器反反復(fù)復(fù)的進(jìn)行競爭，反反復(fù)復(fù)地在競爭中勝出，進(jìn)入短期記憶。比如說其中一個(gè)長期記憶處理器，處理的東西勝出了，然后他會(huì)反反復(fù)復(fù)問一個(gè)問題。其他的一些處理器會(huì)試圖回答這個(gè)問題，產(chǎn)生了想要的答案。比如說和A回答B(yǎng)的問題，A和B就形成鏈接。這樣一個(gè)鏈接讓意識(shí)的程序逐漸變成了無意識(shí)的程序，然后就中斷了，基本上就意識(shí)不到它的存在了。

接下來給大家看一個(gè)例子，展示它運(yùn)作的機(jī)制。這里可以看到模型，有意識(shí)的模型。比如說你摸了一個(gè)爐子，你的手指被燙了，這個(gè)輸入就進(jìn)入長期記憶的處理器，被標(biāo)注定義為痛苦。這個(gè)痛苦傳到旁邊的處理器，很快就產(chǎn)生了輸出。這個(gè)輸出就是你把手很快從滾燙的爐子邊挪開。與此同時(shí)，這個(gè)產(chǎn)出也會(huì)進(jìn)入到短期記憶。因此，你只是會(huì)在你被燙的時(shí)候才感知到這個(gè)痛苦。然后進(jìn)行廣播，其他的一些處理器，比如控制水的處理器，這個(gè)東西太燙不能喝。
那到底什么是有意識(shí)的圖靈機(jī)器？它對(duì)什么有意識(shí)？就是短期記憶有意識(shí)，它的小塊能夠?qū)π畔⑺诘牡胤竭M(jìn)行定位。為什么短期記憶如此短，如此微小，這也是有答案的。 哪些東西能夠進(jìn)入短期記憶？長期記憶的處理器是如何產(chǎn)生的？什么樣的長期記憶處理器才能夠形成意識(shí)？這有很多很多的問題，都是需要解答的。