早在 1948 年,圖靈就寫了一篇題為《智能機(jī)器》的論文,描繪了現(xiàn)在成為人工智能核心的許多概念,包括遺傳算法、神經(jīng)網(wǎng)絡(luò)、強(qiáng)化學(xué)習(xí)等。在沒(méi)有電子計(jì)算機(jī)的年代,圖靈用紙和鉛筆做出了這項(xiàng)開(kāi)創(chuàng)性的研究,在今天引發(fā)熱議。
很少人知道,早在 1948 年,艾倫·圖靈就寫了一篇題為《智能機(jī)器》(Intelligent Machinery)的論文,描繪了人工智能中聯(lián)結(jié)主義的大部分內(nèi)容。
這篇論文是圖靈在倫敦國(guó)家物理實(shí)驗(yàn)室工作時(shí)寫的,但沒(méi)有得到他的老板的認(rèn)可。當(dāng)時(shí)的實(shí)驗(yàn)室主任查爾斯·達(dá)爾文爵士稱這是一篇“學(xué)生論文”,并寫信給圖靈,抱怨論文“滿是臟痕”外觀。
事實(shí)上,這篇具有遠(yuǎn)見(jiàn)卓識(shí)的論文是關(guān)于人工智能的第一個(gè)宣言,但遺憾的是圖靈從未發(fā)表它。
在這篇論文中,圖靈不僅闡述了聯(lián)結(jié)主義的基本原理,而且出色地引入了許多后來(lái)成為人工智能核心的概念,包括具有學(xué)習(xí)能力的遺傳算法和神經(jīng)網(wǎng)絡(luò)(他稱之為 “無(wú)組織機(jī)器”)、甚至強(qiáng)化學(xué)習(xí)的思想。當(dāng)然,這些概念是在其他人重新發(fā)明之后才成為核心的。
圖靈在論文摘要中寫道:
這篇文章討論了使機(jī)器顯示出智能行為的可能方法。指導(dǎo)原則是與人腦的類比。本文指出只有提供適當(dāng)?shù)慕逃瑱C(jī)器才能實(shí)現(xiàn)人的智慧潛能。研究主要圍繞一個(gè)應(yīng)用于機(jī)器的類似教學(xué)過(guò)程展開(kāi)。定義了無(wú)組織機(jī)器(unorganized machine)的概念,并提出嬰兒期的人腦皮層具有這種性質(zhì)。本文給出了這類機(jī)器的簡(jiǎn)單例子,并討論了它們的獎(jiǎng)懲教育。在一種情況下,教育過(guò)程一直進(jìn)行到它的組織性與 ACE 類似為止。
(注:ACE 是指 Automatic Computing Engine, 圖靈設(shè)計(jì)的一種早期的電子計(jì)算機(jī)。)
艾倫·圖靈
圖靈說(shuō):我提議研究這樣一個(gè)問(wèn)題:機(jī)器是否有可能表現(xiàn)出智能行為。人們通常想當(dāng)然地認(rèn)為這是不可能的。常見(jiàn)的說(shuō)法如像機(jī)器一樣做事”、“純粹的機(jī)械行為”等揭示了這種常見(jiàn)的態(tài)度。
圖靈1948年論文引熱議:一個(gè)對(duì)深入了解大腦癡迷的家伙
這篇論文在 Reddit 上引發(fā)了熱烈討論。
有人評(píng)論:像這樣的論文今天幾乎會(huì)被所有 “頂級(jí)” 人工智能會(huì)議和期刊拒絕,但我不得不說(shuō),我很欣賞它的簡(jiǎn)潔性和直接性(和誠(chéng)實(shí))。這在圖靈的那個(gè)時(shí)代是很受重視的。那時(shí)編輯想到的第一件事不是:“這篇會(huì)得到多少引用?”
有人評(píng)論:從長(zhǎng)遠(yuǎn)來(lái)看,我認(rèn)為跨學(xué)科是一種方法,但考慮到可用的計(jì)算和數(shù)據(jù)量以及仍未觸及的領(lǐng)域或問(wèn)題,你可以通過(guò)試驗(yàn)和使用蠻力獲得一些結(jié)果。對(duì)于有哲學(xué)背景的人來(lái)說(shuō),這是一篇非常好的讀物。
也有人一語(yǔ)中的:這個(gè)家伙(圖靈)實(shí)際上是對(duì)深入了解大腦過(guò)程癡迷。
谷歌大腦研究科學(xué)家Divid Ha推薦了這篇論文:圖靈在 1948 年提出利用進(jìn)化來(lái) “訓(xùn)練” 一種特殊類型的神經(jīng)網(wǎng)絡(luò),他稱之為 “B 型無(wú)組織機(jī)器”。他發(fā)展了二進(jìn)制網(wǎng)絡(luò)來(lái)執(zhí)行當(dāng)時(shí)的各種任務(wù)。
圖靈是一個(gè)有遠(yuǎn)見(jiàn)的人。他理解這種機(jī)制所需的復(fù)雜性。我們的 “深度網(wǎng)絡(luò)” 在信息處理的復(fù)雜性方面非常淺:它們甚至無(wú)法推斷任意長(zhǎng)度的分支多米諾骨牌鏈的結(jié)果。
那么,圖靈這篇獨(dú)創(chuàng)性的論文講了什么?新智元帶來(lái)解讀:
圖靈提出“無(wú)組織機(jī)器”:類比嬰兒的大腦皮層
圖靈在這篇論文中提出了“無(wú)組織機(jī)器”(unorganized machine)的概念,他認(rèn)為人類嬰兒的大腦皮層就是一種“無(wú)組織機(jī)器”,可以通過(guò)適當(dāng)?shù)母蓴_訓(xùn)練來(lái)有組織化。
圖靈將無(wú)組織機(jī)器定義為在初始時(shí)大部分結(jié)構(gòu)隨機(jī),但是能夠被訓(xùn)練去執(zhí)行特定的任務(wù)的機(jī)器。
實(shí)際上,圖靈的無(wú)組織機(jī)就是一種早期的隨機(jī)連接神經(jīng)網(wǎng)絡(luò)模型,是對(duì)真實(shí)神經(jīng)網(wǎng)絡(luò)系統(tǒng)最簡(jiǎn)單的猜想之一。
圖靈定義了兩個(gè)類型的無(wú)組織機(jī)器。第一種是A 型機(jī)器——這些機(jī)器本質(zhì)上是由NAND 邏輯門隨機(jī)連接的網(wǎng)絡(luò)。
第二種被稱為B 型機(jī)器,它采用 A 型機(jī)器的結(jié)構(gòu),并使用一個(gè)稱為connection modifier的結(jié)構(gòu)來(lái)替換每個(gè)節(jié)點(diǎn)間的連接。connection modifier 的目的是讓 B 型機(jī)接受“適當(dāng)?shù)母蓴_,模仿教育”,以便將網(wǎng)絡(luò)的行為有組織化,以執(zhí)行有用的工作。
B 型無(wú)組織機(jī)可以說(shuō)是一種神經(jīng)網(wǎng)絡(luò),由人工神經(jīng)元組成,如下圖的圓圈所示;connection-modifiers 如下圖的方框所示。
B 型網(wǎng)絡(luò)中的兩個(gè)神經(jīng)元
在“遺傳算法”這個(gè)術(shù)語(yǔ)被創(chuàng)造出來(lái)之前,圖靈甚至提出使用他稱為“genetical search”的機(jī)制來(lái)配置他的無(wú)組織機(jī)。
圖靈認(rèn)為,當(dāng)網(wǎng)絡(luò)中的節(jié)點(diǎn)數(shù)量較大時(shí),B 型機(jī)器的行為可能非常復(fù)雜,并指出“從進(jìn)化和遺傳學(xué)的角度來(lái)看,大腦皮層作為一個(gè)無(wú)組織機(jī)器的觀點(diǎn)是非常有道理的”。
圖靈的神經(jīng)網(wǎng)絡(luò)是如何工作的
如上圖所示,每個(gè)神經(jīng)元有兩個(gè)輸入,神經(jīng)元的輸出是兩個(gè)輸入的簡(jiǎn)單邏輯函數(shù)。網(wǎng)絡(luò)中的每個(gè)神經(jīng)元都執(zhí)行相同的邏輯操作,稱為“Nand”。
Nand的定義如下表所示:
中斷模式(interrupt mode)下 ,connection-modifier 的輸出總是 1。因此,如果神經(jīng)元的一個(gè)輸入連接在中斷模式下通過(guò) connection-modifier 傳遞,那么神經(jīng)元的輸出與第二個(gè)輸入的任何內(nèi)容完全相反(或稱“布爾否定”)。
例如,表格的前兩行顯示了當(dāng) INPUT-1 在中斷模式下連接到 modifier 時(shí)會(huì)發(fā)生什么。在這種情況下,神經(jīng)元的輸出與 INPUT-2 相反。
圖靈選擇 nand 作為他的模型神經(jīng)元的基本操作,因?yàn)槠渌壿?或布爾)操作都可以由一組 nand 神經(jīng)元執(zhí)行。圖靈表明,甚至連 connection-modifier 本身也可以由 nand-neuron 構(gòu)成。因此,每個(gè) B 型網(wǎng)絡(luò)都可以由 nand-neuron 及其連接組成。這是大腦皮層的最簡(jiǎn)單模型。
下面是一個(gè)B型無(wú)組織機(jī)的例子,圖靈將這個(gè)例子描述為“隨機(jī)選擇”
你能弄清楚這個(gè)網(wǎng)絡(luò)的行為嗎?
下面是一個(gè)更大的 B 型網(wǎng)絡(luò)的例子,其中神經(jīng)元自由互聯(lián):
大型初始隨機(jī) B 型網(wǎng)絡(luò)的一部分
在沒(méi)有電子計(jì)算機(jī)的時(shí)代,用紙和鉛筆模擬大腦
大腦中一個(gè)神經(jīng)元的大量輸出可以直接或通過(guò)一些中間的神經(jīng)元鏈與神經(jīng)元自身的輸入相連。
神經(jīng)科學(xué)家長(zhǎng)期以來(lái)強(qiáng)調(diào)大腦反饋的重要性和普遍性。例如,大腦利用反饋來(lái)幫助我們把注意力集中在某些感知上,而不是排斥其他感知。Stefan Treue 和 John Maunsel 最近發(fā)現(xiàn),當(dāng)一只猴子的注意力集中在電腦屏幕上幾個(gè)獨(dú)立移動(dòng)的點(diǎn)中的一個(gè)點(diǎn)上時(shí),反饋會(huì)從較高皮層的神經(jīng)元返回到識(shí)別運(yùn)動(dòng)的下部皮質(zhì)區(qū)域的神經(jīng)元。
這種反饋?zhàn)饔檬且种粕窠?jīng)元的活動(dòng),這些神經(jīng)元對(duì)無(wú)參與點(diǎn)的運(yùn)動(dòng)作出反應(yīng)。然而,盡管反饋在大腦中很重要,但在現(xiàn)代的連接主義網(wǎng)絡(luò)中很少使用。相反,B 型網(wǎng)絡(luò)中的神經(jīng)元相互連接非常自由,像大腦一樣,一個(gè)大的網(wǎng)絡(luò)通常會(huì)充滿反饋。
圖靈希望研究更復(fù)雜的大腦皮層模型。他渴望做現(xiàn)代連接學(xué)家能夠做的事情:用一臺(tái)普通的數(shù)字計(jì)算機(jī)模擬神經(jīng)網(wǎng)絡(luò)及其訓(xùn)練方案。
他說(shuō),他將“允許整個(gè)系統(tǒng)運(yùn)行一段相當(dāng)長(zhǎng)的時(shí)間,然后作為一種’學(xué)校督察員’介入,看看能取得什么進(jìn)展”。但他自己對(duì)神經(jīng)網(wǎng)絡(luò)的研究是在第一臺(tái)通用電子計(jì)算機(jī)投入使用前進(jìn)行的,當(dāng)時(shí)他只能用紙和鉛筆。
后來(lái),他將注意力轉(zhuǎn)向現(xiàn)在所謂的人工生命的相關(guān)研究。直到 1954 年,也就是圖靈去世的那一年, B.G. Farley 和 W.A. Clark 才在 MIT 成功地運(yùn)行了第一個(gè)小型神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)模擬。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4778瀏覽量
101023 -
人工智能
+關(guān)注
關(guān)注
1793文章
47604瀏覽量
239541 -
智能機(jī)器
+關(guān)注
關(guān)注
0文章
97瀏覽量
20313
原文標(biāo)題:圖靈71年前就已提出神經(jīng)網(wǎng)絡(luò)!《智能機(jī)器》再掀熱議,卻一生未發(fā)表
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論