電子發(fā)燒友App
繼去年AlphaGo以4:1的成績戰(zhàn)勝李世石之后，最近一周在線上橫掃圍棋棋壇、四處挑戰(zhàn)圍棋高手并取得60連勝的神秘棋手Master終于揭開面紗，正式新版的AlphaGo，對人工智能的恐慌又彌漫社交網絡。在研究認知與心靈哲學的夏永紅看來，雖然AlphaGo的算法設計非常精妙，它仍然基于對大數據的暴力統(tǒng)計運算，這和人類智能的運作過程完全是兩回事。
“思維是人類不朽靈魂的一種機能，因此任何動物和機器都不能思維?！?/p>
“機器思維的后果太可怕了，我們希望并且相信機器做不到這一點?！?/p>
“哥德爾定理表明，任何形式系統(tǒng)都是不完備的，它總會面臨自身不能判定的問題，因此機器難以超越人心?！?/p>
“機器沒有現象意識體驗，它沒有思想也沒有感情?！?/p>
“機器沒有像人一樣豐富多彩的能力?！?/p>
“機器無法創(chuàng)造出什么新的東西。它所能做的都是那些我們知道怎樣命令它去執(zhí)行的事情。”
“神經系統(tǒng)不是離散狀態(tài)的機器，機器不能模擬它?！?/p>
“要將所有指導行為的常識形式化是不可能的?！?/p>
“人有心靈感應的能力，而機器沒有。
”
這些對人工智能(artificial intelligence，以下簡稱AI)的反對意見，是AI先驅阿蘭·圖靈在他的著名論文《計算機器與智能》(1950年)中最早羅列的。雖然圖靈已經對它們做過初步的批駁，但幾乎所有后來對AI的各種反駁論證，都可以從這些觀點中找到它們雛形。從AI誕生之日起，對它的各種質疑和批判，就一刻也沒有停止過。
然而，繼Alphago去年三月戰(zhàn)勝李世石，最近又化身Master掃蕩中日韓頂尖高手之后，這些觀點似乎已經銷聲匿跡了。已經沒有多少人懷疑，AI將在一個所謂的奇點(singularity)，全面超越人類的智能，唯一有爭議的，只是奇點什么時候到來。甚至那些敵視AI的人，也并不懷疑奇點的可能性，唯一擔憂的竟然是人類可能被AI淘汰。然而，這種盲目樂觀主義，既可能不負責任地傷害AI的未來發(fā)展——期望越高失望越大，也缺乏對當前AI的嚴格審視——如果我們了解Alphago是如何運作的，將會發(fā)現它仍然共享了所有AI所面臨的哲學難題。
一、人工智能為何不智能?
圖靈所列舉的那些批判，有很多在后來都發(fā)展成了更為精細的論證。比如，基于哥德爾定理的批判后來被哲學家盧卡斯和物理學家彭羅斯進一步發(fā)展;常識不可形式化的難題，后來出現在框架問題和常識問題中;機器只是機械地按照規(guī)則行動，而不能自主思考，是后來的中文屋論證和符號奠基問題關切的核心;機器沒有現象意識體驗，是那些主張第一人稱體驗和感受質的心靈哲學家們針對AI的主要觀點。
(1)框架問題是困擾AI最嚴重的問題之一，至今仍然未得到有效的解決。AI最初的范式是符號主義，基于符號邏輯來對世界進行表征?？蚣軉栴}就是內在于AI的表征過程的一個難題。認知科學家丹尼特舉過這樣的例子來描述框架問題：我們對機器人發(fā)出指令：進入一個放著定時炸彈的房間，將里面的一塊備用電池取出來。但是由于炸藥是和電池都在一個小車上，機器人推車取出電池的時候也會一塊推出炸藥。于是，炸藥爆炸了……我們可以讓機器人推演出一個動作所導致的附帶效果，來避免這種事故。于是，機器人進入房間之后，它開始計算推出車之后會不會改變房間墻壁的顏色，會不會改變車子的輪子……它不知道哪些結果與它的目標相關，哪些不相關。就在它陷入無限的計算推演的時候，炸藥爆炸了……我們再次對這個機器人作出改進，教他區(qū)分哪些附帶效果和任務相關，哪些不相關，但就在這個機器人計算哪些相關，哪些無關的時候，炸藥再次爆炸了。
當一個機器人作用于外部世界的時候，世界中的某些事物就可能會發(fā)生變化，機器人就需要對內部的表征作出更新。但什么事物會變化，什么事物不會變化，機器人本身卻并不知道，這就需要設定一個框架來規(guī)定變化的相關項。但這個框架一方面本身就過于繁冗，另一方面又依賴于具體情境從而更加繁冗，最終會遠遠超出計算機的負荷。這就是所謂的框架問題。
這個問題也常常關聯著AI表征中的另一個問題，比如常識問題。我們都知道所謂的阿西莫夫的機器人三律令，即機器人不得傷害人類(人類遇到危險它也必須設法解救)，必須服從人給予它的命令，盡可能保護自己的生存。但實際上，這三定律是很難作為機器人的指令存在的，因為它們并不是規(guī)則明晰、可以有效操作的指令。比如，救人這條律令，在不同的情境下有不同的執(zhí)行手段。當一個人上吊的時候，救他的辦法是剪斷繩子;但當一個人在五層樓的窗戶下拉著一條繩子呼救的時候，救他的辦法就是拉起而不是剪斷那條繩子。于是，讓人三律令工作起來，就必須對大量的背景知識進行形式化?？上У氖?，1980年代AI第二次浪潮中的專家系統(tǒng)和知識表征工程，就是因為無法處理常識表征的問題而最終失敗。
(2)AI的另一個難題就是中文屋論證以及由此衍生出來的符號奠基問題。心靈哲學家塞爾設計過這樣一個思想實驗，他假定自己被關在一個密閉的屋子中，屋子中有一本英文說明手冊，它描述了如何根據漢字的字形(而不是語義)，給出一個中文問題對應的中文答案。中文屋中的塞爾從窗口接收中文問題，然后根據這本英文手冊，給出相應的中文答案。從中文屋外面的人看來，似乎塞爾是懂得中文的。但實際上，塞爾根本不理解這些中文問題和答案的任何意義。在塞爾看來，數字計算機就類似于中文屋中的塞爾，它只是根據物理和句法規(guī)則來進行符號串的加工處理，卻完全不理解這些符號的意義。即便計算機表現出了和人類相似的智能行為，但計算機的工作歸根結底是對符號的處理，但這些符號的意義也并不是計算機所能理解或自主生成的，而是依賴于它們在人類頭腦中的意義。
?
?
?
后來認知科學家哈納德在塞爾的基礎上，提出了所謂的符號奠基問題：如何讓一個人工系統(tǒng)自主地產生符號的意義，而不需要人類的外部或預先的賦予。這個問題其實也就是如何讓AI可以自主地從世界中識別出特征量，最終自主地產生與這種特征量對應的符號?！?a target="_blank">深度學習”試圖解決這個問題，但其解法并不那么令人滿意。
(3)現象意識問題也是人工智能的難題。前面所述的框架問題和符號奠基問題，實際上涉及的都是如何在一個形式系統(tǒng)中模擬人類的表征活動。但即便這些表征活動都可以被人工智能所模擬，人類意識是否可以還原為表征過程，也是一個頗富爭議的問題。意識的表征主義理論認為，所有的意識過程都可以還原為表征過程，但是對于那些出身于或同情現象學傳統(tǒng)的心靈哲學家而言，意識包含人類心智中不可消除的主觀意識體驗。我們一般將這種第一人稱體驗稱之為感受質或現象意識。心靈哲學家內格爾寫過一篇有名的文章《成為一只蝙蝠是一種什么體驗?》，在他看來，即便我們掌握了關于蝙蝠的所有神經生物學知識，仍然無法確切地知道蝙蝠的內在意識體驗。查爾莫斯也有過類似的假定，比如我們可以假定存在這樣一個僵尸，它的一切活動都表現得像人類一樣，然而，它卻缺乏人類最本質的現象意識體驗。在他們看來，意識體驗是無法用表征過程來模擬的。如果這個理論成立的話，表征與意識就是兩個不同的概念，即便強人工智能是可能的，那么它也并不必然就具有意識。
二、Alphago真的智能了嗎?
那么，Alphago是否就真的那么具有革命性，成為AI發(fā)展的一個里程碑呢?實際上，Alphago并沒有采用任何新的算法，從而也就共享了這些傳統(tǒng)算法的局限。
Alphago的基本設計思路是，基于監(jiān)督式學習與強化學習兩種模式，通過構造兩個神經網絡即決策網絡和價值網絡來評估棋盤位置和決定走子動作。Deepmind的工程師首先采用監(jiān)督式學習，根據大量的人類棋局數據訓練了一個策略網絡，它可以從這些棋局中學習人類棋手的走子定式之后。但學會這些定式并不能成為高手，還需要對走子之后的棋局作出評估，從而選擇最佳的走法。為此，Deepmind采用了強化學習的辦法，根據之前訓練出來的策略網絡不斷地自我對弈(人類棋局的數據遠遠不夠了)，訓練了一個強化學習的策略網絡，它的學習目標不再是模擬人類棋手的走法，而是學習如何贏棋。Alphago最具創(chuàng)新性的地方在于，它根據這些自我對弈的數據，訓練了一個估值網絡，可以對整個盤面的優(yōu)劣作出評估。與人類對弈的時候，Alphago應用了蒙特卡洛搜索樹來整合這些神經網絡。首先，策略網絡可以搜索出各種走法，然后估值網絡來對這些盤面的勝率進行評估，最終決定走法。相比于傳統(tǒng)的單純暴力搜索，因為策略網絡形成了定式走法，估值網絡在對這些走法進行評估刪減，最終可以大大減少搜索的寬度和深度。
相比于傳統(tǒng)AI，近幾年來的深度學習，以及Alphago所復興的強化學習，他們已經表現了人類智能中從樣本數據和環(huán)境反饋中不斷學習的能力。但總體來看，雖然Alphago的算法設計非常精妙，它仍然基于對大數據的暴力統(tǒng)計運算，這和人類智能的運作過程完全是兩回事。Alphago進行了幾千萬局的對弈，并對這些局面進行統(tǒng)計分析，然后才得到了與人類同樣的棋力。但一個天才棋手達到同等程度的棋力，只需要下幾千盤棋，不到Alphago的萬分之一。因此，Alphago的學習效率仍然是十分低下的，這說明，它仍然沒有觸及到人類智能中最本質的部分。
更關鍵的是，深度學習仍然不能免于那些困擾傳統(tǒng)AI的理論難題。比如說機器人的框架問題，需要對機器人所處的復雜和動態(tài)環(huán)境做出實時的表征。應用現在的深度學習，可能是一個難以完成的任務。因為深度學習適用的領域，仍然局限于對大樣本圖像和語音數據的處理。一個動作可能會帶來哪些附帶的后果，這樣的數據因為高度語境依賴，而且難以以大數據的形態(tài)存在，因而就不可能用大數據來對機器人進行訓練。最終，要生成一個具有人類常識信念的神經網絡就是非常困難的，框架問題仍然難以解決。
此外，深度學習由于需要大量的訓練樣本的植入，在訓練過程中需要不斷地調整參數，來獲得想要的輸出。比如，Alphago的監(jiān)督式學習訓練出來的策略網絡，就需要人類的棋局作為訓練樣本，而且訓練過程中也需要人工設定特征參數。在這樣的情況下，神經網絡與世界之間的對應關系，仍然是人為設定，而不是神經網絡自主生成的。深度學習也不能完全解決符號奠基問題。
三、與其警惕人工智能，不如警惕哲學家
相比于其他工程學領域，AI可能是與哲學聯系最為緊密的一個學科。在人工智能哲學史上，很多哲學家都試圖用一些替代的思想資源，來改進人工智能的技術方案。而哲學也在這個過程中，扮演了牛虻的角色，通過不斷澄清人類智能和認知的本質，來檢視AI的弱點和限度，最終激勵AI的研究。在所有哲學家中，被人工智能研究者所援引最多的作者，可能就是海德格爾和維特根斯坦。
早在AI的符號主義時代，美國的海德格爾專家德雷福斯就批判了當時的AI。無論AI的算法多么復雜，都可以歸結為用符號邏輯或神經網絡來表征世界，然后基于對這些表征的高效處理來規(guī)劃行動。然而，這并不完全符合人類的行為模式。在德雷福斯看來，人類的大量行為并不涉及表征，行動者直接與環(huán)境進行實時交互，并不需要在頭腦中表征出世界的變化之后再規(guī)劃行動。后來MIT的布魯克斯就采用了這種“無表征智能”的方案(雖然布魯克斯不承認德雷福斯對他的影響，但據德雷福斯說，這個idea源于布魯克斯實驗室的某個學生選修了他的哲學課)，設計過一個可以實時響應環(huán)境的機器人“成吉思”。
除了海德格爾，維特根斯坦也是AI批判的另一個風暴中心。維特根斯坦在1939年左右，在劍橋主講過一門數學基礎的課程，而我們開篇提到的人工智能先驅圖靈正好選修過這門課程。后來有一部科學小說《劍橋五重奏》便安排了兩人關于機器能否思維展開了一番唇槍舌劍，其中一部分素材就是取自于兩人在課上的爭論。在維特根斯坦看來，人類與機器雖然都是遵循一定的規(guī)則而行動的，然而，規(guī)則對于機器而言是構成性的，因為它的運作就必須依賴于規(guī)則，但對于人類而言，遵守規(guī)則就意味著有意識地遵守它。但維特根斯坦對AI影響最大的是他晚期關于語言的學說。維特根斯坦早期認為，語言就是由一系列可以通過符號邏輯來描述的命題構成的集合，而世界也是由事實組成的，這樣，命題就是事實的邏輯圖象，我們就可以通過命題來刻畫世界。這個思想與AI的觀念是完全同構的。然而，維特根斯坦晚期放棄了這些觀念，他認為語言的意義不在于基本命題的組合，而在于它的用法，正是我們對語言的使用決定了它的意義。因此，像傳統(tǒng)AI那樣試圖建立符號與對象之間的固定聯系，是徒勞無功的，語言的意義只有在其使用中才能建立?；谶@個觀念，一些AI專家比如斯蒂爾就用它來解決符號奠基問題。他設計了這樣一個機器人種群，其中一個機器人看到一個對象比如說箱子之后，隨機生成了一個符號串比如Ahu來代表它，然后，它將Ahu這個符號傳達給另一個機器人，讓它猜謎，看哪一個對象對應著Ahu，如果這個機器人正確地指出了Ahu對應的箱子，就傳達給它一個正確的反饋。于是，這兩個機器人獲得了一個代表Ahu的詞匯。斯蒂爾將這個過程稱之為自適應語言游戲，通過不斷地進行這種游戲，這個機器人種群就可以獲得關于它們周圍世界的語言描述，從而將符號的意義自主地奠基于世界之中。
然而，這些進路在AI歷史上一直是十分邊緣的，因為它們所依賴的技術資源都太過簡單，要完整地模擬人類的身體和生活世界，其難度甚至要超過傳統(tǒng)AI用形式體系來表征世界。但如果海德格爾和維特根斯坦對于人類智能本質的理解是正確的話，那么未來的AI仍然不可避免地需要一種具身的和分布的方案。比如，賦予AI一個身體，讓它可以從環(huán)境(而不是訓練數據)中直接獲取特征量，讓它在與環(huán)境和其他能動者的交互中學習指導人類行動的常識和語言。這可能是通往通用AI的唯一道路。
然而，這種具身的通用AI可能也是人類的取滅之道。因為只要AI有了自身的歷史、周圍世界和生活形式，它最終也可以擺脫人類的訓練和反饋激勵，具有自己的欲望和目標。一旦它有了自己的欲望，并基于這種欲望來規(guī)劃自己的行動，在它對環(huán)境的不斷適應和調整中，將進入演化的軌道之中，成為一個新的物種。如果人類和它們產生生存上的沖突和競爭，由于人類在機能上的有限性，很可能會面臨被淘汰的命運。
因此，從哲學上看，我們擔心的并不是AI研究無視海德格爾和維特根斯坦這樣的人工智能(潛在)敵對者的論點，因為一個專用的弱AI才是好AI，我們更擔心的毋寧是AI研究者采信了它們的觀點，將現在的深度學習和強化學習與具身機器人學結合起來。
AlphaGo并不可怕，可怕的是它有了自己的身體、意識、欲望和情感。
工商網監(jiān)
評論