人類如何通過(guò)人工智能“賦能”，而不是被其“操縱”

在新智元AI World 2018世界人工智能峰會(huì)上，MIT物理系終身教授、未來(lái)生命研究所創(chuàng)始人、《生命3.0》的作者M(jìn)ax Tegmark作了《人類如何通過(guò)人工智能“賦能”，而不是被其“操縱”》的研究，Tegmark認(rèn)為，我們應(yīng)該認(rèn)真思考未來(lái)，思考如何引領(lǐng)技術(shù)發(fā)展的方向，讓AI會(huì)增強(qiáng)人類，而非操縱人類。

9月20日，在新智元AI World 2018世界人工智能峰會(huì)上，MIT物理系終身教授、未來(lái)生命研究所創(chuàng)始人、《生命3.0》的作者M(jìn)ax Tegmark分享了他對(duì)“更遠(yuǎn)的未來(lái)”的想法。

Tegmark在他的暢銷書(shū)《生命3.0》中設(shè)想了一個(gè)具有發(fā)展階段的生命歷程。生命1.0就是最原始的生命形式，如細(xì)胞，生命只是在不停復(fù)制。

到了生命2.0階段，這是人類所在的地方：人類能夠?qū)W習(xí)，適應(yīng)不斷變化的環(huán)境，并能有意地改變這些環(huán)境。但我們還不能改變我們的身體自身，不能改變我們的生物遺傳。Tegmark 將這種對(duì)比比喻成軟件和硬件之間的對(duì)比。

第三個(gè)階段，即生命 3.0 階段。在這個(gè)階段，我們把人工智能用于所有任務(wù)，也就是所謂的AGI（通用人工智能）。人類不僅可以重新設(shè)計(jì)自身的軟件，還可以重新設(shè)計(jì)自身的硬件。

Tegmark說(shuō)，我們現(xiàn)在技術(shù)發(fā)展和AI發(fā)展的現(xiàn)狀非常復(fù)雜，但是有一點(diǎn)可以確定，就是大多數(shù)的研究員在某種程度上已經(jīng)能夠建立AGI，AI在很多任務(wù)上已經(jīng)能做得比人類更好。當(dāng)然，這也是非常有爭(zhēng)議的部分，可能會(huì)帶來(lái)技術(shù)的爆炸。

Tegmark表示，如果考慮未來(lái)可能面臨的挑戰(zhàn)，這會(huì)是人類歷史上犯下的一個(gè)巨大的錯(cuò)誤。但是因?yàn)榧夹g(shù)是如此的有力，我們?cè)趯?shí)現(xiàn)技術(shù)能力的道路上會(huì)犯下很多錯(cuò)誤。我們應(yīng)該如何引導(dǎo)技術(shù)的發(fā)展，為人類創(chuàng)造一個(gè)非常美好的未來(lái)，這是美國(guó)、中國(guó)以及所有國(guó)家都應(yīng)該思考的問(wèn)題。

以下是Max Tegmark在新智元AI World 2018世界人工智能峰會(huì)上的演講實(shí)錄，他的演講主題是《人類如何通過(guò)人工智能“賦能”，而不是被其“操縱”》。

從生命1.0到生命3.0

Max Tegmark：非常高興能夠來(lái)到這里，前面幾位嘉賓已經(jīng)談了很多最近AI的驚人發(fā)展，以及在不久的未來(lái)我們期望看到的AI的進(jìn)一步發(fā)展。接下來(lái)我就和大家談一談更遠(yuǎn)的未來(lái)。

首先讓我們回顧一下AI在宇宙透視圖當(dāng)中的位置，宇宙是從哪里來(lái)的呢？我們是怎么成為現(xiàn)在的自己呢？怎樣從一個(gè)非常小的行星，形成了一個(gè)巨大的宇宙？我們用望遠(yuǎn)鏡也可以看到，整個(gè)宇宙是非常巨大的，盡管是地球給了我們生命，但宇宙似乎仍舊不被我們所理解，宇宙實(shí)際上讓我們敬畏。

我們正在研發(fā)的技術(shù)能夠幫助我們?nèi)チ私馍?，不僅僅是幾個(gè)世紀(jì)以前，甚至是幾十億年以前的生命。

我把最早的生命稱作生命1.0（Life 1.0），因?yàn)樗亲钤嫉纳问?，例如?xì)胞，這一階段的生命無(wú)法學(xué)習(xí)。

我把人類生命稱作生命2.0（Life 2.0），我們已經(jīng)可以學(xué)習(xí)了，而且可以 在我們的大腦中安裝新的軟件，比如語(yǔ)言、工作技能。所有這些使人類成為成為世界上最強(qiáng)大的物種。

在生命3.0（Life 3.0），我們不僅能夠開(kāi)發(fā)軟件，而且能夠開(kāi)發(fā)硬件。當(dāng)然，Life 3.0現(xiàn)在還不存在。不過(guò)或許技術(shù)已經(jīng)發(fā)展到Life 2.1的階段，創(chuàng)造出人工義肢、心臟起搏器等等增強(qiáng)我們身體的硬件。

那么，讓我們看一下我們與技術(shù)的關(guān)系。

AI將在所有任務(wù)達(dá)到人類水平

我們的世界是非常神奇的，我們知道如何明智地使用技術(shù)去實(shí)現(xiàn)我們的夢(mèng)想。例如發(fā)射火箭，我們知道如何給火箭的方向定位，如何達(dá)到那個(gè)目標(biāo)，所以我們就需要?jiǎng)恿?、方向和目?biāo)。

但還有一段更鼓舞人心的旅程，它的動(dòng)力比火箭的發(fā)動(dòng)機(jī)更強(qiáng)大，它的乘客不僅是宇航員，而是整個(gè)人類。

我們要談?wù)摰氖侨祟愓w去往AI的未來(lái)的旅程。對(duì)于發(fā)射火箭來(lái)說(shuō)，光有動(dòng)力還不行，我們要知道它的方向和目標(biāo)。對(duì)于AI也是如此，接下來(lái)我們將談?wù)揂I的動(dòng)力、方向和目標(biāo)。

什么是智能？智能就是去完成復(fù)雜目標(biāo)的能力，目標(biāo)越復(fù)雜我們就需要越多的智能。智能分為兩種：生物智能和人工智能。

智能就是關(guān)于所有信息處理的能力，不管是用大腦細(xì)胞的碳原子來(lái)處理，還是用GPU的硅原子還處理，或者其它我們創(chuàng)造出來(lái)的技術(shù)。

AI的發(fā)展如此迅速，讓人振奮。不久前我們還沒(méi)造出會(huì)走路的機(jī)器人，現(xiàn)在機(jī)器人已經(jīng)會(huì)做后空翻了；不久前我們還沒(méi)有做出無(wú)人駕駛汽車，現(xiàn)在已經(jīng)有自主的火箭了，它能夠自己著陸。不久前還不能用AI進(jìn)行人臉識(shí)別，現(xiàn)在AI不久能很好地實(shí)現(xiàn)人臉識(shí)別，還能模擬和創(chuàng)造假的人臉。

不久前AI還不能在圍棋中勝過(guò)人類，但現(xiàn)在，正如你們知道的，AlphaGo已經(jīng)打敗了世界上最厲害的圍棋手，那還是使用很多人類經(jīng)驗(yàn)、經(jīng)過(guò)很長(zhǎng)時(shí)間訓(xùn)練的。后來(lái)的AlphaZero甚至完全不使用人類經(jīng)驗(yàn)，僅僅自我訓(xùn)練了24小時(shí)，最終誕生出世界上最好的圍棋AI。

所有的這些進(jìn)步實(shí)際上會(huì)帶來(lái)一些商業(yè)化的應(yīng)用，比如關(guān)于醫(yī)療，利用AI去診斷前列腺癌、肺癌和眼部疾病方面，甚至做外科手術(shù)，AI可以幫助我們實(shí)現(xiàn)目的。

我們說(shuō)了很多AI方面取得的進(jìn)展，這就提出一個(gè)基本的問(wèn)題：AI能夠幫助我們做什么？AI會(huì)給中國(guó)帶來(lái)哪些好處？當(dāng)然，肯定是能夠讓中國(guó)的商業(yè)更加發(fā)達(dá)，也幫助中國(guó)的企業(yè)更加富有，比如如何通過(guò)AI改善教育、養(yǎng)老、醫(yī)療保健等等，可以讓我們過(guò)得更加幸福。

但在更遠(yuǎn)的未來(lái)呢？這些技術(shù)能夠持續(xù)到多遠(yuǎn)的未來(lái)？未來(lái)會(huì)發(fā)生什么？

對(duì)于“人工智能取代人類”的擔(dān)憂，從來(lái)都不是沒(méi)有來(lái)由的。我現(xiàn)在用人類能力地形圖來(lái)說(shuō)明這個(gè)問(wèn)題。

圖中的海拔高度代表了AI在執(zhí)行這些任務(wù)時(shí)達(dá)到人類水平的難度，海平面則表示了當(dāng)下AI所能達(dá)到的水平。海平面會(huì)隨著AI的進(jìn)步上升，所以在這張地形圖上，會(huì)發(fā)現(xiàn)類似“全球變暖”的變化。我們顯然要避免那些近海區(qū)的工作，這些工作遲早會(huì)被人工智能取代。

那么一個(gè)問(wèn)題是：AI最終將上升到多高的地方？海面最終會(huì)將所有的陸地覆蓋嗎？像下面這張圖這樣，AI在幾乎所有任務(wù)中都達(dá)到了人類水平？

這就是通用人工智能（AGI）的定義?？赡苡腥藭?huì)說(shuō)：“還有很多事情是人類做得比機(jī)器好的！我們永遠(yuǎn)不會(huì)到達(dá)AGI！”

如果你認(rèn)為AGI只是科幻故事，還有一種更瘋狂的觀點(diǎn)我們需要談一下，就是超級(jí)智能（super intelligence）。因?yàn)槿绻覀兂晒χ圃炝薃GI，那么從定義上來(lái)說(shuō)，AI在所有工作上都比人類做得更好，包括在AI設(shè)計(jì)的工作上。

當(dāng)然，這也是一個(gè)非常有爭(zhēng)議的部分，可能會(huì)帶來(lái)技術(shù)的爆炸，因?yàn)槲覀円恢比プ孉I提升，最終可能AI會(huì)比人類做得好很多。

AI領(lǐng)域?qū)＜覍?duì)此有不同的觀點(diǎn)。例如Rodney Brooks，他認(rèn)為再過(guò)幾個(gè)世紀(jì)也不會(huì)出現(xiàn)AGI。但Demis Hassabis的觀點(diǎn)就更積極，認(rèn)為AGI會(huì)實(shí)現(xiàn)，而且要更努力研究使其實(shí)現(xiàn)。

此外，最近的一項(xiàng)調(diào)查顯示，大部分AI研究人員和Demis Hassabis的觀點(diǎn)是一致的，認(rèn)為AGI能實(shí)現(xiàn)，可能是在50年后。

雖然沒(méi)有確定的答案，但思考這個(gè)問(wèn)題是很重要的。如果機(jī)器能夠做任何事情，那還要人干什么？這對(duì)人類意味著什么？所以我們面臨著一種選擇：要么就是非常滿足于此，我們構(gòu)建這些機(jī)器讓它們來(lái)代替人類做所有事情，不用考慮后果如何。

但我認(rèn)為我們應(yīng)該更有野心一些。在令人鼓舞的高科技未來(lái)面前，我們應(yīng)該試著掌舵它的方向。

掌舵AI發(fā)展的方向：一個(gè)全球性挑戰(zhàn)

現(xiàn)在讓我們來(lái)到火箭發(fā)射的“Steering”（方向）部分。我們已經(jīng)讓技術(shù)越來(lái)越強(qiáng)大，你們?cè)撊绾我龑?dǎo)技術(shù)，讓技術(shù)幫助人類進(jìn)步？

我和其他科學(xué)家一起成立了未來(lái)生命研究所。我們的目標(biāo)很簡(jiǎn)單，就是讓未來(lái)的生活更加激勵(lì)人心、鼓舞人心。

我喜歡技術(shù)，我認(rèn)為今天的世界比明朝的時(shí)候好，正是因?yàn)槲覀儞碛屑夹g(shù)。我很樂(lè)觀地相信我們將建成一個(gè)非常高科技的未來(lái)，只要我們最終贏得這場(chǎng)競(jìng)賽。什么競(jìng)賽呢？就是越來(lái)越強(qiáng)大的科技和人類掌控這些技術(shù)的越來(lái)越強(qiáng)大的智慧之間的競(jìng)賽。

要贏得這場(chǎng)競(jìng)賽，人類需要改變策略。過(guò)去我們一直是從錯(cuò)誤中學(xué)習(xí)。比如剛開(kāi)始我們發(fā)明了火，經(jīng)歷了無(wú)數(shù)火災(zāi)之后，我們發(fā)明了滅火器。我們發(fā)明了汽車，出了幾次車禍?zhǔn)鹿手?，我們又發(fā)明了紅綠燈、安全氣囊、安全帶等等，以及一系列交通法規(guī)。

從錯(cuò)誤中學(xué)習(xí)是好的，這讓科技朝著造福人類社會(huì)的方向發(fā)展。

但隨著技術(shù)變得越來(lái)越強(qiáng)大，最終會(huì)達(dá)到一個(gè)點(diǎn)，這是你不能再?gòu)腻e(cuò)誤中學(xué)習(xí)了。比如核武器，沒(méi)有人會(huì)希望俄羅斯和美國(guó)爆發(fā)一場(chǎng)核戰(zhàn)爭(zhēng)，然后說(shuō)讓我們從這場(chǎng)錯(cuò)誤中學(xué)習(xí)，以后要更加小心，云云。更好是主動(dòng)前瞻，在一開(kāi)始就做正確的事情。

在開(kāi)發(fā)更強(qiáng)大的AI時(shí)，我們也應(yīng)該有這種前瞻意識(shí)。這看起來(lái)是理所當(dāng)然的想法，但有趣的是，有時(shí)候會(huì)有人跟我說(shuō)：“馬克，你不要說(shuō)那樣的話了，你那是在散布恐慌?！?/p>

這不是制造恐慌，在MIT，我們把這叫做“安全工程”（safety engineering）。

比如，在美國(guó)航天局部署阿波羅11號(hào)任務(wù)之前，在中國(guó)發(fā)射自己載人衛(wèi)星之前，他們都會(huì)仔細(xì)地設(shè) 想所有可能出錯(cuò)的狀況，畢竟是要把人類放進(jìn)易燃易爆的太空艙里，再將他們發(fā)射上一個(gè)無(wú)人能助的境遇。這是在制造恐慌嗎？不，那正是在做安全工程，以確保任務(wù)順利進(jìn)行，這正是處理通用人工智能或其他強(qiáng)有力的科技時(shí)應(yīng)該采取的策略。

人工智能的方向其實(shí)是一個(gè)全球性的挑戰(zhàn)，就像氣候變化一樣，這些問(wèn)題讓單個(gè)國(guó)家解決可能是非常難。我認(rèn)為中國(guó)實(shí)際上以一個(gè)非常獨(dú)特的地位在引領(lǐng)AI的發(fā)展，不僅是讓AI更加強(qiáng)大，也讓AI帶來(lái)好處。為什么這樣說(shuō)呢？因?yàn)橹袊?guó)是全球AI技術(shù)的引領(lǐng)者，中國(guó)在這個(gè)領(lǐng)域的研究不僅關(guān)注讓AI更加強(qiáng)大，而且保證AI是安全和有益于人類的。

此外，我認(rèn)為中國(guó)的文化也有利于AI。因?yàn)橹袊?guó)是人類最古老的文明，有著非常強(qiáng)大的長(zhǎng)期思考和長(zhǎng) 期規(guī)劃的能力。我是西方人，大多數(shù)西方國(guó)家的人在別人談?wù)摰介L(zhǎng)遠(yuǎn)計(jì)劃或者未來(lái)的事情都會(huì)大笑，認(rèn)為要真正到了那個(gè)時(shí)候才應(yīng)該計(jì)劃下一步的事情。但我們是要去考慮未來(lái)的，我們需要有中國(guó)人的智慧，把很多事情放到全球的議事日程上來(lái)，知道未來(lái)我們發(fā)展的方向。

我們組織了阿西洛馬人工智能原則會(huì)議。

其中的一個(gè)原則就是我們應(yīng)該避免致命自主武器的出現(xiàn)和軍備競(jìng)賽，應(yīng)該幫助人類而不是危害人類，比如開(kāi)發(fā)新的藥品和材料，而不是去傷害人們。我們也應(yīng)該保證AI能夠給我們帶來(lái)新的解決方案，而不是給人類帶來(lái)災(zāi)難。

我們?cè)谖鞣阶隽艘淮握{(diào)查，問(wèn)他們要什么樣的未來(lái)。很多人的回答是希望實(shí)現(xiàn)超級(jí)智能，但有些人會(huì)有些擔(dān)心，有的人有一點(diǎn)保留。有的人擔(dān)心最終機(jī)器會(huì)控制這個(gè)世界。

我認(rèn)為“AI最終會(huì)變得邪惡”、“AI會(huì)擁有意識(shí)”，這些是不必要的擔(dān)心，實(shí)際應(yīng)該擔(dān)心的是日益強(qiáng)大的AI與我們的目標(biāo)不一致。我想說(shuō)的最后一個(gè)原則就是，如果我們要構(gòu)建超級(jí)智能，它只能是為了全人類的好處而構(gòu)建，而不是為了某個(gè)國(guó)家、某個(gè)公司或某個(gè)組織的益處。

AI增強(qiáng)人類，而非操縱人類

那么我們的目標(biāo)是什么？我們究竟要走向何方？

總的來(lái)說(shuō)，我們與技術(shù)和未來(lái)AI的關(guān)系是非常復(fù)雜的，但大方向上很簡(jiǎn)單，就是大部分研究人員希望在某種程度上已經(jīng)建立AGI，或者在50年后能夠?qū)崿F(xiàn)AGI。如果考慮未來(lái)可能面臨的挑戰(zhàn)，這會(huì)是人類歷史上犯下的一個(gè)巨大的錯(cuò)誤，但讓我們面對(duì)它。因?yàn)锳I技術(shù)是如此的強(qiáng)大，我們?cè)趯?shí)現(xiàn)它的道路上肯定會(huì)犯下很多錯(cuò)誤。

另一方面，如果我們好好思考我們想要達(dá)到的目標(biāo)是什么，找到如何引導(dǎo)技術(shù)方向的方法，我們就將創(chuàng)造出一個(gè)非常美好的未來(lái)。

這就是我們面臨的選擇。我們可以滿足于現(xiàn)狀，也可以更有雄心一些，思考如何引領(lǐng)技術(shù)發(fā)展的方向，思考我們要去往怎樣的未來(lái)，創(chuàng)造一個(gè)真正讓人興奮的未來(lái)。我認(rèn)為未來(lái)我們不是被AI控制，而是AI會(huì)增強(qiáng)我們。