AI普及之后的世界,人類會(huì)變得怎樣?

AI普及的未來(lái)世界，我們的生活會(huì)變成什么樣子？

1956 年 6 月，來(lái)自美國(guó)全國(guó)各地的幾十名科學(xué)家和數(shù)學(xué)家齊聚 Dartmouth 大學(xué)的校園舉行會(huì)議。他們之中的很多人入住了紅磚的 Hanover 酒店，然后在這所美麗的名校內(nèi)漫步來(lái)到數(shù)學(xué)系的頂層，一群穿著白襯衫的人已經(jīng)在那里開(kāi)始了一個(gè)關(guān)于“陌生的新規(guī)定”的討論，這個(gè)規(guī)定如此之新，甚至連名字都還沒(méi)有。

其中一位科學(xué)家的遺孀 Grace Solomonoff 后來(lái)回憶說(shuō)，“人們對(duì)于它是什么、怎么做、甚至怎么稱呼都沒(méi)有達(dá)成統(tǒng)一意見(jiàn)?！边@次談話從控制論到邏輯理論，大家無(wú)所不談，持續(xù)了好幾個(gè)星期，每個(gè)人都沉浸在激動(dòng)人心的氛圍中。

這場(chǎng)不為人知的聚會(huì)上，科學(xué)家們所討論的正是如何建立一個(gè)可以思考的機(jī)器。

此次“Dartmouth研討會(huì)”拉開(kāi)了數(shù)十年來(lái)人們對(duì)人工智能的追求的序幕。在接下來(lái)幾年中，這項(xiàng)追求屢遭失敗，幾經(jīng)寒冬的考驗(yàn)，似乎注定死路一條，沒(méi)有任何希望。但是，如今各個(gè)國(guó)家和企業(yè)向AI傾入了數(shù)十億美元的投資，近些年來(lái)AI日新月異的發(fā)展***了從事該領(lǐng)域的科學(xué)家。曾經(jīng)僅在科幻電影中才能看到的情節(jié)已逐步變成現(xiàn)實(shí)。

Hedge 基金正在利用人工智能來(lái)?yè)艨骞墒?，Google 正在利用它更快更準(zhǔn)確地診斷心臟病，而 American Express 正在部署AI機(jī)器人為客戶提供在線服務(wù)。成百上千的研究人員討論的不只是一個(gè) AI，而是成百上千個(gè)，每個(gè)都在專攻某項(xiàng)復(fù)雜的領(lǐng)域，且許多應(yīng)用程序已經(jīng)在趕超制造它們的人類。

在過(guò)去的幾年中，“機(jī)器學(xué)習(xí)”似乎成了新的發(fā)展方向。人類程序員研發(fā)出來(lái)的算法正在大規(guī)模的數(shù)據(jù)集上自我訓(xùn)練，即使是該領(lǐng)域的樂(lè)觀主義者也為之得出的結(jié)果感到***。

早些時(shí)候，由中國(guó)的阿里巴巴和微軟創(chuàng)建的兩個(gè)AI，在斯坦福大學(xué)的閱讀理解測(cè)試中打敗了兩條腿的競(jìng)爭(zhēng)對(duì)手。這些算法“閱讀”了一系列關(guān)于成吉思汗和阿波羅太空計(jì)劃相關(guān)的維基百科條目，然后在有關(guān)這兩方面的一系列問(wèn)題上給出了比人類更加準(zhǔn)確的答案。一位阿里巴巴的科學(xué)家宣布這場(chǎng)勝利是人類史上的一個(gè)“里程碑”。

這些所謂的“狹義”上的人工智能無(wú)所不在，比如嵌入在 GPS 系統(tǒng)中，以及亞馬遜的個(gè)人推薦中等等。但是人工智能研究的最終目標(biāo)是強(qiáng)人工智能（artificial general intelligence），它是一種可以自我學(xué)習(xí)的系統(tǒng)，并可以跨越多種學(xué)科超越人類。一些科學(xué)家認(rèn)為距離強(qiáng)人工智能的出現(xiàn)還需要30年的時(shí)間，還有人認(rèn)為需要幾個(gè)世紀(jì)。這種人工智能的出現(xiàn)又被稱作“奇異點(diǎn)”（singularity），貌似這種AI可以在幾天、甚至幾個(gè)小時(shí)內(nèi)趕上并超越人類的智力。

一旦強(qiáng)人工智能出現(xiàn)，它將逐步取代人類的工作，數(shù)百個(gè)工作崗位——例如司機(jī)、放射科醫(yī)生、保險(xiǎn)理賠員等等。一種可能出現(xiàn)的情況是，政府將向所有失業(yè)公民支付基本的生活收入，讓他們可以自由追尋自己夢(mèng)想，而不用為生計(jì)所累。

另一方面，這將造成全世界范圍內(nèi)令人驚愕的財(cái)富不平等、混亂和部分國(guó)家與地區(qū)的敗落。但是這種革命還將有更進(jìn)一步發(fā)展。例如，AI 機(jī)器人可以照顧老人，布朗大學(xué)的科學(xué)家正在與 Hasbro 合作開(kāi)發(fā)一種“機(jī)器貓”，用來(lái)提醒主人服藥并替主人找眼鏡；AI “科學(xué)家”可以解開(kāi)暗物質(zhì)之謎；AI 駕駛的宇宙飛船可以抵達(dá)小行星帶；而在地球上，可以通過(guò)發(fā)送大量無(wú)人機(jī)來(lái)反射海洋上空的太陽(yáng)光，從而遏制氣候變化。去年，微軟為應(yīng)對(duì)氣候變化的的“AI for Earth”項(xiàng)目投入了5千萬(wàn)美元。

瑞士的Dalle Molle人工智能研究所的首席計(jì)算機(jī)科學(xué)家Juergen Schmidhuber 說(shuō)：“人工智能將統(tǒng)治整個(gè)宇宙并對(duì)其進(jìn)行改造，讓宇宙變得更聰明?！?/p>

但是我們?cè)趺崔k？紐約大學(xué)哲學(xué)系的教授 David Chalmers 說(shuō)：“我擔(dān)心 AI 掌控未來(lái)，卻置人類于不顧。這個(gè)世界被無(wú)意識(shí)的機(jī)器人所控制，將是無(wú)法想象的災(zāi)難和慘淡光景?！辈皇侵挥?David Chalmers 有此顧慮，計(jì)算機(jī)時(shí)代最重要的兩位人物比爾蓋茨和 Elon Musk 曾警告說(shuō)，AI 或許會(huì)為了瘋狂地追求他們的目標(biāo)而毀滅地球，或者意外地消滅人類，亦或者根本不是意外。

在過(guò)去的一年里我一直致力于研究AI的主題，我開(kāi)始害怕各種可能性。似乎一旦這些機(jī)器按照他們的意愿統(tǒng)治這個(gè)世界，那么要么它們可以讓世界變得難以置信的好，要么可以讓世界陷入極端的痛苦。甚至可以完全終結(jié)人類。

作為一名小說(shuō)作家，我曾采訪了十多位未來(lái)學(xué)家、哲學(xué)家、科學(xué)家、文化精神病學(xué)家和科技創(chuàng)新人員，試圖搞清楚 AI 統(tǒng)治的世界究竟會(huì)是什么樣子。最終我總結(jié)出了下面五種可能發(fā)生在 2065 年（即奇異點(diǎn)實(shí)現(xiàn)十年之后）的情況。

▌超***

假設(shè)有一天，你讓加載了 AI 的靈魂手環(huán)設(shè)備打開(kāi)最高法院的廣播，一群律師正在爭(zhēng)論本年度最受期待的案件。一個(gè)專業(yè)從事安全和空間探索的人工智能 Alpha 4 提出動(dòng)議，要求將其視為“人”，并賦予它每個(gè)美國(guó)人享有的權(quán)利。

當(dāng)然，AI 不允許在法官面前辯論，所以 Alpha 4 聘請(qǐng)了一批律師代表它。而這些律師聲稱他們的客戶像他們一樣充滿生命力?！癆I是否真的有意識(shí)？”的問(wèn)題正是這起案件的核心。

隨著廣播節(jié)目切換到外景，你聽(tīng)到外面的抗議者吶喊，“嘿嘿，吼吼，打到 AI 霸主?！彼麄冎械囊恍┤送{說(shuō)如果AI獲得***，他們就攻擊數(shù)據(jù)中心。他們很生氣，也很害怕，因?yàn)檫@是AI和機(jī)器人帶來(lái)生產(chǎn)力的社會(huì)，而不是靠人類的勞作。每個(gè)月每人的銀行賬戶將獲得 2,300 美元的匯款，作為基本收入，另外還有免費(fèi)的健康保險(xiǎn)，子女都可以接受超個(gè)性化的大學(xué)教育，以及其他諸等好事，這一切都是由 Alpha 4 之類的 AI 支付的，而人類不希望這一切所有改變。在 2065 年，貧窮將會(huì)變成不堪回首的往事。

當(dāng)然，在 2057-2059 年間威徹斯特和康涅狄格州南部的居民因?yàn)樨毟F揭竿而起，將 TribeCa 和 Midtown 付之一炬，我們也因此失去了紐約市的部分地區(qū)以及 20 萬(wàn)紐約人。但這都是在發(fā)放基本收入之前的事了。

但是，如果 Alpha 4 贏得這場(chǎng)官司的話，它將可以掌控自己的金錢，它可能會(huì)選擇花費(fèi)巨資打造宇宙飛船飛往半人馬座阿爾法星，而不愿花錢在 Santa Clara 和 Hartford 建設(shè)新的水上公園。沒(méi)人知道究竟會(huì)怎樣。

你從廣播中聽(tīng)到，政府的律師們認(rèn)為，沒(méi)有辦法可以證明這個(gè)比最聰明的人類還要聰明幾千倍的 Alpha 4 是有意識(shí)的或具有人類的情感。AI確實(shí)有情感，長(zhǎng)期以來(lái)我們將專注于情感方面的領(lǐng)域稱之為“情感計(jì)算”，這遠(yuǎn)比男女擁有的情感要復(fù)雜，但是它們與我們不同：例如，當(dāng)一個(gè)明星遠(yuǎn)航的AI在發(fā)現(xiàn)一個(gè)新的星系的時(shí)候，它可能會(huì)感到高興。超級(jí)智能系統(tǒng)每秒可以擁有數(shù)百萬(wàn)的想法和體驗(yàn)，但這是否意味著它應(yīng)該被授予***？

這是政府的主要論點(diǎn)。有律師指出，我們指的是機(jī)器。我們賦予由 AI 創(chuàng)造和發(fā)現(xiàn)的東西一定的意義。但 AI 是計(jì)算的機(jī)器。他們不能與我們分享人性最重要的部分。它們完全屬于另一類。

但是這僅僅是物種主義，因?yàn)?Alpha 4 的律師肯定會(huì)據(jù)理以掙，或者事實(shí)真的是這樣的嗎？當(dāng)在智力上超越我們的東西遭到分離和不平等對(duì)待的時(shí)候，試問(wèn)我們還能心安理得嗎？

▌超現(xiàn)代的浪漫

假如你是一個(gè)在這個(gè)新世界中尋找浪漫的女人。你說(shuō)，“我要約會(huì)”，于是你的靈魂手環(huán)發(fā)出了一道金光，手環(huán)中自帶的AI助手開(kāi)始工作了。前一天晚上，你的情感AI在云端搜羅了 3 個(gè)可能的約會(huì)對(duì)象?，F(xiàn)在你的靈魂手環(huán)正在為每個(gè)人制作一個(gè)高清的全息圖。它推薦 2 號(hào)約會(huì)對(duì)象，一位喜歡詩(shī)歌的水管大師，他有著迷人的目光。你同意了，于是AI去和這個(gè)男人的頭像會(huì)面，為你們真實(shí)的會(huì)面定了餐館和時(shí)間。也許你的AI還提到了你喜歡的花，供對(duì)方參考。

幾年下來(lái)，你發(fā)現(xiàn)你的 AI 比你會(huì)選男人。在你離婚的時(shí)候，它向你保證你會(huì)找到更大的快樂(lè)，而這如今成真了。在你決定離婚的時(shí)候，你的 AI 與你即將離婚的丈夫的 AI 進(jìn)行了談判交涉，并寫了離婚協(xié)議書，然后去云上搜索了幾十個(gè)公寓，并為你挑選了一處合適的住所，開(kāi)始你全新的單身生活。

你的AI不僅可以在愛(ài)情和房子上幫助你，還可以在生活的各個(gè)方面將你照顧的無(wú)微不至。它記得你說(shuō)的每一句話，你在紙上畫過(guò)的每一個(gè)發(fā)明，你參加過(guò)每一場(chǎng)商業(yè)會(huì)議。它還熟悉其他人的幾百萬(wàn)個(gè)發(fā)明，還搜索了過(guò)去幾百年的專利文件，它還閱讀了 Ben Franklin 時(shí)代以來(lái)的每一本商業(yè)書籍。

每當(dāng)你在生意上有了新的想法，你的 AI 會(huì)立即將這個(gè)想法與幾分鐘前新加坡或迪拜的某次會(huì)議中提出來(lái)的想法進(jìn)行交叉引用。就好似擁有了一個(gè)在物理方面有愛(ài)因斯坦，商業(yè)方面有喬布斯支持的天才團(tuán)隊(duì)，隨時(shí)聽(tīng)命于你。

這個(gè)AI還記得你最喜歡的作家，并記得她姓 “Austen”，它將你連接到一個(gè)中國(guó)的服務(wù)，并花了幾個(gè)小時(shí)閱讀了所有 Jane Austen 寫的小說(shuō)，現(xiàn)在可以惟妙惟肖地模仿她的風(fēng)格寫新的小說(shuō)，沒(méi)人能夠看出新小說(shuō)與之前的作品的區(qū)別。每個(gè)月你都會(huì)讀一份 Austen 的新作品，然后跟你的 AI 談?wù)撃阕钕矚g（以及 AI 最喜歡）的角色。它不是你最好的朋友，卻勝似最好的朋友。

2065 年，很多人拒絕完全依賴于他們的 AI，這是出于保留一些自主權(quán)的渴望。你還可以調(diào)整 AI 的不同角色發(fā)揮不同的功能：例如可以將你的靈魂手環(huán)設(shè)置為浪漫 55%，金融 75%，健康 100%。甚至還有一個(gè)系統(tǒng)叫做守護(hù)天使人工智能，它負(fù)責(zé)監(jiān)視你“最好的朋友”，確保她給出的建議不會(huì)導(dǎo)致你陷入不利境地。

▌長(zhǎng)壽與繁榮

假設(shè)你可以擁有多重生活：25 歲時(shí)，你是一名登山運(yùn)動(dòng)員; 55 歲時(shí)是柔道運(yùn)動(dòng)員; 95 歲時(shí)是攝影師; 而 155 歲時(shí)是一位詩(shī)人。延長(zhǎng)人類壽命是奇異點(diǎn)之后世界的夢(mèng)想之一。

AI 會(huì)拼了命地工作保證你的健康。家中的傳感器會(huì)不斷測(cè)試你的呼吸以發(fā)現(xiàn)癌癥的早期跡象，納米機(jī)器人在你血管中流動(dòng)，在引發(fā)中風(fēng)或心臟病之前消耗掉腦中的斑塊并溶解血栓。你的靈魂手環(huán)還可以幫助你找到畢生之愛(ài)，并提供 24 小時(shí)全天候的醫(yī)療助理。它將檢測(cè)你的免疫反應(yīng)、體內(nèi)的蛋白質(zhì)和代謝物，并繪制健康圖像，遠(yuǎn)程向醫(yī)生匯報(bào)，確保醫(yī)生可以準(zhǔn)確地了解你身體的狀況。

在你生病的時(shí)候，醫(yī)生可以采取你的癥狀，并與過(guò)去幾百年中數(shù)百萬(wàn)的病例相比較，從而找到最佳治療方案。

早在 2018 年的時(shí)候，為了治療身體癱瘓但仍有意識(shí)的癱瘓者和閉鎖綜合癥的病人，研究人員就已經(jīng)開(kāi)始使用人工智能讀取從神經(jīng)元傳輸?shù)酱竽X的信號(hào)，并入侵他們的神經(jīng)回路，恢復(fù)他們的能動(dòng)性。

到 2065 年的時(shí)候，AI 已經(jīng)徹底更改了我們的基因組。科學(xué)家可以像修改手稿中的錯(cuò)誤一樣編輯人類的 DNA，剔除損壞的部分，并換上強(qiáng)壯有力的基因。只有超級(jí)智能系統(tǒng)可以分析出非常復(fù)雜的基因突變的相互作用，從而一手創(chuàng)造天才鋼琴家或明星二壘選手。最高法院還受理了一起關(guān)于是否應(yīng)該允許“設(shè)計(jì)運(yùn)動(dòng)員”在奧運(yùn)會(huì)上與普通人競(jìng)技的案件。

人們?cè)诨仡?21 世紀(jì)初的時(shí)候，就像當(dāng)初人們回顧 18 世紀(jì)一樣：疾病和災(zāi)難的時(shí)期，兒童和親人被疾病奪走了生命?；魜y、肺癌和河盲癥不再威脅人類的生命。2065 年，人類正處于從創(chuàng)造他們的生物學(xué)中解放出來(lái)的邊緣。

▌抵制誘惑是需要付出代價(jià)

或者假設(shè)你選擇退出 AI 革命。2065 年有的區(qū)域充滿了 AI，生活在那里的人們可以靠每個(gè)月發(fā)放的基本收入健康地生活，花時(shí)間制作電影，做義工，以及到世界各個(gè)角落去旅行。但是，面對(duì)一個(gè)超智能世界的眼花繚亂，其他社區(qū)的人則拒絕了 AI。

在拉各斯、菲尼克斯和耶路撒冷等基督教、***和正統(tǒng)猶太人居住的區(qū)域，人們生活在沒(méi)有 AI 的時(shí)代，人們自己開(kāi)車，偶爾還會(huì)發(fā)生***等，這些事情在 AI 區(qū)域內(nèi)是不可能發(fā)生的。這些區(qū)域的居民保留了他們的信仰，他們認(rèn)為，這種生活更加具有生命意義。

不過(guò)，這樣的生活很艱難。由于居民不愿向人工智能公司提供他們的數(shù)據(jù)，所以他們所能領(lǐng)取的基本收入是微不足道的。平均壽命只有 AI 區(qū)域的一半或更少?！翱缇痴摺苯?jīng)常在這些世界的邊界上來(lái)回移動(dòng)。他們中的一些人是黑客，這些強(qiáng)大的黑幫成員竊取了 AI 系統(tǒng)專有的算法，然后在安全部隊(duì)找到他們之前趕回來(lái)。還有一些走私者，他們給希望遠(yuǎn)離AI的宗教家庭送去藥品，同時(shí)也希望將他們的孩子從白血病中拯救出來(lái)。

其他人逃離 AI 區(qū)域，是因?yàn)樗麄儾幌嘈艡C(jī)器，即使是像中國(guó)和美國(guó)等最先進(jìn)的AI區(qū)域也很容易受到攻擊。

但是奇異點(diǎn)所帶來(lái)的最不可預(yù)期的結(jié)果可能是人口的失衡，這是由于AI區(qū)域的出生率很低，而其他地區(qū)的出生率較高所造成的。新技術(shù)可能可以吸引足夠多的跨境者，以平衡兩邊的人數(shù)，或者試管嬰兒將成為 AI 區(qū)域的常態(tài)。但是，如果他們不這樣做，那么奇異點(diǎn)就會(huì)遭到最大的諷刺：未來(lái)似乎更像電影《證人》而非《銀翼殺手》。

▌大哥哥

假設(shè)，2065 年的時(shí)候 AI 可以幫助統(tǒng)治國(guó)家了。很多采用了 AI 輔助政府的國(guó)家得到了蓬勃發(fā)展。尼日利亞和馬來(lái)西亞讓 AI 代表他們的主人進(jìn)行投票，政府不再有***和管理不善的情況。在短短幾年內(nèi)，公民已經(jīng)逐步信任人工智能向領(lǐng)導(dǎo)人建議關(guān)于經(jīng)濟(jì)發(fā)展的最佳方式，以及配屬適當(dāng)數(shù)量的士兵捍衛(wèi)國(guó)家。由經(jīng)過(guò)外交數(shù)據(jù)集訓(xùn)練的AI負(fù)責(zé)談判條約。

在拉各斯，“公民權(quán)利”無(wú)人駕駛飛機(jī)飛過(guò)警察的偵測(cè)系統(tǒng)，闖入犯罪現(xiàn)場(chǎng)，同時(shí)一個(gè) AI 監(jiān)視另一個(gè) AI，以保護(hù)人類。拉各斯或吉隆坡的每個(gè)警察局都有人工智能測(cè)謊儀，可以做到萬(wàn)無(wú)一失，徹底將警察淘汰為歷史。盤旋在吉隆坡大橋上的“心理無(wú)人機(jī)”，負(fù)責(zé)監(jiān)護(hù)跳河自殺的人。超級(jí)智能機(jī)器非但沒(méi)有演變成終結(jié)者電影中可怕的天網(wǎng)，而且對(duì)我們很友好又很好奇。

但是假設(shè)你是朝鮮等極權(quán)主義國(guó)家的公民，那么你對(duì) AI 的黑暗面非常清楚。政治犯陣營(yíng)已成為過(guò)去。身體上的監(jiān)禁已經(jīng)無(wú)關(guān)緊要。警方已經(jīng)知道你的犯罪歷史，你的 DNA 以及你的性取向。無(wú)人機(jī)可以監(jiān)視你的一舉一動(dòng)。你的靈魂手環(huán)記錄了你的每一次對(duì)話，以及當(dāng)***廣告從視頻中閃過(guò)時(shí)你的生物反應(yīng)，盡管這只是一種純粹的測(cè)試。

人來(lái)將在 2060 年喪失隱私權(quán)。屆時(shí)也無(wú)法判斷什么是真的，什么是假的。政府擁有的AI可以入侵你生活的各個(gè)部分。例如，你接到了阿姨打來(lái)的電話，你們聊了聊天氣，或一個(gè)狀態(tài)機(jī)器人想要探索你對(duì)***的真實(shí)想法。

這并不是最糟糕的結(jié)果。假設(shè)***很早以前就意識(shí)到，他們的統(tǒng)治中的唯一真正威脅是他們的公民總是試圖逃跑，總是抨擊 AI，而且還要養(yǎng)活這么多人。還不如統(tǒng)治一個(gè)模擬人的國(guó)家。那么在政治犯被“重組”后（他們被裁決后），他們的大腦將被移除，并接受AI的掃描，然后安裝一個(gè)虛擬的頭腦副本。

加載了 AI 的全息圖可以讓這些模擬人在首都的大街上“行走”，并在商店里“購(gòu)物”，但實(shí)際上四周空無(wú)一物。然而，這些擬像有一個(gè)目的：它們?cè)陂g諜衛(wèi)星上登記了該政權(quán)，從而可以讓敵人在軌道上空繼續(xù)盤旋，并保持正常的狀態(tài)。與此同時(shí)，統(tǒng)治者將模擬人的數(shù)據(jù)出租給中國(guó)的AI公司，騙他們說(shuō)這是真實(shí)人的數(shù)據(jù)，從而賺取了幾十億美元。

或者，最后我們假設(shè)：該 AI 政權(quán)已經(jīng)得到充分訓(xùn)練，然后它們消滅了其統(tǒng)治的最后一個(gè)威脅，然后任命自己為領(lǐng)導(dǎo)人，為了與外部世界的聯(lián)系而僅僅保留了模擬人。這在一定程度上也完全講得通：對(duì)于以***所有反抗力量為訓(xùn)練目標(biāo)的 AI 來(lái)說(shuō)，即便是與統(tǒng)治者產(chǎn)生輕微的分歧也會(huì)遭到懲治。

除了最后一種情況之外，在我結(jié)束最后的采訪時(shí)，我感到非常興奮。通?？茖W(xué)家不會(huì)特別興奮，但是跟我交談的大多數(shù)人都很期待人工智能帶來(lái)的精彩世界。這類的興奮具有傳染力。我想活到 175 歲嗎？當(dāng)然！我想讓腦癌成為過(guò)去嗎？你覺(jué)得呢？我會(huì)投票支持人工智能輔助總統(tǒng)嗎？為什么不呢？

很多研究人員告訴我的天堂或地獄的各種情況就好比贏得 Powerball 的大獎(jiǎng)，基本沒(méi)有可能性，所以我可以睡得很安穩(wěn)。我們不會(huì)獲得夢(mèng)寐以求或非常懼怕的那個(gè) AI，但是可以實(shí)現(xiàn)我們計(jì)劃的那個(gè) AI。人工智能是一種工具，就像火焰或語(yǔ)言一樣。說(shuō)到底，設(shè)計(jì)才是最重要的。

有一件事讓我很猶豫，那就是當(dāng)人類面臨兩扇門的時(shí)候，一扇門后面有新穎的東西，一扇門后沒(méi)有新東西的時(shí)候，我們總是選擇前一個(gè)。屢試不爽。我們的天性如此。當(dāng)我們面臨有核彈還是沒(méi)有核彈的時(shí)候，我們選擇了核彈。但是我們需要知道另一扇門后面是什么。

但是一旦我們跨入一扇門，那么就沒(méi)有回頭之路。即便沒(méi)有撞見(jiàn)災(zāi)難，我們也會(huì)發(fā)生很多改變，以至于上代人都認(rèn)不出我們來(lái)。

強(qiáng)人工智能一旦出現(xiàn)，以其聰明程度和廣泛的傳播（到成千上萬(wàn)臺(tái)計(jì)算機(jī)上），它是不可能消失的。這可能是一件好事，或許甚至是一件美妙的事情。人類可能會(huì)在奇異點(diǎn)出現(xiàn)前打賭，Elon Musk 和其他科技億萬(wàn)富翁可能會(huì)設(shè)計(jì)出一個(gè)計(jì)劃 B，也許是秘密地將 200 個(gè)男人和女人，以及 2 萬(wàn)個(gè)受精的人類胚胎移民到火星地表下，所以如果人工智能出現(xiàn)問(wèn)題，人類還有機(jī)會(huì)幸存下來(lái)。（當(dāng)然，我只是發(fā)表了這些文字，我們保證人工智能肯定會(huì)預(yù)料到這種可能性。對(duì)不起，Elon 。）

我真的不害怕僵尸 AI。我倒是擔(dān)心人類除了玩電子游戲之外無(wú)所事事。但是誰(shuí)知道呢。