如果AI+生物科技入侵你的大腦，你還是你嗎？

劃重點(diǎn)：

1、赫拉利認(rèn)為，AI 帶來(lái)的不僅是科學(xué)挑戰(zhàn)，還是哲學(xué)挑戰(zhàn)；當(dāng) AI 和生物科技結(jié)合，它將具備黑入人類大腦的能力。

2、李飛飛堅(jiān)信：AI 也正在解決一些以往沒(méi)法解決的社會(huì)挑戰(zhàn)和問(wèn)題；并且決策不透明的挑戰(zhàn)是有望被 “可解釋AI” 解決的。

3、AI 領(lǐng)域和其它人文領(lǐng)域需要有更多的對(duì)話和碰撞，建立機(jī)制，讓 AI 科學(xué)家和社會(huì)學(xué)家、心理學(xué)家、哲學(xué)家一起工作。

《人類簡(jiǎn)史》、《未來(lái)簡(jiǎn)史》這兩本書，不少人都聽說(shuō)過(guò)吧？

硅谷時(shí)間 4月22日晚，在斯坦?？扇菁{約2000人的超級(jí)大演講廳，以這兩本暢銷書享譽(yù)全球的以色列著名歷史學(xué)家尤瓦爾?赫拉利（Yuval Noah Harari），與斯坦福一個(gè)多月前神秘成立的 “以人為本” AI研究院領(lǐng)導(dǎo)者李飛飛，展開了一場(chǎng)以人工智能為主題的對(duì)話。

（活動(dòng)現(xiàn)場(chǎng)：左為赫拉利，中為李飛飛，圖自赫拉利 Twitter）

對(duì)話現(xiàn)場(chǎng)有多火爆呢？

硅谷洞察的特約記者在開場(chǎng)前 90 分鐘來(lái)到現(xiàn)場(chǎng)，發(fā)現(xiàn)演講廳外面已排起了千米長(zhǎng)隊(duì)，還是兩列隊(duì)伍：一列提前訂票的 “坐票”，一列臨時(shí)來(lái)聽的“站票”。要知道，硅谷每天大小演講無(wú)數(shù)，一場(chǎng)演講能吸引 200 人來(lái)就算很不錯(cuò)了，如此火爆的演講幾乎史無(wú)前例... 這氣勢(shì)，根本就是演講屆的《復(fù)聯(lián)4》！

（現(xiàn)場(chǎng)圖。Photo credit：微子）

與赫拉利對(duì) AI 的警惕與擔(dān)憂不同，李飛飛對(duì) AI 的發(fā)展可謂樂(lè)觀不少。在這場(chǎng)討論上，兩位大咖針鋒相對(duì)、各抒己見，都聊了些啥？硅谷洞察（原 “硅谷密探”）這就帶你去一探究竟！

如果 AI +生物科技入侵你的大腦，你還是你嗎？

赫拉利用他在 2018 年出版的新書《21世紀(jì)的21堂課（21 lessons for the 21st century）》中提出的一個(gè)觀點(diǎn)開場(chǎng)。

赫拉利：AI帶來(lái)的不僅是一場(chǎng)科技挑戰(zhàn)，還是一個(gè)哲學(xué)挑戰(zhàn)。當(dāng) AI 和生物科技結(jié)合起來(lái)后，它就會(huì)具備 ‘黑掉’ （hack）人類大腦的能力。這也就意味著，我們現(xiàn)在所謂的 “自由意志”、“獨(dú)立思考”、“民主決策” 等，都將在機(jī)器的算法前分崩離析。幾千年來(lái)，哲學(xué)家們討論的諸多生存問(wèn)題，會(huì)在工程師們調(diào)教出來(lái)的算法面前徹底變形。

具體點(diǎn)說(shuō)，現(xiàn)在的人工智能建立在大量數(shù)據(jù)之上，一個(gè) AI 算法已經(jīng)能夠比我們單個(gè)人腦做出更好的決策，比我們自己還了解自己。它準(zhǔn)確知道我們喜歡什么、想買什么。它不僅能算出我們申請(qǐng)哪份工作更合適、怎樣的投資理財(cái)最適合我們，甚至還能算出來(lái)跟誰(shuí)約會(huì)更可能修成正果！

（《21世紀(jì)的21堂課》現(xiàn)場(chǎng)簽售火熱。Photo credit：微子）

當(dāng)算法可以做出比我更好的決定之際，再跟生物學(xué)研究結(jié)合起來(lái)，它當(dāng)然就可以黑入我的大腦，在我不知不覺(jué)之際，悄無(wú)聲息地背叛我，尤其是目前我們?cè)跀?shù)據(jù)隱私、安全和倫理上還存在這么多問(wèn)題，這不是非常危險(xiǎn)嗎？

李飛飛：首先，人工智能的誕生就是從機(jī)器的算法與生物學(xué)，確切的說(shuō)是腦神經(jīng)學(xué)的對(duì)話和融合開始的。尤其是機(jī)器學(xué)習(xí)，它就是從模擬大腦的神經(jīng)網(wǎng)絡(luò)的。

其次，人工智能和生物醫(yī)療的融合目前在應(yīng)用層面上已經(jīng)產(chǎn)生了非常積極的作用，尤其是在醫(yī)藥和診斷等改善人們的醫(yī)療健康領(lǐng)域，兩者深入融合將更多的造福人類。

此外，AI目前的發(fā)展帶來(lái)的倫理、隱私和工作等多個(gè)社會(huì)問(wèn)題已經(jīng)被納入了科學(xué)研究的視野和范圍。斯坦?！耙匀藶楸尽盇I研究院應(yīng)對(duì)這些挑戰(zhàn)的一個(gè)解決方案是，重構(gòu)我們下一代人工智能教育，尤其是我們將社會(huì)學(xué)家、心理學(xué)家、哲學(xué)家和AI科學(xué)家等多個(gè)領(lǐng)域的科學(xué)家們放到一起來(lái)研究，就是為了能更好的處理這些問(wèn)題。

AI 眼里的愛情，和一場(chǎng)流感又有什么區(qū)別？

“愛” 這個(gè)永恒的話題，從石器時(shí)代被人類一直討論到今天，AI 時(shí)代也不例外。你害怕 AI 會(huì)黑入你的大腦，控制和操縱你的一切意志，那么，愛難道也可以被 “黑” 嗎？

這就要從 “愛” 的定義談起。

赫拉利：那要看你怎么定義 “愛” 。你覺(jué)得 AI 會(huì)愛嗎？擁有意識(shí)嗎？難道說(shuō)，非人類的組織器官就無(wú)法識(shí)別和表達(dá)愛嗎？

（圖自網(wǎng)絡(luò)，版權(quán)屬于原作者）

對(duì) AI 來(lái)說(shuō)，黑入愛、黑入意識(shí)的門檻可能是非常低的。如果你說(shuō)的是愛情，從生物學(xué)的角度看，愛情的產(chǎn)生也不過(guò)是一連串的身體內(nèi)的生物化學(xué)反應(yīng)，荷爾蒙會(huì)變化，情緒和心跳會(huì)變化，使用的語(yǔ)言和動(dòng)作會(huì)變化。如果機(jī)器的算法解碼了愛情的這條生物化學(xué)反應(yīng)鏈條，那么所謂的 “愛情”跟一場(chǎng)流感有什么區(qū)別嗎？

李飛飛：你這個(gè)結(jié)論里面有兩個(gè)假設(shè)，第一，你假設(shè)我們現(xiàn)在的人工智能是如此之強(qiáng)大，強(qiáng)大到不可思議。它不僅能預(yù)測(cè)和判斷我們的金融消費(fèi)行為，還能預(yù)測(cè)到人類的愛和意識(shí)這個(gè)層次。這種 AI 離我們這個(gè)時(shí)代還很遠(yuǎn)、很遠(yuǎn)…… 我不知道我們還需要多少代人才能實(shí)現(xiàn)。

第二，你假設(shè)只有 AI 這種技術(shù)在未來(lái)一家獨(dú)大，強(qiáng)大到凌駕于一切。事實(shí)上，過(guò)去，現(xiàn)在和未來(lái)，都有很多種其他科技和AI同時(shí)發(fā)展，有的技術(shù)甚至比AI還要強(qiáng)大。

所有的技術(shù)都有這樣的雙刃劍，落入壞人之手，就將危險(xiǎn)人類社會(huì)和文明，這種例子在其他科技領(lǐng)域過(guò)去發(fā)生過(guò)，以后也可能會(huì)發(fā)生，AI 也不例外，它可能誤入壞人之手的負(fù)面影響不該被單獨(dú)夸大。最重要的是，在應(yīng)對(duì) AI 的發(fā)展和可能的負(fù)面影響時(shí)，我們要把其他科技領(lǐng)域的玩家都一起帶進(jìn)來(lái)看，一起來(lái)面對(duì)和解決，因?yàn)樗鼈円矔?huì)在塑造我們的未來(lái)里扮演重要角色。

AI 會(huì)把你 “賣” 給廣告公司嗎？

赫拉利：另一個(gè)很重要的問(wèn)題是，現(xiàn)在的 AI 并不透明，我們常常在不經(jīng)意間就給了 AI 大量關(guān)于我們自己的數(shù)據(jù)，而且我們也不知道它到底在對(duì)我們做什么。如果 AI 比我自己更了解自己，但它不跟我分享信息，而是跟廣告商、大公司、政府組織聯(lián)合來(lái)利用我，怎么辦？

比如我現(xiàn)在去銀行貸款，銀行會(huì)通過(guò)一個(gè)非常復(fù)雜的、涉及幾千個(gè)數(shù)據(jù)處理的軟件系統(tǒng)，來(lái)決定能不能借給我錢、借給我多少錢。但是，這個(gè)過(guò)程根本沒(méi)辦法解釋，它就是一堆代碼和數(shù)據(jù)，它直接給我一個(gè)結(jié)論，請(qǐng)問(wèn)現(xiàn)在有多少人是沒(méi)辦法弄懂銀行這套系統(tǒng)，就直接按照它的結(jié)論來(lái)操作的？

李飛飛：這正是為什么我們斯坦福 “以人為本” AI 研究院設(shè)定了幾個(gè)核心的研究原則。其中一個(gè)很重要的原則，就是我們會(huì)更注重能夠更好解釋或反應(yīng)人類智能的 AI 技術(shù)的發(fā)展，比如 “可解釋AI （explainable AI）” 以及 對(duì)數(shù)據(jù)庫(kù)的依賴更少的機(jī)器學(xué)習(xí)方法，比如直接從人類的經(jīng)驗(yàn)、創(chuàng)造性和學(xué)習(xí)方式得到啟發(fā)，更接近人類的人工智能技術(shù)。

（斯坦福 “以人為本” AI 研究院聯(lián)合主任 李飛飛 圖自網(wǎng)絡(luò)，版權(quán)屬于原作者）

“可解釋 AI” 的軟件在生物醫(yī)學(xué)和法律、金融等多個(gè)領(lǐng)域應(yīng)用的潛能如此之大。你提到的數(shù)據(jù)不透明，決策不透明的過(guò)程將是有望被AI來(lái)解釋清楚的。反過(guò)來(lái)說(shuō)，如果AI可以更好的解釋和呈現(xiàn)一個(gè)決策過(guò)程，那很多我們以往沒(méi)辦法量化的事情以后就無(wú)法來(lái)弄虛作假了。

另一個(gè)原則，是我們會(huì)和跨學(xué)科的科學(xué)家們以及政策制定者，企業(yè)家們一起工作，更好定義和應(yīng)對(duì) AI 會(huì)引發(fā)的隱私、倫理乃至政治和經(jīng)濟(jì)問(wèn)題。目前，我們已經(jīng)有超過(guò) 200 多位斯坦福的學(xué)者參與其中了。

而且，AI 本身也可以用于正面的解決一些以往沒(méi)法解決的社會(huì)挑戰(zhàn)和問(wèn)題。比如，機(jī)器學(xué)習(xí)可以通過(guò)算法來(lái)“反偏見”，它可以分析電影中男性的數(shù)量和呈現(xiàn)時(shí)間，與女性做對(duì)比，來(lái)證明到底有沒(méi)有性別偏見。這種級(jí)別的分析是人類無(wú)法做到的。

赫拉利：我覺(jué)得一個(gè)解決方法是，我們每個(gè)人要更好的更多的了解自己，不要讓 AI 比我們更了解自己。只要 AI 不如我們自己了解自己，AI 替我們做主的威脅就會(huì)小很多... 不過(guò)話說(shuō)回來(lái)，我們很多人真的一點(diǎn)也不了解自己。

AI 全球競(jìng)賽，或比核競(jìng)賽更可怕

赫拉利：另一個(gè)讓我擔(dān)心的是，AI 發(fā)展是一個(gè)少數(shù)國(guó)家，尤其是中、美兩國(guó)占主導(dǎo)優(yōu)勢(shì)的技術(shù)領(lǐng)域。很多其他非洲國(guó)家、亞洲國(guó)家，乃至歐洲國(guó)家在這個(gè)領(lǐng)域已經(jīng)遠(yuǎn)遠(yuǎn)落后于亞馬遜或者騰訊。

（中美兩國(guó)多方面領(lǐng)跑全球 AI。圖自 Statista，版權(quán)屬于原作者）

而且更可怕的是，在 AI 的發(fā)展中，競(jìng)爭(zhēng)的感覺(jué)越來(lái)越濃，而不是合作。如果 AI 演變成一場(chǎng)全球科技競(jìng)爭(zhēng)，那是對(duì)全人類的一個(gè)壞消息。

從經(jīng)濟(jì)上講，這種 AI 發(fā)展不平衡、一兩家獨(dú)大的局勢(shì)，將很可能以數(shù)據(jù)殖民的方式重現(xiàn)19世界的全球殖民地統(tǒng)治。

比如，19世紀(jì)時(shí)的印度是英國(guó)的殖民地，它的經(jīng)濟(jì)是圍繞殖民地的需求來(lái)設(shè)計(jì)的，只不過(guò)它當(dāng)時(shí)供應(yīng)給英國(guó)的是茶園和鴉片，現(xiàn)在它可能供應(yīng)給加州的是它的大量數(shù)據(jù)和基礎(chǔ)的數(shù)據(jù)處理服務(wù)，然后這些東西流到加州后，進(jìn)入那些創(chuàng)業(yè)公司，變現(xiàn)為走向全世界的一個(gè)算法或服務(wù)。

從政治上講，那些AI發(fā)展落后的國(guó)家會(huì)在這種競(jìng)爭(zhēng)里變得更緊張，因?yàn)?，即便我已?jīng)出局了，我也不希望任何一家做大啊！如果有一天美國(guó)的人工智能世界第一，只要它是只服務(wù)于美國(guó)的利益的，我怎么能夠信任它提供的服務(wù)呢？而且，一旦有天加州的AI技術(shù)和算法能取代那些現(xiàn)在靠便宜產(chǎn)品生存的國(guó)家，那些國(guó)家的經(jīng)濟(jì)甚至?xí)l(fā)崩潰。

所以我說(shuō)，AI 的全球競(jìng)賽，將比核競(jìng)賽更可怕。因?yàn)?，雖然核武器大家都在競(jìng)賽，但至少只是研發(fā)出來(lái)作為底氣壯膽，沒(méi)有人會(huì)隨便去用的。但是 AI 就不一樣了，它是發(fā)展出來(lái)就馬上會(huì)被用，不管三七二十一。

李飛飛：如今的科學(xué)在全球范圍內(nèi)的合作和交流非常頻繁，超出你想象，AI 領(lǐng)域更是一個(gè)跨國(guó)界的合作研究和應(yīng)用社區(qū)，僅在斯坦福，每年的全球合作產(chǎn)生的科學(xué)論文數(shù)量就多不勝舉，還有GitHub 這種全球的開源服務(wù)社區(qū)。

所以，你所說(shuō)的這種情況，在全球交流和合作如此頻繁的當(dāng)下，不太會(huì)發(fā)生。確實(shí)很多AI現(xiàn)在資源是在少數(shù)大公司里，但不是全部，其實(shí)學(xué)術(shù)界和很多獨(dú)立研究機(jī)構(gòu)在 AI 發(fā)展里都有自己的獨(dú)立角色。

而且，那些目前在這個(gè)領(lǐng)域落后的國(guó)家，還是有很多機(jī)會(huì)和時(shí)間去思考、制定自己的數(shù)據(jù)戰(zhàn)略和AI 發(fā)展戰(zhàn)略的。

結(jié)語(yǔ)

今天的 AI 科學(xué)家們要處理的實(shí)在太多了，除了技術(shù)領(lǐng)域研究，還要回答道德、倫理、隱私、經(jīng)濟(jì)、政治，乃至愛情等方方面面的問(wèn)題。就像李飛飛在對(duì)話中開的一個(gè)玩笑，“科學(xué)家們真的很忙，我羨慕哲學(xué)家們，他們可以只提出問(wèn)題來(lái)，用幾千年來(lái)反復(fù)討論卻沒(méi)有個(gè)答案，而我們科學(xué)家們卻要馬上回答?！?/p>

這讓記者想到幾天前采訪一個(gè)生物科學(xué)家時(shí)，他提到的觀點(diǎn)：“我們科學(xué)家受的解決研究問(wèn)題的學(xué)術(shù)訓(xùn)練，你提到的基因編輯引發(fā)的這些倫理和社會(huì)問(wèn)題，我怎么知道答案呢，你應(yīng)該去問(wèn)那些領(lǐng)域的專家，或者干脆去問(wèn)你們每個(gè)人自己：這真的是我想要的嗎？”

你對(duì) AI 持什么態(tài)度？樂(lè)觀、悲觀、兩者兼有？你認(rèn)為 AI 會(huì)比你的家人、密友、甚至伴侶更了解你嗎？如果未來(lái)某天 AI 想一手包辦你的工作、理財(cái)、買房買車、相親擇偶等人生大事，你敢相信它嗎？歡迎留言討論！