忘記可能是AI進(jìn)步的關(guān)鍵!

我們都會(huì)遺忘，但是遺忘的過(guò)程是什么樣子的？從一閉眼就能浮現(xiàn)的那張清晰的臉龐到那一團(tuán)模糊不清的影子，是眉毛先消失還是眼睛先不見？

最近，一位藝術(shù)家想用AI展現(xiàn)這個(gè)過(guò)程。

她創(chuàng)建了一張算法生成的臉，然后通過(guò)逐漸關(guān)閉個(gè)別神經(jīng)元，讓AI慢慢忘記這張臉，并把這個(gè)過(guò)程可視化為了一段視頻。

一層一層撥開AI的心忘記的過(guò)程可能是丑陋的

視頻的名字叫做"What I saw before the darkness“，為我們展示了一個(gè)AI的心靈運(yùn)作過(guò)程。

視頻中最開始展現(xiàn)的面孔由生成對(duì)抗網(wǎng)絡(luò)（GAN）生成，GAN是一種機(jī)器學(xué)習(xí)程序，可以從現(xiàn)有照片中學(xué)習(xí)以產(chǎn)生新事物。通過(guò)這種方式GAN訓(xùn)練了數(shù)以百萬(wàn)計(jì)的肖像，可以生成逼真的人臉。

網(wǎng)絡(luò)相互連接的神經(jīng)元決定了這張臉的特征：眼睛，膚色，形狀，頭發(fā)，類似于人類大腦使用神經(jīng)元網(wǎng)絡(luò)來(lái)構(gòu)建面部的心理圖像。

而項(xiàng)目的創(chuàng)作者試圖教會(huì)AI忘記。通過(guò)逐漸關(guān)閉個(gè)別神經(jīng)元，然后重復(fù)這個(gè)過(guò)程，直到AI完全“忘記”這張臉。

視頻展現(xiàn)的效果有點(diǎn)讓人毛骨悚然。起初看起來(lái)好像是生成的人臉正在迅速老化。無(wú)數(shù)細(xì)小的線條出現(xiàn)在她的眼睛下方和臉部周圍，她的頭發(fā)開始變薄和變淡。

幾秒鐘后，出現(xiàn)了一些完全不同的東西。她的皮膚逐漸變成綠色的色調(diào)，而隨著神經(jīng)元繼續(xù)變暗，她的特征開始消失。

六十秒內(nèi)，這張臉完全腐爛了，只剩下一些白色和棕色的色調(diào)。

最后會(huì)變成線條然后完全變黑。

通過(guò)AI看人類腦海中的橡皮擦

創(chuàng)作者介紹這個(gè)項(xiàng)目的靈感是源于對(duì)人類感知的思考，人類所看到的一切其實(shí)都是大腦對(duì)周圍世界的再解釋。一個(gè)人無(wú)法直接進(jìn)入外部現(xiàn)實(shí)，只能通過(guò)在大腦再構(gòu)建一個(gè)圖像的方式接觸世界。

克勞德·莫奈的畫作在他的晚年風(fēng)格發(fā)生了變化，他晚期的畫筆觸逐漸變得模糊，而且色調(diào)會(huì)偏向混亂的綠色和黃色。人類的眼睛和大腦以及連接它們的網(wǎng)絡(luò)隨時(shí)間會(huì)經(jīng)歷變化或者說(shuō)是惡化，而通常我們?nèi)祟惒粫?huì)注意到這一變化。

雖然說(shuō)大腦里有一個(gè)全新的被建構(gòu)的世界，但是它不是空中樓閣，憑空捏造的。在某些方面，深度神經(jīng)網(wǎng)絡(luò)與視覺系統(tǒng)非常相似，神經(jīng)網(wǎng)絡(luò)是非常神秘的東西，他們作出的一些決定可能連創(chuàng)造它們的專家都無(wú)法解釋。

這個(gè)項(xiàng)目可以幫助模擬世界在人們心中發(fā)生變化的過(guò)程，通過(guò)倒推神經(jīng)網(wǎng)絡(luò)的工作步驟，通過(guò)系統(tǒng)地刪除神經(jīng)元，看看哪些圖片對(duì)AI的世界是重要的，也許可以成為揭開人工智能的面紗，打開黑匣子的一個(gè)辦法。

關(guān)于記憶遺忘是一種能力

一個(gè)比較流行的比喻解釋了為什么人們會(huì)忘記：人們的大腦的容量會(huì)飽和，因此，我們需要忘記一些東西給大腦騰出更多的存儲(chǔ)空間。

遺忘不僅僅是一次失敗的記憶，這是一個(gè)積極的過(guò)程，可以幫助大腦獲取新信息并更有效地做出決策，遺忘是人的能力。

記憶幫助我們了解這個(gè)世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價(jià)值的和相關(guān)的記憶，同時(shí)忘記了低價(jià)值的信息。對(duì)于人類而言，遺忘可以通過(guò)減少過(guò)時(shí)信息對(duì)我們決策的影響來(lái)增強(qiáng)靈活性。還可以防止過(guò)度擬合特定的過(guò)去事件，促進(jìn)概括（神經(jīng)元）有效值。為了地適應(yīng)生活，人類需要能夠戰(zhàn)略性地忘記。

忘記可能是AI進(jìn)步的關(guān)鍵

盡管忘記有時(shí)候會(huì)使我們感到沮喪，但人類忘記的能力正是我們優(yōu)于人工智能的地方。計(jì)算機(jī)記憶即電腦內(nèi)存，通常是指存儲(chǔ)信息和找回信息的容量，以及存儲(chǔ)這些信息的計(jì)算機(jī)物理組件。當(dāng)計(jì)算機(jī)的某些內(nèi)存不再被任務(wù)需要時(shí)，計(jì)算機(jī)將“忘記”這些數(shù)據(jù)，釋放空間供其他任務(wù)源。

AI存儲(chǔ)記憶的一種方法是象征性的記憶表征，其中，知識(shí)是由邏輯事實(shí)來(lái)表示的（如“鳥會(huì)飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結(jié)構(gòu)化的人造表示雖然可以很容易地刪除，就像在電腦上刪除一個(gè)文件。但是機(jī)器學(xué)習(xí)算法不知道需要什么時(shí)候保留舊信息，什么時(shí)候拋棄過(guò)時(shí)的信息。不僅如此，它還會(huì)面臨著與“遺忘”有關(guān)的幾個(gè)問(wèn)題。

一個(gè)是“過(guò)學(xué)習(xí)”的問(wèn)題?！斑^(guò)學(xué)習(xí)”指的是當(dāng)一個(gè)學(xué)習(xí)機(jī)器存儲(chǔ)了源于以往經(jīng)驗(yàn)的過(guò)于詳細(xì)的信息時(shí)，阻礙了其概括和預(yù)測(cè)未來(lái)事件的能力。另外有時(shí)人造神經(jīng)網(wǎng)絡(luò)的神經(jīng)元在學(xué)習(xí)過(guò)程的早期采用不良的激活模式，會(huì)損害AI的未來(lái)學(xué)習(xí)能力。

還有一個(gè)問(wèn)題是“災(zāi)難性遺忘”。 比如如果教一個(gè)說(shuō)英語(yǔ)的孩子學(xué)習(xí)西班牙語(yǔ)，孩子會(huì)很容易把學(xué)習(xí)英語(yǔ)的方法應(yīng)用到西班牙語(yǔ)的學(xué)習(xí)中，比如名詞，動(dòng)詞時(shí)態(tài)，句子構(gòu)建，同時(shí)忘記那些不相關(guān)，比如口音，喃喃自語(yǔ)，語(yǔ)調(diào)。人類可以同時(shí)進(jìn)行遺忘和學(xué)習(xí)。

相反，如果訓(xùn)練神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)英語(yǔ)，則參數(shù)需要適用于英語(yǔ)。如果還想同時(shí)教它西班牙語(yǔ)，對(duì)西班牙語(yǔ)的新改編將覆蓋神經(jīng)網(wǎng)絡(luò)以前為英語(yǔ)獲得的知識(shí)，有效地刪除所有內(nèi)容并重新開始。這被稱為“ 災(zāi)難遺忘 ”，也是神經(jīng)網(wǎng)絡(luò)的一個(gè)局限。

倫理方面的考量也是一個(gè)問(wèn)題。人類死后他們的數(shù)據(jù)要怎么處理？一旦那個(gè)人死了，是否能夠用這些數(shù)據(jù)再訓(xùn)練AI然后復(fù)制出另一個(gè)他？缺乏適用的法律、規(guī)則，沒有設(shè)定好的邊界，我們留下了一個(gè)沒有人控制的分散系統(tǒng)。算法不能選擇忘記什么，而負(fù)責(zé)它們的人可能沒有權(quán)利或解決問(wèn)題的能力。

廉價(jià)的信息存儲(chǔ)代價(jià)和AI無(wú)窮的容量相結(jié)合，打造出了一個(gè)看似非常有吸引力的工具，但背后的問(wèn)題是大量數(shù)據(jù)持續(xù)的收集，而沒有簡(jiǎn)單的方法來(lái)“忘記”數(shù)據(jù)。

教會(huì)AI遺忘

要?jiǎng)?chuàng)造更好的人工智能，首先要了解我們的大腦在關(guān)于什么是值得記住的，什么是要遺忘的方面是如何做決定的。

然后應(yīng)用到AI，就像人一樣，人工智能應(yīng)該記住重要和有用的信息，同時(shí)忘記低價(jià)值，無(wú)關(guān)緊要的知識(shí)。然而，確定什么是相關(guān)和有價(jià)值的信息，除了手頭的任務(wù)之外，還加入包括如倫理，法律和隱私問(wèn)題等因素。

學(xué)會(huì)遺忘是人工智能面臨的重大挑戰(zhàn)之一。雖然它仍然是一個(gè)新的領(lǐng)域，但科學(xué)家最近已經(jīng)探索了一些關(guān)于如何克服這一局限的常識(shí)性理論，比如循環(huán)神經(jīng)網(wǎng)絡(luò)LSTM，它使用特定的學(xué)習(xí)機(jī)制來(lái)決定要記住哪些信息，要更新哪些信息，以及在任何時(shí)候注意。

還有谷歌DeepMind的研究人員提出的EWC算法，該算法模仿突觸合并的神經(jīng)運(yùn)作過(guò)程。在神經(jīng)網(wǎng)絡(luò)中，使用多個(gè)連接（如神經(jīng)元）來(lái)執(zhí)行任務(wù)。EWC將某些連接編碼為關(guān)鍵，從而保護(hù)它們不被覆蓋/遺忘。

但是未來(lái)真正的轉(zhuǎn)變還需要領(lǐng)導(dǎo)人工智能開發(fā)，技術(shù)專家，倫理學(xué)家，研究人員，學(xué)者，社會(huì)學(xué)家，政策制定者和政府的私人實(shí)體的共同合作。