AI不會(huì)再有寒冬 別讓AI解釋自己

今天，《連線》發(fā)表了一篇專訪Geoffrey Hinton的長(zhǎng)文。

在這次加拿大G7人工智能會(huì)議上的訪談里，Hinton談到了對(duì)谷歌軍方合同的“私下”抗議，還提出了對(duì)現(xiàn)在AI研究的一些看法，比如：

不要讓AI解釋自己，那簡(jiǎn)直是個(gè)災(zāi)難。人類大多數(shù)時(shí)候都沒(méi)法解釋自己。

發(fā)展AI需要新型的計(jì)算硬件（他指的并不是TPU）。

我們?cè)谘芯恐袘?yīng)該追求“新想法”，不能一味看效果。從長(zhǎng)遠(yuǎn)來(lái)看，一個(gè)全新的想法比一個(gè)微小的改進(jìn)更有影響力。

另外，Hinton還說(shuō)：不，不會(huì)再有AI寒冬了。

以下是采訪實(shí)錄：

Wired：加拿大***特魯多在G7大會(huì)上說(shuō)，人工智能帶來(lái)了一些道德挑戰(zhàn)，對(duì)此需要做更多工作，你怎么想？

Hinton：我一直很擔(dān)心致命自主武器的濫用。我認(rèn)為，應(yīng)該有一個(gè)類似于日內(nèi)瓦公約的東西，像禁止化學(xué)武器一樣禁止它們。就算不是每個(gè)國(guó)家都簽署這個(gè)公約，實(shí)際上它也會(huì)起到像道德旗幟一樣的作用。誰(shuí)沒(méi)簽?zāi)闶悄芸吹降摹?/p>

Wired：有一封抗議Google為國(guó)防部提供無(wú)人機(jī)圖像識(shí)別服務(wù)的公開(kāi)信，有4500名你的同事簽了名。你簽了嗎？

Hinton：作為一名Google高管，我認(rèn)為我不應(yīng)該公開(kāi)表達(dá)對(duì)公司的不滿，所以，我私下表達(dá)。我沒(méi)有簽公開(kāi)信，而是找（Google聯(lián)合創(chuàng)始人）謝爾蓋·布林談了談。他說(shuō)他對(duì)這個(gè)事情也不滿，所以，這不是他們的追求。

Wired：Google決定履行完這份合同，但是不會(huì)續(xù)簽，還發(fā)布了一份AI指導(dǎo)方針，其中就包含了不能把這項(xiàng)技術(shù)用于武器。

Hinton：我認(rèn)為Google的選擇是正確的。各種各樣的東西都需要云計(jì)算，想弄清底線設(shè)在哪確實(shí)很難。我對(duì)Google設(shè)置的底線很滿意，那些原則我認(rèn)為很有道理。

Wired：在日常場(chǎng)景里，比如在社會(huì)服務(wù)、醫(yī)療等領(lǐng)域用軟件做決策的時(shí)候，人工智能也會(huì)帶來(lái)道德問(wèn)題。我們應(yīng)該當(dāng)心什么？

Hinton：我的專業(yè)領(lǐng)域是讓這個(gè)技術(shù)管用，不是社會(huì)政策。這里面確實(shí)有一點(diǎn)和我的專業(yè)技能相關(guān)，就是判斷監(jiān)管者該不該堅(jiān)持要求你能解釋AI系統(tǒng)的工作原理。我認(rèn)為那完全是個(gè)災(zāi)難。

在大多數(shù)事情上，人類都不能解釋自己的原理。你招人的時(shí)候，是基于那些可以量化的東西來(lái)做判斷，再加上各種”直覺(jué)”。人們根本不知道自己是怎么做到的。如果你讓人類對(duì)自己的決定做出解釋，就相當(dāng)于逼他們編故事。

神經(jīng)網(wǎng)絡(luò)的問(wèn)題也一樣。你訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，它學(xué)習(xí)的是幾十億數(shù)字，代表著從訓(xùn)練數(shù)據(jù)中提取的知識(shí)，輸入一張圖片，它給出正確的決定，比如說(shuō)這是不是一個(gè)行人。但如果你要問(wèn)“它為什么這么想”……如果圖片里有沒(méi)有行人能通過(guò)任何簡(jiǎn)單的規(guī)則來(lái)判斷的話，這個(gè)問(wèn)題早就解決了。

Wired：所以，我們?cè)趺磿?huì)知道什么時(shí)候能信任這些系統(tǒng)？

Hinton：應(yīng)該根據(jù)表現(xiàn)來(lái)管理它們。你可以用實(shí)驗(yàn)來(lái)檢驗(yàn)有沒(méi)有偏見(jiàn)。對(duì)于無(wú)人車，我認(rèn)為人們現(xiàn)在已經(jīng)算接受了，就算不知道一輛無(wú)人車怎么做到的，如果它發(fā)生的事故比人類司機(jī)少，那就是好事。我認(rèn)為我們要像對(duì)人一樣來(lái)對(duì)待這個(gè)問(wèn)題：看他們表現(xiàn)如何。

△https://arxiv.org/abs/1807.04587

Wired：在你上周發(fā)表的一篇論文中，提及應(yīng)該進(jìn)一步研究大腦中的學(xué)習(xí)算法。這是為什么？

Hinton：大腦和現(xiàn)在大多數(shù)神經(jīng)網(wǎng)絡(luò)都不一樣。人類大腦有大約100萬(wàn)億個(gè)突觸，而人工神經(jīng)網(wǎng)絡(luò)的權(quán)重通常要小1萬(wàn)倍。大腦使用大量的突觸，從很少的樣本中盡可能多的學(xué)習(xí)。而深度學(xué)習(xí)則是利用更少的神經(jīng)元連接，從大量的樣本中進(jìn)行學(xué)習(xí)。

我認(rèn)為大腦并不關(guān)注如何把大量知識(shí)壓縮成幾個(gè)突觸的連接，而是關(guān)注如何使用大量的連接，快速的提取知識(shí)。

Wired：那應(yīng)該如何構(gòu)建更強(qiáng)大的機(jī)器學(xué)習(xí)系統(tǒng)？

Hinton：我們需要轉(zhuǎn)向另一種計(jì)算機(jī)。幸運(yùn)的是，我這里就有一個(gè)。

（Hinton說(shuō)罷把手伸到包里，掏出一塊耀眼的大芯片。這個(gè)芯片是英國(guó)初創(chuàng)公司Graphcore的原型產(chǎn)品，這家公司致力于為機(jī)器/深度學(xué)習(xí)算法開(kāi)發(fā)新型處理器。）

△漂亮得不像實(shí)力派

大多數(shù)用來(lái)運(yùn)行神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)，甚至包括Google的專用硬件，都得使用RAM（來(lái)存儲(chǔ)正在使用的程序）。從RAM中獲取神經(jīng)網(wǎng)絡(luò)的權(quán)重代價(jià)高昂，所以一旦軟件獲得了權(quán)重，就會(huì)反復(fù)使用很多次。想要改變是一個(gè)成本巨大的事情。

而在Graphcore芯片上，權(quán)重存儲(chǔ)在處理器的緩存而不是RAM中，所以不會(huì)被移走。因此某些探索會(huì)變得更容易。 比如我們可以搞個(gè)一萬(wàn)億個(gè)權(quán)重的系統(tǒng)，但是每次訓(xùn)練只涉及數(shù)十億的權(quán)重。這種方式更接近大腦。

Wired：AI和機(jī)器學(xué)習(xí)的快速增長(zhǎng)，是否也帶來(lái)了新的挑戰(zhàn)？

Hinton：現(xiàn)在一個(gè)巨大的挑戰(zhàn)是，如果你想發(fā)表一篇機(jī)器學(xué)習(xí)論文，有一些條條框框的限制。如果你用的方法，看起來(lái)效果沒(méi)那么好，那就很難發(fā)表。我不認(rèn)為這能鼓勵(lì)人們?nèi)ニ伎既碌姆椒ā?/p>

現(xiàn)在如果你發(fā)送了一個(gè)有著全新想法的論文，被接收的可能性非常低，或者會(huì)有一些無(wú)法理解你想法的初級(jí)同行在評(píng)審，或者一些看了太多論文的資深評(píng)審者，他們都不理解你的論文，并且認(rèn)為是無(wú)稽之談。我認(rèn)為這非常糟糕。

我們應(yīng)該追求的，特別是在基礎(chǔ)科學(xué)會(huì)議上，是一些全新的想法。從長(zhǎng)遠(yuǎn)來(lái)看，一個(gè)全新的想法比一個(gè)微小的改進(jìn)更有影響力。出現(xiàn)這個(gè)問(wèn)題的原因，就是資深人士太少，而年輕人太多。

Wired：這會(huì)破壞AI領(lǐng)域的進(jìn)展么？

Hinton：用不了幾年，問(wèn)題就會(huì)自行解決。困難都是暫時(shí)的。大公司、大學(xué)都已經(jīng)開(kāi)始培育更多的人才，大學(xué)最終也會(huì)聘請(qǐng)更多的教授。

Wired：一些學(xué)者警告說(shuō)，目前的AI熱潮還會(huì)再次進(jìn)入寒冬。

Hinton：不，不會(huì)再有AI寒冬了?，F(xiàn)在AI都已經(jīng)在你的手機(jī)里了。當(dāng)年經(jīng)歷AI寒冬時(shí)，人工智能還不是人們?nèi)粘Ｉ畹囊徊糠帧６F(xiàn)在AI已經(jīng)是了。