“公開代碼”再次成為焦點，這次你站在哪一邊？

OpenAI擔(dān)心其NLP模型“過于強(qiáng)大”或遭濫用而不公開代碼及模型的做法似乎引發(fā)眾怒。今天外網(wǎng)AI圈幾乎全是對OpenAI的批評及嘲諷，盡管微弱的支援聲夾雜其中。“公開代碼”再次成為焦點，這次你站在哪一邊？

OpenAI火了，雖然并非以他們希望的方式。

昨天，OpenAI在官博宣布，他們構(gòu)建了一個強(qiáng)大的NLP模型，但正因為這個模型過于強(qiáng)大，能夠生成以假亂真的句子，為了避免其遭到濫用，他們決定不公開模型的具體結(jié)構(gòu)和代碼 (而僅發(fā)布了一個小很多的樣例)。

“大型的通用語言模型可能會產(chǎn)生重大的社會影響，”O(jiān)penAI的官博這樣寫道，他們的這個模型現(xiàn)在公布出來，“可能被用于生成假新聞、在線假裝某人的身份、在社交媒體上發(fā)布虛假內(nèi)容或故意誤導(dǎo)言論，以及自動生成垃圾郵件/網(wǎng)絡(luò)釣魚內(nèi)容”。

OpenAI還援引了DeepFake，這是計算機(jī)視覺界一個臭名昭著的例子，DeepFake由于其強(qiáng)大的圖像生成能力，成了一個“假臉生成器/換臉器”，制造出大量惡意的虛假視頻、音頻和圖像而被禁用。

OpenAI還在博客中寫了對相關(guān)政策的討論，包括確保AI研究安全可靠，符合倫理道德標(biāo)準(zhǔn)。但沒想到的是，良苦的用心，卻遭到網(wǎng)友幾乎一邊倒的批評和譏諷。

OpenAI干脆改名“CloseAI”算了！

我也做了個超強(qiáng)大的MNIST模型，要不要擔(dān)心它被濫用而不公開呢？

更有甚者，比如下面這位Ben Recht，還發(fā)了一條Twitter長文進(jìn)行嘲諷：

今天我要介紹我們的論文“Do ImageNet Classifiers Generalize to ImageNet?”我們嘗試按照原論文描述復(fù)現(xiàn)其結(jié)果，但發(fā)現(xiàn)這樣做實在太難！

……我們完全可以基于一個不能公開的數(shù)據(jù)集構(gòu)建一個超大模型，在我們自己的標(biāo)準(zhǔn)ML范式中很難發(fā)生過擬合。

但是，測試集上的一個微小改動就會導(dǎo)致分布結(jié)果大幅變化，你可以想見把模型和代碼全都公布出來以后會發(fā)生什么！

PS 這篇論文還在arxiv等候?qū)徍税l(fā)布，要不是我們的最終版PDF過大，那就是因為arxiv也學(xué)著OpenAI的做法，覺得AI/ML研究太過危險而不能公開。

OpenAI：新NLP模型很強(qiáng)大，公布后可能遭濫用

從研究的角度來看，OpenAI昨天宣布的“強(qiáng)大”NLP模型GPT-2，技術(shù)突破性體現(xiàn)在兩個方面。首先，是模型的容量空前巨大。

根據(jù)OpenAI的研究主管Dario Amodei介紹，GPT-2的參數(shù)有15億，是上一個版本GPT大小的12倍，訓(xùn)練數(shù)據(jù)集則擴(kuò)大了15倍。

GPT-2在一個包含約1000萬篇文章的數(shù)據(jù)集上進(jìn)行訓(xùn)練，而這些文章來源是從Reddit上點贊超過三票的鏈接里爬出來的，大小是40GB，相當(dāng)于3.5萬本《白鯨記》(Moby Dick)。

實際上，GPT2就是一個自動文本生成器，但鑒于其訓(xùn)練數(shù)據(jù)量直接影響模型的性能，也使GPT2成為一個更加通用的語言生成模型，這也正是其第二個突破所在：相比以往的文本模型，GPT2能完成更多的任務(wù)，包括機(jī)器翻譯、文本總結(jié)，以及閱讀理解，而且有的時候，其性能還超過了專門為某種任務(wù)——比如閱讀理解——構(gòu)建的模型。

也正因如此，致使OpenAI違背其名稱中宣揚(yáng)的“Open”理念，不公開這個模型?！叭绻銦o法預(yù)測模型能夠做什么，你就不得不去做各種實驗，但這個世界上有太多太多比我們更聰明更厲害，更善于拿這個模型去做壞事的人存在。”

OpenAI宣傳主管Jack Clark在接受《衛(wèi)報》采訪時表示：“我們并不是說我們知道什么該做，我們也并不是在通過這種方法在表明這樣做就是對的，我們還在探討更嚴(yán)謹(jǐn)和謹(jǐn)慎的做法。我們算是摸著石頭過河?！?/p>

OpenAI給出了其模型強(qiáng)大的例子，可以參見昨天新智元的報道。

網(wǎng)友觀點：不公開代碼和訓(xùn)練集就干脆別發(fā)表！

至于持反對觀點的網(wǎng)友這邊，很多人恰恰是因為了解模型在訓(xùn)練集和測試集上表現(xiàn)的區(qū)別，才紛紛反對OpenAI不公開全部代碼和數(shù)據(jù)集的做法。

其次，OpenAI“擔(dān)心AI研究太危險而不公開”的理由，也成了眾矢之的。比如Denny Britz在Twitter上發(fā)文稱：

是不是又該舊話重提，“AI能自己生成語言，所以不能再研究AI了！”

去年，加拿大蒙特利爾大學(xué)的計算機(jī)科學(xué)家們希望展示一種新的語音識別算法，他們希望將其與一名著名科學(xué)家的算法進(jìn)行比較。唯一的問題：該benchmark的源代碼沒有發(fā)布。研究人員不得不從已公開發(fā)表的描述中重現(xiàn)這一算法。但是他們重現(xiàn)的版本無法與benchmark聲稱的性能相符。蒙特利爾大學(xué)實驗室博士生Nan Rosemary Ke說：“我們嘗試了2個月，但都無法接近基準(zhǔn)的性能?！?/p>

人工智能（AI）這個蓬勃發(fā)展的領(lǐng)域正面臨著實驗重現(xiàn)的危機(jī)，就像實驗重現(xiàn)問題過去十年來一直困擾著心理學(xué)、醫(yī)學(xué)以及其他領(lǐng)域一樣。AI研究者發(fā)現(xiàn)他們很難重現(xiàn)許多關(guān)鍵的結(jié)果，這導(dǎo)致了對研究方法和出版協(xié)議的新認(rèn)識。法國國家信息與自動化研究所的計算神經(jīng)科學(xué)家Nicolas Rougier說：“這個領(lǐng)域以外的人可能會認(rèn)為，因為我們有代碼，所以重現(xiàn)性是有保證的。但完全不是這樣?！?/p>

AAAI 2018會議上，reproducibility問題被提上議程，一些團(tuán)隊對這個問題進(jìn)行了分析。挪威科技大學(xué)計算機(jī)科學(xué)家Odd Erik Gundersen報告了一項調(diào)查的結(jié)果，調(diào)查針對過去幾年在兩個AI頂會上發(fā)表的論文中提出的400種算法，結(jié)果只有6％的研究者分享了算法的代碼，只有三分之一的人分享了他們測試算法的數(shù)據(jù)，而只有一半分享了“偽代碼”。

針對主要會議上發(fā)表的400篇AI論文的調(diào)查顯示，只有6％的論文包含算法的代碼，約30％包含測試數(shù)據(jù)，54％包含偽代碼。

CREDITS: (GRAPHIC) E. HAND/SCIENCE; (DATA) GUNDERSEN AND KJENSMO, ASSOCIATION FOR THE ADVANCEMENT OF ARTIFICIAL INTELLIGENCE 2018

研究人員說，這些缺失的細(xì)節(jié)的原因有很多：代碼可能是一項正在進(jìn)行中的工作，所有權(quán)歸某一家公司，或被一名渴望在競爭中保持領(lǐng)先地位的研究人員緊緊掌握。代碼可能依賴于其他代碼，而其他代碼本身未發(fā)布?；蛘叽a可能只是丟失了，在丟失的磁盤上或被盜的筆記本電腦上——Rougier稱之為“我的狗吃了我的程序”問題。

假設(shè)你可以獲得并運(yùn)行原始代碼，它仍然可能無法達(dá)到你的預(yù)期。在機(jī)器學(xué)習(xí)領(lǐng)域，計算機(jī)從經(jīng)驗中獲取專業(yè)知識，算法的訓(xùn)練數(shù)據(jù)可以影響其性能。這也是這次OpenAI沒有公開其全部代碼和訓(xùn)練集遭到網(wǎng)友反對的主要原因。

在這場意外掀起的激烈爭論中，你站在哪一邊呢？