不亦樂乎：一邊造假，一邊打假的AI！

最近AI換臉術(shù)與AI假新聞疊加在一起，造成了不少烏龍事件，比如最近美國(guó)的議長(zhǎng)南希·佩洛西就的一段醉酒視頻就在Facebook上流傳甚廣，視頻中的議長(zhǎng)明顯是狀態(tài)暈沉，醉意十足，不過這后來被證明是一段是由deepfake生成的假視頻。

后來Facebook創(chuàng)始人馬克.扎克伯格的一段視頻也開始瘋傳，在其中小扎說“讓我們快速地想象一下，一個(gè)人手握偷竊來的數(shù)十億人的隱私信息，他們的所有秘密、生活和未來等等 ”，不過這也是deepfake的杰作。

無獨(dú)有偶，一名叫做Katie Jones的女政治家，似乎正在美國(guó)政壇冉冉升起，她在頂級(jí)智庫工作，擁有由一批專家和權(quán)威人士組成的關(guān)系網(wǎng)。她與一名助理國(guó)務(wù)卿、一名參議員的高級(jí)助理以及經(jīng)濟(jì)學(xué)家 Paul Winfree 都有聯(lián)系，而且搜索引擎上也能查到相應(yīng)的新聞報(bào)道，不過這位女士其實(shí)并不存在，對(duì)此美聯(lián)社已經(jīng)作出確認(rèn)，其面部信息是合成的，其相關(guān)新聞都是AI捉刀寫的。

打假神器 GROVER 橫空出世

在OpenAI 推出文本生成模型 GPT-2 后，其文稿所中流暢自然的文筆引發(fā)各界廣泛的關(guān)注，尤其是最近《權(quán)力的游戲》爛尾，硬核程序員用GPT-2重寫了比電視劇更好的結(jié)局，這也讓GPT-2算法名聲大噪，不過由于這個(gè)模型內(nèi)置 15 億個(gè)參數(shù)（你沒看錯(cuò)15億個(gè)），其算力門檻讓我們這些普通玩家望而卻步。不過一種簡(jiǎn)化的GP2-2-SIMPLE模型已經(jīng)在 GITHUB 上開源，有機(jī)會(huì)筆者也會(huì)向讀者們分享一下這個(gè)項(xiàng)目的使用心得。

那么面對(duì)這些假新聞包裝出來的假人、假事，華盛頓大學(xué)和艾倫人工智能研究所的研究者提出了一種名為Grover 的鑒定模型，這個(gè)模型本身并沒有什么特別值得一提的創(chuàng)新，其思路就是把AI寫的文章與人工寫的文章分為兩組，喂給GPU進(jìn)行模型訓(xùn)練。論文中最重要的一段如下：“Training Grover-Mega is relatively inexpensive: at a cost of $0.30 per TPU v3 core-hour and two weeks of training, the total cost is $25k”也就是人家為了訓(xùn)練Grover花了20萬人民幣。所以這又是一次算力上的碾壓。

不過雖然Grover的作者并沒有開源模型，不過讀者還是可以通過他們提供的網(wǎng)頁，來感受Grover的強(qiáng)大，

在GENERATE的標(biāo)簽下，隨便輸入一個(gè)標(biāo)題，點(diǎn)擊generate,一會(huì)AI就能給你一篇完整的文章，我輸入的標(biāo)題是why china will win the trade war而且寫的有理,有據(jù)，甚至比很多大V的觀點(diǎn)更有見識(shí)。所以打假能手，本身也是個(gè)造假能手，大家也可以去感受一下。

地址：

https://grover.allenai.org/

GENERAT旁邊的標(biāo)簽DETECT則可以發(fā)現(xiàn)假新聞。隨便把我們剛剛讓GROVER寫的假新聞拷進(jìn)去，點(diǎn)擊“DETECT FAKE NEW"就能得到結(jié)果

GROVER的打假原理

由于Grover是使用典型深度學(xué)習(xí)模型，開發(fā)者也并不能了解其工作的具體機(jī)制，其原文是這么說的“Why does Grover perform best at detecting its own fake news? We hypothesize that the reason may be due in part to exposure bias”.也就是本文的作者認(rèn)為Grover是通過檢測(cè)exposure bias來預(yù)測(cè)文章是否是由AI生成。

其實(shí)到底是不是exposure bias并不重要，我們上次說的VP-VAE-2當(dāng)中VP其實(shí)就是一種壓縮算法，而每種機(jī)器學(xué)習(xí)算法中幾乎都存在池化或者非全鏈接層，以此來減低計(jì)算量，這樣的存在也就給AI賦予了風(fēng)格，而Grover其實(shí)就是通過海量的訓(xùn)練，來感知AI的風(fēng)格（style)并以此給出自己的預(yù)測(cè)概率。