AdVerif.ai 設(shè)計(jì)了一種同名算法來(lái)檢測(cè)虛假的新聞報(bào)道和其他類型的問題

這可能是互聯(lián)網(wǎng)歷史上的第一個(gè)虛假新聞：1984年，有人在Usenet上發(fā)布了蘇聯(lián)加入網(wǎng)絡(luò)的消息。這是一個(gè)完全無(wú)害的四月愚人節(jié)惡作劇，與如今的虛假信息宣傳活動(dòng)和旨在快速獲利的不擇手段的制造業(yè)相差甚遠(yuǎn)。2017年，誤導(dǎo)性和惡意的虛假在線內(nèi)容是如此豐富多產(chǎn)，以至于人類無(wú)法讓自己解脫困境。反而，這越發(fā)看來(lái)機(jī)器將不得不拯救我們。

一家名為AdVerif.ai 的初創(chuàng)公司設(shè)計(jì)了一種同名法算，可以把我們從黑暗中拯救出來(lái)。人工智能軟件的構(gòu)建是為了檢測(cè)虛假的新聞報(bào)道、赤裸、惡意軟件和其他類型的問題內(nèi)容。AdVerif.ai于11月份推出了測(cè)試版本，目前與美國(guó)和歐洲的內(nèi)容平臺(tái)及廣告網(wǎng)絡(luò)合作，他們不希望與虛假或潛在的冒犯性新聞報(bào)道有關(guān)聯(lián)。

根據(jù)AdVerif.ai的創(chuàng)始人Or Levi的說法，公司在將焦點(diǎn)放在公司產(chǎn)品，而非普通用戶的事情上面看到了機(jī)遇。雖然個(gè)別消費(fèi)者可能不會(huì)擔(dān)心他們所點(diǎn)擊新聞報(bào)道的真實(shí)性，但是廣告主和內(nèi)容平臺(tái)會(huì)因?yàn)榧Y(jié)或宣傳不良內(nèi)容而損失一些東西。如果他們改變自己的服務(wù)，他們可以有效地削減那些靠制造虛假新聞賺錢的人的收入來(lái)源。Levi說：“這將是與這類內(nèi)容作斗爭(zhēng)的一個(gè)大的跨越?！?/p>

AdVerif.ai 是如何發(fā)現(xiàn)假新聞？

AdVerif.ai可以掃描整個(gè)內(nèi)容，發(fā)現(xiàn)表明某些地方有問題的標(biāo)志，比如文章標(biāo)題與正文內(nèi)容不對(duì)應(yīng)，或標(biāo)題中的大寫字母太多。AdVerif.ai還通過有數(shù)千個(gè)合法虛構(gòu)新聞的數(shù)據(jù)庫(kù)對(duì)每一則新聞進(jìn)行交叉檢查，這些合法的虛構(gòu)新聞會(huì)每周更新一次?？蛻艨梢钥吹较到y(tǒng)考慮到的每一部分的報(bào)告，還有評(píng)估分?jǐn)?shù)，評(píng)估某些事可能是虛假新聞，或可能攜帶惡意軟件，或可能包含他們要求系統(tǒng)留意的其他東西，比如說赤裸。最后，Levi表示，他計(jì)劃增加能找出操縱圖像的能力，并安裝一個(gè)瀏覽器插件。

在測(cè)試AdVerif.ai的演示版本時(shí)，AI將洋蔥識(shí)別為諷刺（這在過去曾經(jīng)愚弄過很多人）。布賴特巴特的新聞故事被分類為“不可靠的，右翼的，政治的，帶有偏見的”，而Cosmopolitan則被認(rèn)為是“左翼的”?？梢钥闯觯?dāng)Twitter賬戶使用標(biāo)識(shí)時(shí)，而鏈接卻與它所描繪的品牌毫無(wú)關(guān)系。AdVerif.ai不僅發(fā)現(xiàn)Natural News上標(biāo)題為“有證據(jù)表明比特幣成為NSA設(shè)計(jì)的心理戰(zhàn)行動(dòng)來(lái)全面推廣單一世界數(shù)字貨幣”的新聞是來(lái)自一個(gè)黑名單網(wǎng)站，而且還確定了它是一條虛假新聞，在其他被列入黑名單的網(wǎng)站上也會(huì)彈出，而且在合法新聞機(jī)構(gòu)沒有任何參考。

一些可疑的新聞報(bào)道仍然可以通過，出現(xiàn)在網(wǎng)站上。在一個(gè)名為Action News 3的網(wǎng)站上，有一篇題為“NFL播放器拍攝到在更衣室里燃燒美國(guó)國(guó)旗！”的帖子，雖然已經(jīng)證明該帖是捏造的，但是帖子并沒有被攔截。為了幫助系統(tǒng)知道接下來(lái)的情況，可以手動(dòng)逐個(gè)更新系統(tǒng)虛假新聞報(bào)道的黑名單。

當(dāng) AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在為在線公司提供以AI為動(dòng)力的吐真藥中看到機(jī)遇的初創(chuàng)公司。特別是網(wǎng)絡(luò)安全公司，已經(jīng)快速地將發(fā)現(xiàn)僵尸和虛假新聞的操作添加到他們的計(jì)算機(jī)指令系統(tǒng)中，指出很多方法與黑客手段有多么相似。Facebook正在調(diào)整其算法，以消除其新聞傳播中的虛假新聞。谷歌與事實(shí)檢查網(wǎng)站開展合作，到目前為止，取得的結(jié)果還參差不齊?！疤摷傩侣勌魬?zhàn)賽”于去年年底推出，比賽是由AI團(tuán)體的志愿者舉辦，旨在鼓勵(lì)開發(fā)有助于打擊惡意報(bào)道的工具。

“虛假新聞挑戰(zhàn)賽”組織者之一，開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)的Joostware公司創(chuàng)始人，Delip Rao表示，要發(fā)現(xiàn)虛假新聞?dòng)泻芏喾矫?，所以這個(gè)挑戰(zhàn)將會(huì)分多個(gè)步驟完成。第一步是“立場(chǎng)檢測(cè)”，或者選取一條新聞，找出其他新聞網(wǎng)站對(duì)這個(gè)話題的評(píng)論。這可以讓人類事實(shí)檢驗(yàn)員依靠新聞來(lái)驗(yàn)證其它的新聞報(bào)道，用更短的時(shí)間檢查單個(gè)作品。

“虛假新聞挑戰(zhàn)賽”發(fā)布了數(shù)據(jù)集供團(tuán)隊(duì)使用，有50個(gè)團(tuán)隊(duì)提交了參賽作品。思科公司的網(wǎng)絡(luò)安全部門Talos Intelligence利用了一種算法贏得了比賽，這一算法獲得了80％以上的正確率——雖還沒有為黃金時(shí)段做好準(zhǔn)備，但仍然是一個(gè)令人歡心鼓舞的結(jié)果。接下來(lái)的挑戰(zhàn)可能會(huì)出現(xiàn)帶有覆蓋文本的圖像（思考模因，但帶有虛假新聞），這是一種經(jīng)常在社交媒體上推廣的格式，因?yàn)樗惴ê茈y分解和理解這種文本格式。

Rao表示：“我們主要想為檢驗(yàn)員建造最好的工具，以便他們能夠快速工作，像檢查類固醇的事實(shí)檢驗(yàn)員一樣。”

即使開發(fā)出能夠有效遏制虛假內(nèi)容趨勢(shì)的系統(tǒng)，也不太可能是新聞報(bào)道的終結(jié)。人工智能系統(tǒng)已經(jīng)能夠創(chuàng)造虛假的文本了，以及令人難以置信的圖像和視頻。（請(qǐng)參閱“真實(shí)或虛假？人工智能令人難以置信”）。也許正因?yàn)槿绱耍珿artner最近的一項(xiàng)研究預(yù)測(cè)，到2022年，發(fā)達(dá)經(jīng)濟(jì)體中的大多數(shù)人會(huì)看到比真實(shí)信息更多的錯(cuò)誤虛假信息。同樣的報(bào)告發(fā)現(xiàn)，甚至在發(fā)生這種事情之前，虛假內(nèi)容將會(huì)超過AI檢測(cè)它的能力，改變我們相信數(shù)字信息的方式。

AdVerif.ai以及其他公司更像開始了一場(chǎng)競(jìng)賽，而非虛假信息之戰(zhàn)。競(jìng)賽中，虛假內(nèi)容創(chuàng)作者開發(fā)自己的人工智能系統(tǒng)企圖戰(zhàn)勝 “正義”的人工智能。因此，我們不得不重新審視自己獲取信息的方式。