人工智能如何避免深度偽造的出現(xiàn)

如今，采用深度偽造（Deepfake）生成的視頻和音頻，人工智能生成的文本、詩歌和歌詞，假網(wǎng)站和假新聞進入人們的世界。人們的生活還會真實嗎？

行業(yè)專家Mike Elgan對于人工智能在偽造方面起到的作用進行了闡述。他舉例說，“在我小時候，我和弟弟用紙碟、錫紙和大理石制成一個UFO（不明飛行物）。然后，我們將UFO懸掛在魚線上，并登上樓頂采用家里攝像機拍攝UFO飛來的樣子，并獲得證明外星人的存在的確鑿證據(jù)，這種游戲就是一種深度偽造。”

偽造和假冒事物一直存在。但是，當這一切都變得數(shù)字化時，其創(chuàng)建和分發(fā)都變得更加容易、更快以及更加廣泛。人工智能（AI）會將其提升到一個全新的水平，使任何人都能創(chuàng)建完美的多媒體（如視頻和音頻）偽造品。

偽造者創(chuàng)建偽造品，然而采用檢測器進行檢測，從而向偽造者提供有關(guān)檢測到的信息。偽造者然后調(diào)整他們的方法，并創(chuàng)造更好的偽造品。但是在充滿偽造的世界中，人們將如何應(yīng)對？

假新聞（或有關(guān)偽造的新聞）

很多人擔心深度偽造（Deepfake）視頻會被用于政治。例如近日發(fā)生的這樣事情，印度人民黨主席Manoj Tiwari以不同的語言對其支持者的講話就是一個Deepfake視頻，好在沒有用來偽造對手的評論。不過，Deepfake現(xiàn)在已經(jīng)用于政治領(lǐng)域，這是一個里程碑。

另一個采用人工智能偽造的例子是說唱歌手和詞曲作者Travis Scott創(chuàng)作的一首新歌，這首歌名為Jack Park Canny Dope Man，采用人工智能生成的音樂和歌詞，由Scott本人在一段音樂視頻中演唱。

OpenAI GPT-2是一種語言創(chuàng)建人工智能技術(shù)，幾乎可以使用任何樣式編寫文章。它可以模仿《紐約客》雜志的寫作風(fēng)格，甚至可以寫詩。OpenAI是一家由特斯拉首席執(zhí)行官埃隆?馬斯克等創(chuàng)立的非盈利研究機構(gòu)。

很多人擔心人工智能創(chuàng)造的偽造品用于犯罪，但這已經(jīng)發(fā)生了。

安全廠商賽門鐵克公司已經(jīng)通過模仿首席執(zhí)行官的聲音，驗證了三個針對企業(yè)員工的Deepfake音頻的案例。Deepfake技術(shù)可以從YouTube演講和企業(yè)財務(wù)收益電話中獲取首席執(zhí)行官聲音樣本，詐騙者在電話中模擬其聲音，欺騙員工給他緊急匯款。

人工智能將如何制造完美的Deepfake視頻

目前有兩種創(chuàng)建Deepfake視頻的通用方法。第一個是換臉技術(shù)，它使用編碼器和解碼器來逐幀匹配和替換視頻中的人臉。

第二種方法稱為生成對抗網(wǎng)絡(luò)或GAN。這種方法可用于創(chuàng)建各種令人信服卻是偽造的數(shù)據(jù)，它使用兩種人工智能算法。一個算法用來創(chuàng)建虛假數(shù)據(jù);另一個算法進行判斷，為創(chuàng)建者算法提供反饋。并大規(guī)模重復(fù)這種做法，兩種算法都提高了它們的能力。最終，創(chuàng)建者算法變得如此出色，它可以產(chǎn)生視頻、音頻、文本、指紋等假數(shù)據(jù)。

偽造視頻的制作變得越來越復(fù)雜?？偛课挥谙愀鄣囊患颐麨镾enseTime的初創(chuàng)公司與南洋理工大學(xué)和中國科學(xué)院自動化研究所合作，開發(fā)了一個名為SenseTIme的框架，該框架可以根據(jù)語音自動編輯視頻。

韓國Hyperconnect公司構(gòu)建了一個名為MarioNETte的工具，該工具可以實時將某人的臉部動作映射到其他任何人（例如政客或名人）的臉部。

與此同時，Deepfake技術(shù)變得越來越強大，并且也變得更加民主化，現(xiàn)在出現(xiàn)在消費者應(yīng)用程序中。任何人都可以創(chuàng)建令人信服的Deepfake視頻和音頻，而這只是時間問題。

這就是為什么必須弄清楚如何檢測偽造文件的原因。

偽造技術(shù)即將上線

科技孵化器Jigsaw公司最初是谷歌公司的一個部門，后來轉(zhuǎn)到Alphabet公司的旗下，如今重新回到谷歌公司。Jigsaw公司創(chuàng)建了一個名為Assembler的平臺，幫助核查人員核實圖像。該工具結(jié)合了美國7所大學(xué)開發(fā)的不同技術(shù)和算法，加上Jigsaw公司自己創(chuàng)建的一個算法，通過發(fā)現(xiàn)由偽造照片的已知方法生成的證據(jù)來處理圖像。

谷歌公司還利用人工智能技術(shù)和人類智慧相合，在Google Maps上查找并刪除虛假、不道德或惡意的評論。該公司本月宣稱，他們已經(jīng)刪除了超過7500萬條違反政策的評論和400萬份虛假的業(yè)務(wù)資料。人工智能會首先審核所有評論和業(yè)務(wù)概況，并自動刪除明確的違規(guī)者。然后將難以處理的問題交給工作人員處理。

華盛頓大學(xué)和艾倫人工智能研究所的研究人員開發(fā)了一種名為Grover的算法，該算法可以識別出深度偽造的簽名，其準確率高達92%。

Facebook公司最近讓獨立研究人員通過一個名為Social Science One的程序訪問有關(guān)用戶活動的某些信息。

哈佛大學(xué)和麻省理工學(xué)院的IBM Watson人工智能實驗室的科學(xué)家發(fā)布了一個“巨型語言模型測試室”的軟件，它是基于網(wǎng)絡(luò)空間，用于確定給定的文本是否由人工智能編寫。

由滑鐵盧大學(xué)的研究人員創(chuàng)建的一家加拿大初創(chuàng)廠商DarwinAI公司開發(fā)了他們稱之為DarwinAI的技術(shù)，該技術(shù)使用深度學(xué)習(xí)來檢測虛假新聞。他們的技術(shù)將標題與文章內(nèi)容進行比較。在以后的迭代中，DarwinAI會將文章的文字與其他文章進行比較。

采用假新聞推動政治進程的最瘋狂的想法之一是，利用大量的著作和演講資料，通過模擬他們在人工智能中的思維來“復(fù)活”美國開國元勛亞當斯、漢密爾頓、杰伊、杰斐遜、麥迪遜和華盛頓。

一些人提出將區(qū)塊鏈作為驗證內(nèi)容的解決方案，但這可能讓人難以接受。正如這些早期的產(chǎn)品、技術(shù)和試驗所證明的那樣，檢測偽造事物的未來技術(shù)顯然是人工智能。

人工智能應(yīng)用在偽造與反偽造之間的競爭

有人估計，四分之一的新社交媒體賬戶將是偽造或欺詐的賬戶。假賬戶聽起來無害，但它們往往與假新聞、垃圾郵件和網(wǎng)絡(luò)犯罪密切相關(guān)。據(jù)報道，目前用于檢測假賬戶的系統(tǒng)功能并不強大。北約的一項調(diào)查發(fā)現(xiàn)，他們創(chuàng)建的假冒個人資料中有95%在發(fā)布調(diào)查報告幾周后仍然在使用。

這是一個驚人的事實，因為Twitter、Facebook和其他社交網(wǎng)站為此已經(jīng)投資數(shù)十億美元，并且多年來一直致力于開發(fā)檢測假賬戶的系統(tǒng)。每次他們在檢測方面取得新進展時，偽造者都會丟棄數(shù)百萬個偽造帳戶，這意味著偽造者將始終領(lǐng)先于檢測。

在某種程度上，偽造者與檢測者之間在進行貓捉老鼠的游戲。偽造者創(chuàng)建偽造品，而檢測器對其進行檢測，從而向偽造者提供有關(guān)檢測到的信息。然后，偽造者調(diào)整他們的方法，并創(chuàng)建更好的偽造品。這種競爭很可能會無限期地繼續(xù)下去。人類的感知能力將被完全拋在后面，而這種競爭將完全存在于人工智能系統(tǒng)之間。

真相就在那里，但是現(xiàn)在需要人工智能的幫助才能獲得真相。

責任編輯：ct