什么叫深度偽造技術(shù) 深度偽造技術(shù)發(fā)展趨勢分析

在深度偽造者設(shè)計出下一個替代方案之前，檢測器大多是有效的。

2022年3月，網(wǎng)絡(luò)上出現(xiàn)了一段視頻，內(nèi)容是烏克蘭總統(tǒng)弗拉基米爾?澤連斯基要求其軍隊向***。這段通過人工智能（AI）制作的視頻質(zhì)量很差，很快就被揭穿為不實信息。但有一天，更精細的制作可能會帶來嚴重的地緣政治后果。

正因如此，計算機科學家們在繼續(xù)設(shè)計更好的算法用于生成視頻、音頻、圖像和文本的同時，也在創(chuàng)建逆向算法來檢測合成內(nèi)容。如今，這種檢測通常著眼于特制工具的細微特征；未來，它將越來越多地依賴于基礎(chǔ)的物理和生物信號，這些是人工智能很難仿造的。

這些數(shù)字幻影生成器和檢測器會陷入軍備競賽，這也是完全有可能的?！霸谶@方面，它永遠不會終止?！币獯罄遣焕账狗评锏吕锟说诙髮W的計算機科學家路易莎?威爾多利瓦（Luisa Verdoliva）說。

這些數(shù)字幻影生成器和檢測器完全有可能陷入軍備競賽。

2022年11月，英特爾推出了一款名為“實時深度偽造檢測器”的視頻分析平臺。（“深度偽造”這一詞源于深度學習，深度學習是一個使用多層人工神經(jīng)網(wǎng)絡(luò)的人工智能領(lǐng)域。）英特爾的研究員伊爾克?德米爾（Ilke Demir）說，可能的客戶包括社交媒體公司、廣播公司和可以向公眾提供檢測器的非政府組織。英特爾表示，該系統(tǒng)由英特爾硬件和軟件組成，基于互聯(lián)網(wǎng)的平臺可遠程運行這些硬件和軟件，每個英特爾處理器一次可分析72個視頻流。該公司表示，最終，其平臺將提供多種檢測工具。目前，該公司使用了一種名為FakeCatcher的檢測器，這是德米爾與紐約賓漢頓大學的烏穆爾?西夫西（Umur ?ift?i）共同創(chuàng)建的。

FakeCatcher研究根據(jù)面部顏色變化來推斷血液流動，這一過程稱為光容積脈搏波描記（PPG）。研究人員設(shè)計的該款軟件關(guān)注特定面部區(qū)域的特定模式?！皬哪撤N意義上來說，光容積脈搏波描記信號很特別，它們遍布人的皮膚，”德米爾說，“而不僅僅是眼睛或嘴唇。改變照明并不能消除它們。但是任何生成性的操作實際上都會消除它們，因為添加的噪聲類型會破壞空間、光譜和時間的相關(guān)性?！睋Q言之，F(xiàn)akeCatcher能夠證實，隨著心臟泵血，顏色會隨著時間的推移自然變化，在面部區(qū)域有一致性。最初于2020年7月發(fā)表在《IEEE模式分析與機器智能匯刊》（IEEE Transactions on Pattern Analysis and Machine Intelligence）上的一項早期技術(shù)測試中，該檢測器實現(xiàn)了91%的準確率，比次優(yōu)系統(tǒng)高出近9個百分點。 當新的檢測方法出現(xiàn)時，有人可以經(jīng)常訓練生成算法來欺騙它。德米爾說，F(xiàn)akeCatcher不容易被逆向工程用于訓練生成器，因為人體細密紋理的血流模式很難被人工模擬。

加州大學圣芭芭拉分校電氣工程博士、論文合著者邁克爾?戈貝爾（Michael Goebel）指出，檢測方法多種多樣?！霸谝环N極端情況下，你的方法不受約束，只是純粹的深度學習?！边@意味著它們可以使用所有可用的數(shù)據(jù)?！傲硪环N極端情況下，你的方法好像在分析一個特定的視角。我們的方法居于二者之間。”他們的系統(tǒng)名為PhaseForensics，該系統(tǒng)關(guān)注的是嘴唇，據(jù)此提取不同頻率的運動信息，然后將這些摘要數(shù)據(jù)提供給神經(jīng)網(wǎng)絡(luò)。“利用運動的自身特征，我們希望對神經(jīng)網(wǎng)絡(luò)學習的內(nèi)容進行某種程度的硬編程?！备曦悹栒f。

音頻深度偽造也成為了一個問題。2023年1月，有人上傳了一段女演員艾瑪?沃森朗讀希特勒《我的奮斗》的虛假音頻片段。研究人員也研究了這個案例。在一種方法中，佛羅里達大學的科學家開發(fā)了一種模擬人類聲道的系統(tǒng)。該模型以數(shù)字方式構(gòu)建了一個發(fā)聲氣道，其管道的孔徑可根據(jù)長度而變化，該模型可使用該結(jié)構(gòu)來預測聲音。給定一個可疑的音頻樣本，模型會判定它在生物學上是否合理。該論文報告顯示，一個數(shù)據(jù)集的準確率為99%。

為了打擊深度偽造，該算法不需要對特定算法生成的深度偽造音頻進行采樣。那不勒斯大學的威爾多利瓦開發(fā)了另一類算法。在訓練過程中，該算法學習尋找講話者的生物識別標志。訓練完成后，算法可在給定講話者的錄音中，使用其學習到的技術(shù)來尋找生物識別標志，然后在有問題的錄音中尋找該識別標志。

威爾多利瓦的團隊還研究了識別生成的圖像和被修改的圖像，無論圖像是用人工智能還是用Adobe Photoshop修改的。該團隊用1475臺相機的照片訓練了一個名為TruFor的系統(tǒng)，該系統(tǒng)學會了識別這些相機留下的識別標志類型。在檢測新圖像時，該系統(tǒng)能夠識別出圖像各部分之間的不匹配情況。

如今，高中生經(jīng)常制作人工智能生成內(nèi)容，從而提升了文本生成系統(tǒng)ChatGPT撰寫論文的能力。有一種解決方案是讓這些被稱為大型語言模型的系統(tǒng)的創(chuàng)建者在生成的文本上加上水印。最近，馬里蘭大學的研究人員提出了一種方法：隨機創(chuàng)建一組詞匯綠色名單；然后，在自己的作品中略微偏愛使用這些詞匯。如果你知道這個（秘密）詞匯綠色名單，你就可以在一段文章中尋找其優(yōu)勢，以證明該段文章來自算法。這種做法存在一個問題：強大的語言模型越來越多，我們不能指望所有的語言模型都給其輸出加上水印。

普林斯頓大學的學生愛德華?田（Edward Tian）創(chuàng)建了一個名為GPT-Zero的工具，該工具可以查找Chat-GPT編寫文本的痕跡，即使沒有水印也可以。人傾向于選擇更令人驚訝的單詞，而且句子長度的波動很大。不過GPTZero似乎有局限性。一位用戶對GPTZero進行了一次小測試，在10篇由人工智能撰寫的文本中，它能正確地將10篇標記為合成文本，但在10篇由人撰寫的文本中，它錯誤地將8篇標記為了合成文本。

合成文本檢測可能遠遠落后于其他媒介的檢測。馬里蘭大學計算機科學副教授湯姆?金斯坦（Tom Goldstein）是水印論文的合著者，他表示，這是因為人們使用語言時有很多種不同的方式，而且通常沒有太大的數(shù)據(jù)量。一篇短文可能只有幾百個單詞，而圖片則有幾百萬個像素，單詞是離散的，不同于像素顏色中的細微變化。

檢測合成內(nèi)容事關(guān)重大。它可用來影響教師、法院或選民，也可以產(chǎn)生羞辱性的或令人不安的內(nèi)容。僅僅是深度偽造的想法就可以削弱人們對媒體的信任。德米爾稱這種未來是“反烏托邦的”。她說，短期內(nèi)，我們需要的是檢測算法。從長遠來看，我們還需要協(xié)議來建立起源，可能涉及水印或區(qū)塊鏈。

談到檢測方法，威爾多利瓦說：“人們希望有一種神奇的工具，它能夠完美地完成每件事，甚至能夠進行解釋?！边@種東西是不存在的，而且可能永遠不會出現(xiàn)。“我們需要多種工具?！奔词箼z測器能夠戳破深度偽造，內(nèi)容在消失前依然會在網(wǎng)絡(luò)上短暫地留存。它會產(chǎn)生影響。因此，威爾多利瓦說，僅僅依靠技術(shù)是不能拯救我們的。相反，人們需要找到方法來適應(yīng)這個新的、充滿非真實性的現(xiàn)實世界。

作者：Matthew Hutson

編輯：黃飛