人工智能生成技術(shù)的深度偽造技術(shù)的挑戰(zhàn)

深度偽造（Deepfake）是一種合成媒體形式，它使用人工智能來創(chuàng)建看似真實的視頻或圖像。目前，深度偽造技術(shù)已被用于影視制作等各種場景，但同時引發(fā)了人們對其可能被濫用于惡意目的的擔(dān)憂，如傳播錯誤信息和操縱輿論。2022年以來，隨著ChatGPT、文心一言等生成式人工智能模型的不斷進(jìn)步和趨于成熟，人工智能技術(shù)引發(fā)強(qiáng)烈關(guān)注。目前，人工智能生成的虛假音視頻已經(jīng)能夠達(dá)到以假亂真的地步，成功實施的欺騙案例日漸增多。面對這一情形，各國已從立法、技術(shù)手段加以應(yīng)對。但是，深度偽造與反深度偽造仍將是“貓追老鼠”的長期博弈，人工智能技術(shù)持續(xù)進(jìn)步產(chǎn)生的深度偽造風(fēng)險將與日俱增，需要持續(xù)關(guān)注與應(yīng)對。

一、生成式人工智能模型展現(xiàn)出驚人能力，或擴(kuò)大深度偽造的風(fēng)險

深度偽造這一概念最早出現(xiàn)在2016年，一開始專指基于深度學(xué)習(xí)的人像合成技術(shù)，現(xiàn)在這一概念已經(jīng)擴(kuò)展到視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)合成技術(shù)。

當(dāng)下，以Midjourney、DALL-E、Stable Diffusion等為代表的專業(yè)生成式人工智能模型，能夠通過用戶輸入的圖像和文字生成以假亂真的圖像。生成式人工智能的進(jìn)步對深度偽造技術(shù)領(lǐng)域具有重大影響，因為它可能有能力生成與現(xiàn)實難以區(qū)分的高度可信的假視頻、圖像和音頻。這可能會使識別和防止深度偽造內(nèi)容傳播變得更加困難。

隨著人工智能模型創(chuàng)作虛假視頻的逼真程度不斷提高，深度偽造技術(shù)日益被視為“巨大的社會威脅”。例如，一個名為ModelScope的新型創(chuàng)意人工智能系統(tǒng)現(xiàn)在已經(jīng)可以根據(jù)文本提示制作短視頻。有網(wǎng)絡(luò)用戶使用ModelScope創(chuàng)作了馬克龍在巴黎街頭拾荒的虛假視頻片段。2023年4月，在拜登宣布有意再次競選美國總統(tǒng)后，共和黨全國委員會用基于人工智能生成的廣告對拜登進(jìn)行了攻擊，使用人工智能生成了一系列虛假圖像，虛構(gòu)了拜登連任后美國經(jīng)濟(jì)崩潰、非法移民猖獗和犯罪浪潮迭起等情形。5月，一張五角大樓爆炸的人工智能偽造圖片在網(wǎng)絡(luò)上廣泛傳播?？梢姡蜗嚓P(guān)的偽造圖片容易產(chǎn)生較高的熱度，未來可能進(jìn)一步成為人工智能造假的“重災(zāi)區(qū)”。

二、日益嚴(yán)重的深度偽造安全問題引發(fā)廣泛重視

（一）深度偽造安全問題引發(fā)重視，政策先行

深度偽造可能被用制作虛假信息，對社會安全構(gòu)成了多方面的威脅，因此引發(fā)了各經(jīng)濟(jì)體重視。中國、美國和歐盟等經(jīng)濟(jì)體已推出相關(guān)政策措施來應(yīng)對深度偽造風(fēng)險。

中國方面，2021年起，國家網(wǎng)信辦、國家發(fā)改委、教育部、科技部、工信部、公安部、市場監(jiān)管總局、廣電總局等有關(guān)主管部門已出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，對計算機(jī)合成內(nèi)容進(jìn)行管控?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》要求對算法生成合成的信息做顯著標(biāo)識，并要求提供互聯(lián)網(wǎng)新聞信息服務(wù)的算法推薦服務(wù)提供者和使用者，不得生成合成虛假新聞信息?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》則更加細(xì)致地規(guī)定了包括智能對話、智能寫作、人臉生成、人臉操控、姿態(tài)操控等具有生成或顯著改變信息內(nèi)容功能的深度合成服務(wù)應(yīng)當(dāng)遵守的要求，包括以顯著標(biāo)識的形式向公眾提示。7月最新發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》進(jìn)一步對生成式人工智能的開發(fā)與使用等進(jìn)行規(guī)范，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

美國方面，美國眾議員亞當(dāng)·希夫（Adam Schiff）等人在2018年致時任國家情報總監(jiān)丹·科茨（Dan Coats）的信中，首次對深度偽造技術(shù)于美國公共輿論和國家安全造成的威脅提出警告。據(jù)央視報道，僅在2022年，美國就發(fā)生了240萬起人工智能相關(guān)詐騙案。近年來，隨著人工智能生成虛假信息的進(jìn)一步蔓延傳播并廣泛用于實施欺騙行為，美國加強(qiáng)立法監(jiān)管。2023年5月，在共和黨全國委員會發(fā)布了生成式人工智能制作的政治廣告后，美國眾議員伊維特·克拉克（Yvette Clarke）提出了《真實的政治廣告法案》（The REAL Political Ads Act），對競選廣告提出人工智能生成內(nèi)容披露要求。6月，美國眾議員里奇·托雷斯(Ritchie Torres)提出《人工智能披露法案》（The AI Disclosure Act），提議在任何人工智能生成的內(nèi)容中添加披露聲明。

歐盟方面，歐盟于2022年6月更新《反虛假信息行為準(zhǔn)則》（Code of Practice on Disinformation），要求社交媒體公司從其平臺上刪除深度偽造和其他虛假信息，否則將處以高達(dá)公司全球營收6%的罰款。歐盟《數(shù)字服務(wù)法》(The Digital Services Act，DSA)也要求平臺展示舉報和刪除非法內(nèi)容的機(jī)制。

（二）識別深度偽造的技術(shù)手段正不斷進(jìn)步

隨著深度偽造內(nèi)容變得越來越復(fù)雜，研究人員正開發(fā)更好的方法，以便準(zhǔn)確發(fā)現(xiàn)它們。例如，利用棋盤偽影、共現(xiàn)矩陣等方法，可檢測生成對抗網(wǎng)絡(luò)（GAN）生成的虛假視頻；利用面部特征檢測等方法，可檢測以換臉方式偽造的視頻；利用信息的多模態(tài)特征，可檢測由多種信息組合而成的假新聞等。美國國防部資助了大量檢測虛假信息的研究。例如，美國國防部高級研究計劃局（DARPA）于2020年7月發(fā)起“對欺騙的逆向工程”（Reverse Engineering of Deceptions，RED）項目，旨在運(yùn)用人工智能技術(shù)，對深度偽造視頻、照片、音頻、文字及其制造這些內(nèi)容的工具鏈進(jìn)行逆向工程分析。在檢測包含人物的深度偽造畫面方面，研究機(jī)構(gòu)主要通過面部特征來識別深度偽造。美國紐約州立大學(xué)奧爾巴尼和布法羅分校聯(lián)合研究團(tuán)隊通過瞳孔形狀識別深度偽造；美國紐約州立大學(xué)布法羅分校通過眼球反射的光線識別深度偽造；美國紐約州立大學(xué)賓漢頓分校和英特爾公司提出使用血氧儀原理識別深度偽造。對于人工智能生成的文字，美國堪薩斯大學(xué)研究人員介紹了一種算法，識別人工智能生成段落的準(zhǔn)確率達(dá)到92%以上。此外，微軟公司希望在畫面生成時即進(jìn)行注明，將通過標(biāo)記元數(shù)據(jù)的方式幫助用戶識別人工智能生成的圖像與視頻。

（三）深度偽造或成為一種潛在的國際沖突對抗手段

在意識到深度偽造技術(shù)的強(qiáng)大破壞力后，某些國家或正在考慮將深度偽造技術(shù)作為沖突中的對抗手段，從而維護(hù)自身的政治外交利益。2023年1月，美國智庫布魯金斯學(xué)會發(fā)布《深度偽造與國際沖突》（Deepfakes and International Conflict）報告。該報告指出，隨著人工智能技術(shù)進(jìn)步、計算成本不斷下降，深度造假技術(shù)在武裝沖突期間對在線信息環(huán)境構(gòu)成越來越大的挑戰(zhàn)。一國可以偽造沖突方軍事領(lǐng)導(dǎo)人的音視頻指令，在公眾和武裝部隊中制造混亂。例如，俄烏沖突初期，一條關(guān)于烏克蘭總統(tǒng)澤連斯基的深度偽造視頻在社交平臺廣為流傳。為此，布魯金斯學(xué)會建議：美國及其盟友的安全官員和政策制定者更深入地了解該技術(shù)的工作原理，以及它在國際武裝沖突中的多種使用方式；在部署深度偽造技術(shù)前需充分評估收益和風(fēng)險，并借鑒現(xiàn)有的國際規(guī)范和先例，為政府使用深度偽造技術(shù)制定行為準(zhǔn)則。

布魯金斯學(xué)會的報告表明，某些國家內(nèi)部可能存在一種聲音，支持使用深度偽造技術(shù)來進(jìn)行域外的信息干擾、虛假信息傳播等行動，強(qiáng)化其信息優(yōu)勢，從而更好地實現(xiàn)其外交目標(biāo)。若未來這一想法得到貫徹和推廣，將對全球政治安全和穩(wěn)定產(chǎn)生嚴(yán)重沖擊。

三、深度偽造治理面臨的挑戰(zhàn)

深度偽造技術(shù)的發(fā)展引發(fā)了長期的動態(tài)博弈，這使得識別真實和虛假內(nèi)容變得愈發(fā)困難。需要進(jìn)行長期思考和探索如何防止這種技術(shù)的濫用。

（一）監(jiān)管和立法有待進(jìn)一步加強(qiáng)

治理深度偽造技術(shù)的前提是對人工智能技術(shù)進(jìn)行合理、有效的監(jiān)管。當(dāng)前，全球主要經(jīng)濟(jì)體和聯(lián)合國已充分認(rèn)識到監(jiān)管人工智能的重要性。我國已前瞻性出臺相關(guān)法律法規(guī)；美國政府正聽取多方意見，醞釀人工智能監(jiān)管立法，并同意應(yīng)建立人工智能監(jiān)管機(jī)構(gòu)；歐盟出臺人工智能監(jiān)管臨時政治協(xié)議，并正在就《人工智能法案》（The AI Act）進(jìn)行最終談判；聯(lián)合國表態(tài)支持建立一個類似于國際原子能機(jī)構(gòu)的國際人工智能監(jiān)管機(jī)構(gòu)。面向未來風(fēng)險的治理，需要長遠(yuǎn)考量如何監(jiān)管和解決與人工智能技術(shù)相關(guān)的潛在風(fēng)險，讓技術(shù)更好地為創(chuàng)新和生產(chǎn)力提升所用，需要通過法律法規(guī)來為人工智能的發(fā)展和應(yīng)用設(shè)置安全底線。

（二）監(jiān)管科技亟待進(jìn)步

在完善監(jiān)管政策的同時，監(jiān)管者也需要利用更好的工具來檢測和防止深度偽造。人工智能工具不斷增強(qiáng)的模態(tài)識別能力有望為監(jiān)管打造強(qiáng)有力的技術(shù)工具。例如，運(yùn)用圖像處理技術(shù)、多模態(tài)分析技術(shù)、建立深度偽造數(shù)據(jù)集、使用防偽技術(shù)，都能在一定程度上有效地檢測深度偽造。當(dāng)前，換臉視頻、機(jī)器寫作等大多數(shù)的深度偽造內(nèi)容都是較為粗糙、容易被檢測出的，但深度偽造技術(shù)也在不斷發(fā)展，未來將更加難以識別。因此，對抗深度偽造需要持續(xù)的研究和技術(shù)創(chuàng)新。

（三）深度偽造與識別將是長期動態(tài)博弈

深度偽造的傳播和識別，將始終像“貓追老鼠”一樣，是一個不斷發(fā)展、制衡的過程。不能“一刀切”式地禁用深度偽造技術(shù)，否則將極大影響技術(shù)創(chuàng)新和應(yīng)用拓展。一方面，深度偽造技術(shù)的提供者和使用者應(yīng)樹立責(zé)任意識。2023年5月，美國OpenAI公司首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）出席美國國會聽證會時表示，同意對人工智能進(jìn)行基于風(fēng)險的監(jiān)管。同月，抖音集團(tuán)發(fā)布關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)協(xié)議，其中提到用戶在抖音平臺發(fā)布信息時，需要對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識，以及對生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)。另一方面，還需要培養(yǎng)公眾的數(shù)字素養(yǎng)，提高公眾對深度偽造的認(rèn)識和辨別能力。通過社會各界的努力，來共同控制深度偽造的風(fēng)險，讓技術(shù)服務(wù)于創(chuàng)新與生產(chǎn)力進(jìn)步。

編輯：黃飛

?