淺析人工智能偽造技術(shù)對社會安全的威脅

人工智能的發(fā)展應(yīng)用如火如荼，但其誤用、錯用、濫用甚至惡意使用所帶來的安全問題不可小視！

近期，美歐多國開發(fā)出多種基于人工智能的新興偽造技術(shù)。該技術(shù)偽裝性強(qiáng)、欺騙性高、難以監(jiān)管且相關(guān)成果正在不斷涌現(xiàn)，可用于社會生產(chǎn)生活及國家治理等各個方面，或?qū)ξ覈野踩珮?gòu)成嚴(yán)峻威脅。

“人工智能偽造技術(shù)”以假亂真

人工智能偽造技術(shù)是指利用人工智能在深度學(xué)習(xí)、大數(shù)據(jù)處理語言識別、圖像識別、自然語言處理等方面的強(qiáng)大功能，偽造社會生活中人體指紋、語音等生理特征及合成虛假音頻、視頻等媒體文件的技術(shù)?，F(xiàn)階段的人工智能已經(jīng)可以偽造個人筆跡、聲音、動畫以及視頻等，且仿真度極高。

偽造筆跡方面，英國UCL大學(xué)研究人員開發(fā)出“My text in your hand writing”人工智能算法，能夠分析一個人的字形及其特殊的書寫方式，生成字形、字號、顏色、筆線紋理、垂直及水平間距等完全相同的筆跡，達(dá)到完美偽造。

偽造語音方面，谷歌Deepmind公司開發(fā)出 “WaveNet”軟件，可利用其神經(jīng)網(wǎng)絡(luò)系統(tǒng)對原始音頻波形進(jìn)行建模，生成帶有強(qiáng)調(diào)性音節(jié)、抑揚(yáng)頓挫和體現(xiàn)情緒的目前世界上最接近人類自然語言的音頻。加拿大Lyrebird公司正在開發(fā)一種深度學(xué)習(xí)算法，使任何人都可以使用任何其他人的聲音偽造出令人驚訝的逼真演講。目前該公司已利用該技術(shù)仿造出特朗普、奧巴馬及克林頓等人的聲音進(jìn)行演講。此外，Adobe公司的 Project VoCo軟件可以識別出一段語音中的文字，之后針對語音中的文字進(jìn)行編輯和修改，生成音色和音調(diào)與本人完全一樣的語音。

偽造視頻方面，美國華盛頓大學(xué)研究人員開發(fā)出“可偽造真人視頻”的人工智能技術(shù)，成功將聲音片段合成轉(zhuǎn)化為對應(yīng)的口型，并將該口型嫁接到視頻中的人臉上，成功偽造出口型一致的虛假視頻。研究人員演示了美國前總統(tǒng)奧巴馬在多個場景下談?wù)?**的視頻，其口型完全一致，難辨真假。此外，該技術(shù)還可以實(shí)現(xiàn)小幅時移，使神經(jīng)網(wǎng)絡(luò)預(yù)測說話者接下來所要表達(dá)的內(nèi)容。

引發(fā)嚴(yán)重的國家安全和社會穩(wěn)定問題

“人工智能偽造技術(shù)”或擾亂正常的社會生活和管理秩序，引發(fā)嚴(yán)重的社會安全問題

“人工智能偽造技術(shù)”對社會秩序的各個層面構(gòu)成了嚴(yán)重威脅。在社會生活層面，“人工智能偽造技術(shù)”使日常生活所用的合同、契約、證書及相關(guān)法律文本的防偽鑒定面臨新的困難。在涉及公民、法人和組織切身利益和財(cái)產(chǎn)安全的重要問題上，該技術(shù)帶來了諸多不確定性的挑戰(zhàn)。在司法層面，“人工智能偽造技術(shù)”將可用于偽造證人證言、視聽資料、電子數(shù)據(jù)及鑒定意見等虛假證據(jù)，為司法證據(jù)的鑒定采用和非法證據(jù)排除帶來了新的困難，對社會公正和社會穩(wěn)定帶來極大的挑戰(zhàn)。在公共安全層面，“人工智能偽造技術(shù)”為不法分子從事違法犯罪活動提供了便利條件。例如，不法分子出于擾亂社會治安或敲詐勒索等目的，可利用該技術(shù)制作高逼真度的殺人、綁架、爆炸等嚴(yán)重暴力犯罪的音頻視頻，將對社會穩(wěn)定構(gòu)成嚴(yán)重威脅。

“人工智能偽造技術(shù)”用于社交媒體或?yàn)閲鴥?nèi)外分裂、恐怖勢力提供新的工具

社交媒體上的資訊傳播速度快、范圍廣、成本風(fēng)險低、易于聚攏共識等特點(diǎn)，其社會動員能力強(qiáng)大，已成為分裂、恐怖勢力傳播極端思想、煽動不安情緒甚至制造分裂、***的重要媒介。***“***”事件中，“學(xué)運(yùn)”分子在社交媒體上被塑造成“意識形態(tài)先遣隊(duì)”和“覺醒的政治力量”，加劇了***青少年的分裂思潮。Facebook中充滿了“警察***、***”等片面的消息以及很多血腥暴力的虛假圖片，激發(fā)了觀者的負(fù)面情緒，加劇了“***”事件的擴(kuò)大升級。與此同時，近年來“***”組織嫻熟地利用社交媒體宣傳“***”思想，招募我國***地區(qū)的“***”活動分子，使其自發(fā)前往土耳其、敘利亞伊拉克等地參加***培訓(xùn)，并企圖回國開展***活動。此外，卡塔爾近期的“外交危機(jī)”也是由社交媒體引起，黑客組織通過入侵卡塔爾通訊社網(wǎng)站并偽造國家元首埃米爾?塔米姆的講話，聲稱支持伊朗和巴勒斯坦******哈馬斯，批評美國和沙特阿拉伯，并譴責(zé)對卡塔爾支持***的有關(guān)指控，導(dǎo)致嚴(yán)重的外交危機(jī)。

對我啟示

“人工智能偽造技術(shù)”的出現(xiàn)，尤其是對筆跡、音頻、視頻的高逼真度偽造，為分裂、恐怖勢力偽造領(lǐng)導(dǎo)人發(fā)布虛假聲明、簽署虛假命令、遭遇不測等虛假視頻提供了便利條件。這些虛假視頻一旦流入社交媒體，將在短時間內(nèi)迅速擴(kuò)散，煽動強(qiáng)烈的社會不安情緒。

“人工智能偽造技術(shù)”已引起美國的關(guān)注。新美國安全中心發(fā)布的《人工智能與國家安全》報告中，明確將人工智能偽造技術(shù)列為威脅國家安全的重點(diǎn)技術(shù)，建議美國防部和情報部門成立專門的人工智能安全組織，并由國家安全局牽頭開發(fā)針對該技術(shù)的應(yīng)對方法。我國同樣面臨人工智能偽造技術(shù)帶來的現(xiàn)實(shí)威脅，應(yīng)趁該威脅尚處萌芽階段及早布局，通過政策管理和技術(shù)限制等途徑積極應(yīng)對其潛在風(fēng)險。