人工智能秒變臉 需防范AI“野蠻生長(zhǎng)”

核心提示：AI“換臉”爆紅背后，一方面是人們對(duì)于新技術(shù)的好奇；另一方面，卻是普通人在不知情時(shí)被“換臉”的擔(dān)憂。人工智能技術(shù)要進(jìn)一步發(fā)展，還需盡快厘清其在法律、倫理等方面的界限。

資料圖。 CFP/ 供圖

2月底，網(wǎng)友利用人工智能技術(shù)制作的楊冪和朱茵“換臉”視頻，被頂上了微博熱搜。視頻火爆背后，網(wǎng)友一邊感嘆人工智能之強(qiáng)大，一邊也不得不為之擔(dān)憂。

未經(jīng)本人同意“換臉”，是否構(gòu)成侵權(quán)？如果視頻流傳網(wǎng)絡(luò)，是否會(huì)損害當(dāng)事人名譽(yù)？更重要的是，人工智能已具備某些自主能力，以后是不是也可以作為侵權(quán)的責(zé)任主體？

近年來，隨著這項(xiàng)技術(shù)的飛速發(fā)展，對(duì)于其背后隱藏的法律和倫理問題，越來越受到公眾關(guān)注。

今年的全國兩會(huì)上，這一話題依然熱度不減。AI醫(yī)療、自動(dòng)駕駛以及人工智能倫理問題，都在代表委員議案提案和討論中不斷被提及。

人工智能“換臉術(shù)”

不久前，一條短視頻在網(wǎng)絡(luò)上迅速走紅，視頻中，1994年版《射雕英雄傳》中黃蓉的飾演者，從朱茵換成了楊冪，而且表情神態(tài)契合度很高。

若單論“換臉”，在影視行業(yè)中，這樣的“移花接木”并不鮮見。能夠?qū)崿F(xiàn)視頻換臉的技術(shù)也有很多種。電影《速度與激情7》中，就應(yīng)用一種“替身+動(dòng)態(tài)捕捉+CGI動(dòng)畫”的方式，讓已經(jīng)去世的保羅·沃克“回歸”。

而這次引起熱議的換臉視頻則有些不同，該視頻是一位名為“換臉哥”的網(wǎng)友，用人工智能技術(shù)獨(dú)自完成的。

當(dāng)下，“人工智能”越來越成為科技領(lǐng)域一個(gè)舉足輕重的關(guān)鍵詞。從阿爾法狗接連打敗人類棋手李世石、柯潔，到人臉識(shí)別技術(shù)的大量應(yīng)用、自動(dòng)駕駛汽車上路等等，這項(xiàng)技術(shù)已經(jīng)融入智能家居、智能醫(yī)療、智能交通等日常生活的各個(gè)方面。

雖然對(duì)于國內(nèi)公眾來說，AI“換臉”不常見，但是對(duì)這種技術(shù)的研究應(yīng)用，專業(yè)人士幾年前就開始了探索。

2016年，紐倫堡大學(xué)一位教授研發(fā)出了一款名為Face2Face的應(yīng)用，可以通過攝像頭進(jìn)行臉部追蹤，實(shí)現(xiàn)實(shí)時(shí)“換臉”，讓視頻中的人跟著使用者說話。

這一應(yīng)用問世后，許多人擔(dān)心這一技術(shù)會(huì)成為網(wǎng)絡(luò)詐騙，綁架等違法行為的幫兇。不過目前，F(xiàn)ace2Face還只提供特定人物影像供人們?cè)囉茫瑳]有看到其造成社會(huì)危害。

把這一技術(shù)徹底用“歪”的，是一個(gè)ID名為deepfakes的網(wǎng)友。2017年12月，deepfakes利用人工智能技術(shù)，將《神奇女俠》的扮演者蓋爾·加朵的臉，換到了色情影片女主角上。其后，更是有眾多國內(nèi)外女明星慘遭其“毒手”，被換臉到色情影片中。

這一技術(shù)的教程和深度學(xué)習(xí)代碼、數(shù)據(jù)集等，也被其公開，有網(wǎng)友甚至還利用這些資料開發(fā)出了App應(yīng)用。因?yàn)檫@一應(yīng)用極大地沖擊了人們的倫理觀念并且涉嫌侵權(quán)，deepfakes創(chuàng)建的網(wǎng)絡(luò)社區(qū)后來被封禁。

在國內(nèi)，在朱茵“換臉”楊冪的視頻之前，也有一段同類視頻在網(wǎng)上流傳：某直播平臺(tái)女主播“阿冷”的唱歌視頻，在網(wǎng)友的創(chuàng)作下，先后“換臉”劉亦菲、楊冪、唐嫣、范冰冰等眾多明星，部分片段幾乎難以識(shí)別出破綻。

普通人也能被“換臉”？

《射雕英雄傳》“換臉”視頻在網(wǎng)上走紅之后，引發(fā)了一部分人的擔(dān)憂：明星可以被人換臉，是不是意味著普通人的臉也能換？

中國傳媒大學(xué)計(jì)算機(jī)與網(wǎng)絡(luò)空間安全學(xué)院副教授馮爽肯定了這一說法。不過，她同時(shí)也表示，對(duì)普通人而言，換臉技術(shù)仍然存在使用門檻。

“組建一臺(tái)最低檔配置的人工智能機(jī)器，成本在人民幣五六萬元左右，而如果是大型公司或者機(jī)構(gòu)較為精密的人工智能設(shè)備，價(jià)格則在人民幣百萬元以上。”馮爽說。

換臉視頻的制作者“換臉哥”本人也對(duì)這個(gè)視頻進(jìn)行了回應(yīng)：“因?yàn)锳I神經(jīng)網(wǎng)絡(luò)有一定的準(zhǔn)入門檻，比如云服務(wù)器一個(gè)小時(shí)40塊錢，起步要做7天?！彼诮邮苊襟w采訪時(shí)表示，楊冪換臉的視頻，他做了大約一個(gè)月左右。

此外，馮爽解釋說，制作換臉視頻，首先要獲得大量換臉對(duì)象雙方的照片數(shù)據(jù)，來對(duì)人工智能模型進(jìn)行訓(xùn)練。

對(duì)于所需照片，也有很嚴(yán)苛的要求：不僅需要有不同角度、不同表情，還需要有經(jīng)過扭曲變形的本人照片；如果是從視頻中截取圖片，還需要用到人臉識(shí)別技術(shù)，清除桌椅陳設(shè)等無關(guān)背景。

因此，馮爽認(rèn)為，對(duì)于普通人而言，視頻制作者很難獲取到其足夠數(shù)量的合格照片，即使制作出換臉視頻，也比較粗糙，很容易被識(shí)別出來。相反，由于明星在公眾場(chǎng)合出現(xiàn)較為頻繁，對(duì)他們進(jìn)行換臉，相對(duì)就容易得多。

此外，AI換臉帶來的另一個(gè)問題，則是其是否會(huì)威脅到人臉支付安全。

之江實(shí)驗(yàn)室人工智能研究院技術(shù)負(fù)責(zé)人單海軍在接受媒體采訪時(shí)認(rèn)為，目前使用人臉識(shí)別技術(shù)完成支付等手段，通常使用“活體檢測(cè)”，也就是說，刷臉背后系統(tǒng)還會(huì)檢測(cè)是否是真人，AI換臉技術(shù)也就不會(huì)對(duì)這一類支付行為產(chǎn)生威脅。

而馮爽則表示，目前生物識(shí)別技術(shù)還不太成熟，當(dāng)下AI“換臉”技術(shù)的發(fā)展，還是可能對(duì)人臉識(shí)別應(yīng)用產(chǎn)生一定影響，所以可以借助短信驗(yàn)證碼等手段輔助人臉支付。此外，目前國內(nèi)外也都在研究“反AI換臉”的檢測(cè)工具，并且取得了一定成效。

需防范AI“野蠻生長(zhǎng)”

除了對(duì)人工智能帶來的技術(shù)挑戰(zhàn)，人工智能背后的法律和倫理問題，也受到公眾密切關(guān)注。未經(jīng)本人同意就進(jìn)行“換臉”，是否已經(jīng)構(gòu)成侵權(quán)？

西南政法大學(xué)民商法學(xué)院院長(zhǎng)趙萬一接受民主與法制社記者采訪時(shí)表示，前述“換臉”視頻首先侵犯了朱茵和楊冪的肖像權(quán)。但是由于該視頻很難認(rèn)定為是出于商業(yè)使用或者推廣相關(guān)程序等目的，所以對(duì)于是否侵犯1994年版《射雕英雄傳》的著作權(quán)，還有待商榷。

AI換臉視頻的制作者“換臉哥”也意識(shí)到了侵權(quán)問題。2月27日，其在微博上發(fā)布了道歉聲明并下架了相關(guān)視頻，他在聲明中說：“AI換臉應(yīng)該被以正確的方式對(duì)待，大家應(yīng)該尊重版權(quán)與肖像權(quán)，專注于技術(shù)本身。”

未經(jīng)當(dāng)事人允許進(jìn)行換臉，構(gòu)成了很明顯的侵犯肖像權(quán)。而此前，對(duì)于人工智能是否侵權(quán)問題的討論，由來已久。

“大數(shù)據(jù)時(shí)代，個(gè)人隱私受侵害的可能性太大了?！壁w萬一表示，當(dāng)下，以手機(jī)App為例，政府形態(tài)、企業(yè)形態(tài)、征信機(jī)構(gòu)、金融服務(wù)機(jī)構(gòu)等各類App，都要求提供大量信息，這種個(gè)人信息的搜集一旦形成大數(shù)據(jù)之后，都可以實(shí)現(xiàn)對(duì)人的行為軌跡、愛好取向等進(jìn)行分析。

另外，對(duì)于人工智能民事主體地位的認(rèn)定，即人工智能可不可以認(rèn)定為“人”，在國內(nèi)外也存在很大爭(zhēng)議。

2017年10月26日，沙特阿拉伯授予香港漢森機(jī)器人公司生產(chǎn)的機(jī)器人索菲亞公民身份，這是人類歷史上首個(gè)獲得公民身份的機(jī)器人。

“如果承認(rèn)AI是人，就帶來一個(gè)比較大的問題。”趙萬一說，人除了具有行為能力，還要具有承擔(dān)責(zé)任的能力，法律要對(duì)其進(jìn)行約束，人工智能當(dāng)下還是一種產(chǎn)品，對(duì)它進(jìn)行懲罰，起不到實(shí)質(zhì)效果。

但是，如果人工智能本身不能作為責(zé)任主體，那么一旦發(fā)生侵權(quán)問題，人工智能的設(shè)計(jì)人、使用人，還有很多相關(guān)人，誰該來承擔(dān)相關(guān)責(zé)任，也是法律界在探討的問題。

對(duì)于當(dāng)下人工智能行業(yè)的發(fā)展，趙萬一建議，對(duì)其應(yīng)用范圍、生產(chǎn)和設(shè)計(jì)等方面，應(yīng)出臺(tái)基本規(guī)制和要求。另外人工智能的發(fā)展也可以效仿醫(yī)療行業(yè)，建立倫理委員會(huì)，涉及倫理問題，必須要經(jīng)過其審批。

趙萬一認(rèn)為，行業(yè)自治也是一條規(guī)范人工智能發(fā)展的重要途徑?！皬臉I(yè)人員對(duì)人工智能更有發(fā)言權(quán)，他們出臺(tái)帶有自治性的規(guī)范標(biāo)準(zhǔn)，自我約束，也可以防止人工智能野蠻生長(zhǎng)、不當(dāng)發(fā)展對(duì)社會(huì)可能產(chǎn)生的災(zāi)難性后果?！?/p>

此外，對(duì)人工智能的法律規(guī)范工作，我國也已經(jīng)提上了日程。

3月4日，十三屆全國人大二次會(huì)議發(fā)言人張業(yè)遂在新聞發(fā)布會(huì)上表示，人工智能技術(shù)是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，但是人工智能技術(shù)的應(yīng)用具有不確定性，可能會(huì)給人類社會(huì)帶來新挑戰(zhàn)。全國人大常委會(huì)已將數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等與人工智能密切相關(guān)的立法項(xiàng)目，列入本屆五年立法規(guī)劃，同時(shí)把人工智能方面立法列入抓緊研究項(xiàng)目。