中科院曾毅談人臉識別信息安全：人臉隱私數(shù)據(jù)“一次泄露，終身風險”

“1元購買健康寶查詢方式”“2元70多位藝人健康寶照片”……近日，眾多明星核酸檢測照片的泄露，再度引發(fā)人們對人臉識別信息安全的擔憂。

“人臉識別‘一次泄露，終身風險’的特點，使這種安全隱患的影響可能是長期的。”1月14日，中國科學院自動化所研究員、北京智源人工智能研究院AI倫理中心主任、國家新一代人工智能治理專委會委員曾毅在接受時代周報記者專訪時表示，在拯救生命等嚴肅問題面前，AI倫理紅線不應有任何程度的放寬。

疫情中，人臉識別技術搜集的海量數(shù)據(jù)如何避免泄露隱私，成為大眾普遍關心話題。曾毅認為，在人臉識別相關產(chǎn)品與服務中，應做到設計、研發(fā)、使用、部署等全生命周期均符合倫理要求。

隱私數(shù)據(jù)保護缺位

時代周報：近日，大量明星核酸檢測照片從網(wǎng)絡上泄漏出來，包括楊冪、鹿晗、李易峰、王源等眾多明星的核酸檢測結果、素顏照片在微信群流傳。這一現(xiàn)象透露出什么問題？

曾毅：通過這一現(xiàn)象可以看到，一方面，某些承接政府機構信息系統(tǒng)建設的企業(yè)并沒有能很好地實現(xiàn)對公民關鍵隱私數(shù)據(jù)的有效保護。另一方面，相關政府機構對包含公民隱私數(shù)據(jù)的應用，特別是政府委托的相關應用服務，在數(shù)據(jù)保護方面急需加強管理和監(jiān)督。

可以看到，之所以通過輸入部分信息就可以獲取他人核酸檢測相關細節(jié)信息，從系統(tǒng)設計角度而言存在不嚴格的倫理設計。

他人代查這項功能仍具有現(xiàn)實意義，例如子女和朋友幫助老年人等非手機用戶代查這樣的需求仍然存在，但是如何確認代查結果經(jīng)過當事人授權，確保知情同意，是系統(tǒng)設計與實現(xiàn)過程中必須思考清楚并通過技術實現(xiàn)的。

時代周報：你曾提出，從人工智能模型中刪除數(shù)據(jù)十分困難。目前幾乎沒有一家企業(yè)可以做到在訓練好的人工智能模型中，把某個用戶數(shù)據(jù)的影響從模型中刪除。當前還是這種現(xiàn)狀嗎？

曾毅：很遺憾，當前仍然是這種狀況，這個問題雖然明確存在，但并沒有引起學術界和產(chǎn)業(yè)界足夠的重視。

安全隱患影響長遠

時代周報：人臉識別應用場景擴展后，其涉及的安全重要性是否越來越大，我們對數(shù)據(jù)是否做好保護？

曾毅：目前，人臉識別應用領域急速擴展，然而相關負責任的、符合倫理的相關設計完全跟不上應用領域的擴張需求。很顯然，從技術研發(fā)單位到監(jiān)管部門對數(shù)據(jù)保護都沒有完全做好準備。

人臉識別“一次泄露，終身風險”的特點增加了風險的不確定性。在人臉識別相關產(chǎn)品與服務中做到設計、研發(fā)、使用、部署等全生命周期符合倫理要求，避免安全隱患是未來人臉識別研發(fā)與應用必須做到的。

時代周報：人臉識別的準確度需要靠大量人臉數(shù)據(jù)來“投喂”。而對于一些用戶來說，人臉數(shù)據(jù)被采集很多時候是缺乏選擇權和知情權的，人臉識別的使用邊界到底在哪里？如何才能不越過AI倫理紅線？

曾毅：知情同意在我國個人數(shù)據(jù)保護相關規(guī)范中是有明確規(guī)定必須落實的。這其實并不存在商量的余地。

下一步的重要工作是人工智能研發(fā)與服務企業(yè)自律自治。此外，主管部門多方協(xié)同治理，引導和監(jiān)督政策進行技術落地，落實數(shù)據(jù)與人工智能服務的合規(guī)發(fā)展。

中科院曾毅：人臉隱私數(shù)據(jù)“一次泄露，終身風險”

責任編輯：PSY