戴口罩人臉照片2毛一張暗中交易！人臉識別安全如何保障？

疫情下口罩成為標配，相關(guān)科技企業(yè)找到現(xiàn)實痛點并迅速推出解決方案，實現(xiàn)了戴口罩情況下的人臉識別/測溫、打卡/通行等解決方案。但與此同時，一些用于打卡考勤或在社交平臺發(fā)布的戴口罩的面部照片，正在被偷偷搜集并在網(wǎng)上進行兜售。

日前有媒體爆料，有賣家聲稱其手中有幾十萬張戴著口罩的人臉照片，2毛錢一張，十萬張以上有優(yōu)惠！這些照片來源，“一半是從網(wǎng)絡(luò)上爬（蟲）的，一半來自于現(xiàn)實世界?！睂τ趤碜杂诂F(xiàn)實世界的照片，該賣家表示“就是打卡獲取保存下來的，而且都是年后（拍）的，時間很新，你肯定在網(wǎng)上找不到?！?br />
這些大量照片的潛在買家是誰或是可能被用于何種用途？據(jù)追溯，“這些戴口罩人臉圖片被買走大多是用作訓(xùn)練算法的精準度，做戴口罩人臉識別的算法模型，肯定需要海量的戴口罩的人臉信息不斷訓(xùn)練”，該賣家稱，“口罩佩戴識別算法源碼加上數(shù)據(jù)集一共1000元，單要人臉數(shù)據(jù)集的話也是1000元，都在網(wǎng)盤里，隨時可發(fā)鏈接。”

細思極恐。

人臉識別高速普及背后的隱憂

從2015開始，人臉識別技術(shù)經(jīng)歷了從快速落地到多領(lǐng)域應(yīng)用的井噴式發(fā)展，可以說是人工智能領(lǐng)域最為成熟的技術(shù)應(yīng)用（沒有之一）。隨著在高鐵票務(wù)、門禁與安防、智能手機、金融與移動支付等方面對人臉識別的規(guī)模化使用，人臉識別技術(shù)正在向更多行業(yè)滲透，業(yè)內(nèi)人士評估在中國市場一年已近30億規(guī)模。

但是，一方面是快速普及應(yīng)用，另一方面是時有發(fā)生的安全漏洞及相關(guān)信息泄露事件。

去年，國內(nèi)安防領(lǐng)域某人工智能企業(yè)被曝發(fā)生大規(guī)模數(shù)據(jù)泄露事件，超過250萬人的數(shù)據(jù)被獲取，有680萬條數(shù)據(jù)疑似泄露，包括身份證信息、人臉識別圖像及圖像拍攝地點等。

同樣引起關(guān)注的還有紅極一時的AI換臉短視頻應(yīng)用軟件“ZAO”，從走紅到“涼涼”只經(jīng)歷了短短幾天。還有杭州市的“中國人臉識別第一案”，將具體技術(shù)應(yīng)用場景拉到法律框架下進行審視。

此外，還有照片“騙”開人臉識別的智能快遞柜和小區(qū)門禁系統(tǒng)，甚至，還有某國外AI公司聲稱使用3D面具突破了手機APP中的人臉支付……

這些事件，從不同層面折射出快速普及化的人臉識別背后的多種隱憂。

人臉識別安全如何保障？

<電子發(fā)燒友>日前在一場以“口罩人臉識別、智能測溫，AI助力抗疫裝備升級”為主題的直播活動中，就“人臉識別落地主要挑戰(zhàn)”發(fā)起了一項調(diào)研，根據(jù)調(diào)研結(jié)果來看，36%認為是個人隱私問題，33%表示對數(shù)據(jù)安全隱患存在擔(dān)憂，27%認為技術(shù)本身有待繼續(xù)提升，4%則對人臉識別使用的必要性存有疑問。

國內(nèi)人臉識別應(yīng)用火熱的背后，隱私和安全的擔(dān)憂其實一直存在。由于人臉識別系統(tǒng)存在多種被攻擊的可能，例如早期被照片、合成視頻仿冒攻擊，以及近來引起關(guān)注的3D面具攻擊方式。同時，人們擔(dān)心數(shù)據(jù)遭到泄露，會被別有用心的人所利用。

就像一把雙刃劍，人臉識別技術(shù)的使用成本、應(yīng)用邊界以及整體系統(tǒng)/網(wǎng)絡(luò)的安全性都決定了它能否真正發(fā)揮出該有的價值。比如在實際的應(yīng)用中，一些商家限于成本制約，采用了低成本、抗攻擊能力弱的方案，就很容易被破解。或者，在落地應(yīng)用中，如何恰到好處地應(yīng)用人臉識別技術(shù)，既不過度采集，又不過度使用，需要在隱私、安全、便捷三者中找到恰當?shù)钠胶狻＿@些都是人臉識別技術(shù)進一步普及中需要考慮到的因素，要得到人們的認可和信任，還需多措并舉。

在<電子發(fā)燒友>的這場直播活動中，與會嘉賓就人臉識別的安全性分別發(fā)表了各自觀點。

OPEN AI LAB產(chǎn)品總經(jīng)理孫健峰提到，隱私保護和數(shù)據(jù)安全是他所看到的人臉識別落地的挑戰(zhàn)之一。從技術(shù)的維度，他認為采用聯(lián)邦學(xué)習(xí)進行算法訓(xùn)練是當前的一個解決思路。即：無需把前端隱私數(shù)據(jù)傳到后端，而是基于這些數(shù)據(jù)在前端的算力上訓(xùn)練出小的參數(shù)模型，并且把這個模型貢獻到集群中心，通過成千上萬的小的終端獲取到足夠好的綜合算法，再把這個算法下發(fā)到前端，這樣既保證了足夠好的準確性，同時保障了隱私和數(shù)據(jù)安全，這將是未來的一個發(fā)展趨勢。

百度AI技術(shù)生態(tài)部高級產(chǎn)品經(jīng)理吳延宇談到了人臉識別技術(shù)未來需要提高活體檢測的能力。針對高仿模具、高仿面具，還有一些成本很高的硅膠做出來的人像，對于這種級別的攻擊，人臉識別如何去抵御，或是如何輔助硬件和一些策略去抵御攻擊，這方面還有待提升。

智慧眼公共安全技術(shù)部經(jīng)理/公共安全產(chǎn)品總監(jiān)王飛認為，現(xiàn)階段最需要立法的支持，規(guī)范在商業(yè)公司或是非政府行業(yè)的應(yīng)用，相對高涉密的還需要在安全方面探討技術(shù)以外的挑戰(zhàn)。吳延宇也呼吁相應(yīng)行業(yè)標準規(guī)范的陸續(xù)出臺，包括軟硬件規(guī)范、接口規(guī)范、架構(gòu)規(guī)范、交付標準規(guī)范等等，這樣才能保證整個行業(yè)進一步蓬勃發(fā)展。

當然，除了對抗攻擊的技術(shù)升級、算法方面的優(yōu)化等，方案中硬件平臺的有力保障是根本。Arm中國安全技術(shù)市場總監(jiān)王駿超告訴<電子發(fā)燒友>，根據(jù)人臉在本地設(shè)備還是服務(wù)器端比對驗證，分為本地人臉識別和遠程人臉識別兩種，遠程人臉識別認證系統(tǒng)主要由客戶端、服務(wù)器端、安全傳輸通道組成，需要解決從人臉特征采集、數(shù)據(jù)加密存儲、數(shù)據(jù)傳輸?shù)奖葘︱炞C環(huán)節(jié)的安全。本地人臉識別要求人臉特征采集和加密存儲及比對需要在可信執(zhí)行環(huán)境（TEE）中完成，遠程人臉識別需要在TEE中對人臉特征數(shù)據(jù)加密后傳輸?shù)椒?wù)器進行比對。
他認為，人臉特征采集階段，需要提供攝像頭傳感器到TEE的安全通道以防止采集階段人臉信息泄露，采集到人臉特征后在TEE中進行加密存儲到本地或者傳輸?shù)椒?wù)器端。本地比對時需要在TEE中進行，3D人臉識別需要CPU多核TEE或者CPU+專用計算單元（一般是DSP或者AIPU）實現(xiàn)，需要保障CPU和計算單元之間交互的安全性以及計算單元使用的內(nèi)存與非安全應(yīng)用內(nèi)存隔離。在構(gòu)建安全的人臉識別解決方案方面，Arm中國可提供包括支持人工智能安全的AIPU IP，以及基于TEE的一棧式方案。

結(jié)語

之所以出現(xiàn)人臉照片被泄露的事件，究其根本原因，還是AI現(xiàn)階段在深度學(xué)習(xí)基礎(chǔ)上對于數(shù)據(jù)的極度依賴性。正因為這些照片信息對于算法優(yōu)化升級的價值所在，才吸引了買賣雙方不惜冒險進行交易。

中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在談到人工智能崛起的三大因素（數(shù)據(jù)、算法、算力）時曾表示，深度學(xué)習(xí)興起之后，學(xué)界將目標轉(zhuǎn)移至數(shù)據(jù)，提出“讓數(shù)據(jù)說話”。這種（對數(shù)據(jù)的）強調(diào)對深度學(xué)習(xí)的發(fā)展起到積極的作用，但也有“很大的不足”：過分強調(diào)數(shù)量的重要性，會導(dǎo)致按照大數(shù)據(jù)建起來的人工智能系統(tǒng)面臨不可信、不可靠、不安全、不易推廣的挑戰(zhàn)。他鼓勵人工智能研究者，學(xué)習(xí)人類神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，結(jié)合腦科學(xué)以改進深度學(xué)習(xí)模型，同時將知識驅(qū)動與數(shù)據(jù)驅(qū)動結(jié)合起來克服現(xiàn)有的一些不足。

根據(jù)前瞻產(chǎn)業(yè)研究院報告，預(yù)計未來4-5年人臉識別市場規(guī)模將保持年均25%的增速，2022年市場規(guī)模將達到約67億元。

在歡呼聲與質(zhì)疑聲中成長的人臉識別技術(shù)，在可以預(yù)知的很長一段時間內(nèi)，可能都將在這樣的冰火兩重天中前進。這既是當前人臉識別技術(shù)所處的發(fā)展階段所決定，同時也說明，人工智能離真正的普及、普惠，還有相當長的路需要跋涉。

注：文中所提到的戴口罩人臉照片被交易事件來源于中新經(jīng)緯，張鈸院士觀點引自澎湃新聞。

本文由電子發(fā)燒友網(wǎng)原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。如需轉(zhuǎn)載，請?zhí)砑游?a target="_blank">信號elecfans999.