隱私問題爆發(fā)，多個(gè)城市開始“拒絕”人臉識(shí)別

作為身份認(rèn)證的重要手段之一，人臉識(shí)別已經(jīng)成為智慧城市建設(shè)中的重要組成部分。

市場研究機(jī)構(gòu)MarketsandMarkets發(fā)布一份全球人臉識(shí)別市場報(bào)告，預(yù)計(jì)2019年人臉識(shí)別市場規(guī)模將為32億美元，2024年將增長至79億美元，復(fù)合年增長率為16.6%。

然而從去年到現(xiàn)在，人臉識(shí)別技術(shù)和市場正在面臨一場“考驗(yàn)”。

隱私問題爆發(fā)，多個(gè)城市開始“拒絕”人臉識(shí)別

這一次考驗(yàn)的起源是谷歌與美國軍方的一次合作。

去年3月份，谷歌的一份內(nèi)部郵件顯示他們正在為美國國防部AI項(xiàng)目“Maven”提供TensorFlow API，用于分析無人機(jī)拍攝的畫面。這一合作引發(fā)了外界對于谷歌的質(zhì)疑，以及對該技術(shù)應(yīng)用之后的擔(dān)憂。

這之后，隨著亞馬遜、微軟等相繼被曝出與政府之間也存在著“人臉識(shí)別”技術(shù)相關(guān)的項(xiàng)目合作，包括將人臉識(shí)別用于視頻監(jiān)控和警察穿戴的相機(jī)鏡頭等等，“人臉識(shí)別”技術(shù)一時(shí)間被推上了輿論的風(fēng)口浪尖。

具體來看，他們普遍擔(dān)心軍事和工業(yè)結(jié)合體會(huì)被作為不正當(dāng)殺人利器，以及這次合作背后可能引發(fā)的機(jī)器學(xué)習(xí)發(fā)展與道德問題。以美國公民自由聯(lián)盟為例，在他們看來，將人臉識(shí)別技術(shù)應(yīng)用到前端視頻建龍攝像機(jī)上，可能會(huì)打破隱私及實(shí)用性之間的平衡。

在輿論的壓力下，此前宣稱“不作惡”的谷歌終止了與五角大樓的合作，亞馬遜和微軟則繼續(xù)爭奪政府訂單。而值得注意的是，發(fā)展至現(xiàn)在，這把火已經(jīng)從科技公司這一類個(gè)體蔓延至了一個(gè)城市。

今年5月中旬，美國舊金山城市監(jiān)管委員會(huì)投票通過“禁止使用人臉識(shí)別”的決定，成為美國第一個(gè)對這一技術(shù)說“不”的城市。時(shí)隔不到一個(gè)月，馬薩諸塞州的薩默維爾市也對人臉識(shí)別技術(shù)說“不”。

根據(jù)制定的新規(guī)，地方政府機(jī)構(gòu)在使用人臉識(shí)別技術(shù)的時(shí)候?qū)⑹艿较拗?，或是被完全禁止，或是在公共場所受限，且任何購買任意一種新興監(jiān)控技術(shù)的計(jì)劃都必須得到市政官員的同意。與此同時(shí)，美國加州奧克蘭市等城市也正在考慮出臺(tái)與之類似的法律。

可以看到，在輿論的推動(dòng)與引導(dǎo)下，越來越多的城市正在拒絕人臉識(shí)別這一項(xiàng)原本被極力看好的AI技術(shù)。而在這一技術(shù)被禁的背后，我們看到了另一個(gè)產(chǎn)業(yè)也大受影響。

人臉識(shí)別被禁，智慧城市建設(shè)大受影響

除了人臉識(shí)別的市場潛力，MarketsandMarkets的報(bào)告也指出，這一市場的主要驅(qū)動(dòng)力包括：政府推行用戶和數(shù)據(jù)安全舉措的增加、越來越多移動(dòng)設(shè)備的使用以及全球?qū)∪墼p檢測和預(yù)防系統(tǒng)需求的日益增長。

可以說，人臉識(shí)別市場規(guī)模能夠增長的如此之快，很大層面上得歸功于政府的推動(dòng)。截至目前，出入境管理、刑偵安防、公務(wù)辦理等領(lǐng)域越來越多的用到了人臉識(shí)別技術(shù)，也取得了不錯(cuò)的成果。以刑偵為例，較為知名的事件有警方利用人臉識(shí)別技術(shù)數(shù)次在張學(xué)友演唱會(huì)捕獲逃犯，最近的案例為警方通過“天眼”系統(tǒng)抓獲已經(jīng)外逃兩年的北大弒母案嫌犯吳謝宇……這樣的案例還有很多。

其中，“天眼”系統(tǒng)是我國基于人臉識(shí)別等專業(yè)技術(shù)開發(fā)出來的重大成果。通過應(yīng)用人工智能、視頻圖像處理等多種技術(shù)，“天眼”系統(tǒng)能夠在第一時(shí)間對人臉信息進(jìn)行捕捉和匹配，識(shí)別速度快且準(zhǔn)確度高，已經(jīng)有二十多個(gè)省市的公安系統(tǒng)與之實(shí)現(xiàn)了對接。

而從更大視角來看，“天眼”系統(tǒng)是智慧城市建設(shè)中的一塊重要版圖，如果沒有“天眼”系統(tǒng)的存在，或是人臉識(shí)別技術(shù)被禁，以上場景只會(huì)存在于電影中，而智慧城市的建設(shè)也將不完整。

同時(shí)，“智慧城市”也是諸多大小科技公司競相追逐并瓜分的一塊蛋糕。

以國內(nèi)為例，有著“CV四小龍”之稱的商湯、曠視、云從和依圖均有涉足“智慧城市”建設(shè)，且已經(jīng)有項(xiàng)目成功落地。與此同時(shí)，BAT、京東、平安科技等也在“智慧城市”這一塊有所部署，競爭情景也時(shí)有發(fā)生。而透視他們的“智慧城市”解決方案，圖像識(shí)別或分析這一功能幾乎已經(jīng)是標(biāo)配。一旦人臉識(shí)別技術(shù)被禁，尤其是政府層面的，他們受到的損失也將不可估量。

智慧城市建設(shè)勢在必行，向人臉識(shí)別發(fā)出“靈魂拷問”

“智慧城市”這一概念已經(jīng)存在許多年，但在近幾年隨著AI、大數(shù)據(jù)、物聯(lián)網(wǎng)等技術(shù)的發(fā)展，基于“智慧城市”的基礎(chǔ)，“新型智慧城市”的概念也應(yīng)運(yùn)而生。

2015年底，中央網(wǎng)信辦、國家互聯(lián)網(wǎng)信息辦第一次提出“新型智慧城市”概念。幾個(gè)月之后，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《國家“十三五”規(guī)劃綱要》，明確提出要“建設(shè)一批新型示范性智慧城市”。

針對“新型智慧城市”這一概念，國家工業(yè)信息安全研究中心副主任李新社曾指出，未來智慧城市建設(shè)過程中，“圍繞城市大數(shù)據(jù)的規(guī)劃、采集、流通、分析、反饋、修訂等全生命周期，用信息流優(yōu)化來驅(qū)動(dòng)個(gè)領(lǐng)域系統(tǒng)建設(shè)完善”將成為主要內(nèi)容，“如何建設(shè)信息安全綜合監(jiān)控平臺(tái)，如何強(qiáng)化信息安全風(fēng)險(xiǎn)評估體系”將成為下一步建設(shè)的戰(zhàn)略重點(diǎn)。

不僅僅是國內(nèi)，智慧城市建設(shè)已經(jīng)成為了全球國家正在進(jìn)行或?qū)⒁M(jìn)行的一個(gè)重要項(xiàng)目，這已經(jīng)是勢在必行。

“人臉識(shí)別是否要被禁止”不會(huì)是智慧城市建設(shè)過程中面臨的唯一問題。但透過這一問題，一些關(guān)鍵的、通用的問題已經(jīng)被暴露。

· 我的人臉數(shù)據(jù)究竟屬于誰？

人臉識(shí)別是一種1:1或1：N的技術(shù)手段，在具體應(yīng)用場景中，它可以根據(jù)已有人臉數(shù)據(jù)識(shí)別并判定某一特殊對象是否與數(shù)據(jù)庫中的是同一人，也可以依據(jù)某一個(gè)人臉數(shù)據(jù)，從成千上萬人中找出對應(yīng)的人。這之中，數(shù)據(jù)庫中保存的數(shù)據(jù)將成為關(guān)鍵一環(huán)，也是引發(fā)人們擔(dān)憂并發(fā)出質(zhì)疑的地方——這些數(shù)據(jù)究竟屬于誰？誰能用我的數(shù)據(jù)？

近年來，因?yàn)檠邪l(fā)需要以及人臉識(shí)別應(yīng)用的逐漸普及，包括政府機(jī)構(gòu)、銀行、小區(qū)物業(yè)、人臉識(shí)別研發(fā)公司都需要用到數(shù)據(jù)庫。

以銀行為例，當(dāng)人們辦理某些業(yè)務(wù)時(shí)，人臉識(shí)別已經(jīng)成為了一種常態(tài)，柜臺(tái)工作人員會(huì)在過程中要求人們將頭抬起，并將面部朝向攝像頭以進(jìn)行識(shí)別，而在銀行APP 中，要求卡主進(jìn)行人臉識(shí)別認(rèn)證也已經(jīng)成為一種日常操作。既然要識(shí)別，那就意味著有對比數(shù)據(jù)，這些數(shù)據(jù)被誰拿走了？是銀行？是公安？還是提供人臉識(shí)別技術(shù)的公司？

又比如人們上傳至網(wǎng)絡(luò)的各類照片，基于這些照片的人臉數(shù)據(jù)被誰拿走了？多數(shù)情況下會(huì)保存在各個(gè)平臺(tái)的服務(wù)器中以作他用。譬如Facebook，當(dāng)它在一張照片中識(shí)別某一特定人之后，它會(huì)向這一用戶的賬號(hào)發(fā)送通知，后者可以選擇在圖片上貼上標(biāo)簽、給發(fā)布圖片的用戶發(fā)短信，亦或是通知Facebook平臺(tái)這張臉不是自己等等。這類服務(wù)是將人臉識(shí)別應(yīng)用放在了明處，而人們更為擔(dān)心那些不知不覺中發(fā)生的人臉識(shí)別應(yīng)用。

· 我的人臉數(shù)據(jù)被用在了哪里？

毫不夸張的說，在如今這個(gè)到處都能夠生產(chǎn)數(shù)據(jù)的地方，人們有的時(shí)候處于“裸奔”狀態(tài)。這些數(shù)據(jù)在不知不覺間被采集，然后被運(yùn)用在人們或知道、或不知道的場景中。

以微軟為例，當(dāng)美國關(guān)于“人臉識(shí)別”的輿論愈加發(fā)酵的時(shí)候，這家公司悄默默的刪除了它們于2016年發(fā)布的人臉識(shí)別數(shù)據(jù)庫MS-Celeb-1M，這是全球最大的“公開”人臉識(shí)別數(shù)據(jù)庫，其中涉及百萬名人的千萬張照片，可以供研究者開發(fā)人臉識(shí)別技術(shù)。

更為“可怕”的是，MS-Celeb-1M數(shù)據(jù)庫中的每一個(gè)人物對應(yīng)一個(gè)entity，綁定了知識(shí)庫，后者提供了每個(gè)人的職業(yè)、性別等豐富信息，目的是為了幫助人臉識(shí)別系統(tǒng)不僅僅做到識(shí)別，更能做到認(rèn)知。

又比如亞馬遜的人臉識(shí)別軟件Rekognition，它能夠在幾秒鐘內(nèi)將收集到的信息和數(shù)據(jù)庫里成千上萬個(gè)圖像進(jìn)行比較。這一技術(shù)已經(jīng)被執(zhí)法機(jī)關(guān)用于尋找失蹤人口和識(shí)別恐怖襲擊中的嫌疑人。但從美國公民自由聯(lián)盟對亞馬遜的致信，以及亞馬遜云共和民眾的反應(yīng)來看，雖然這是智慧城市建設(shè)中的一部分，且這一技術(shù)帶來的利好也被部分大眾所認(rèn)可，但他們似乎并不希望亞馬遜將這一技術(shù)的API接口開放給政府，也因?yàn)閾?dān)心自己時(shí)時(shí)處于監(jiān)控狀態(tài)，而不希望自己的數(shù)據(jù)被用于這些地方。

· 人臉識(shí)別技術(shù)可靠嗎？

不僅僅是數(shù)據(jù)的問題，“智慧城市”建設(shè)還面臨來自公眾對于技術(shù)可靠性的質(zhì)疑。

譬如在美國，人臉識(shí)別技術(shù)被指責(zé)有“種族歧視”——黑人女性的錯(cuò)誤率高達(dá)21%-35%，而針對白人男性的錯(cuò)誤率則低于1%。另外，亞馬遜的Rekognition也曾將28名美國國會(huì)議員識(shí)別成罪犯，而就在本周，這一技術(shù)又錯(cuò)將26名州立法委員認(rèn)定為罪犯。這種現(xiàn)象背后的技術(shù)可靠性著實(shí)令人擔(dān)憂。

不僅僅是國外，國內(nèi)這種嘀笑皆非的場景也時(shí)有發(fā)生。比如因?yàn)椤瓣J紅燈”而被公示在電子曝光屏的董明珠，事實(shí)是所謂的“董明珠”只是公交車上的一個(gè)印刷廣告；又比如一名坐在公交車內(nèi)靠窗位置的普通民眾，莫名其妙的被人臉識(shí)別抓拍系統(tǒng)定義為闖紅燈……

其中，諸如人臉識(shí)別闖紅燈抓拍系統(tǒng)等產(chǎn)品已經(jīng)是人臉識(shí)別技術(shù)的普遍落地應(yīng)用之一，當(dāng)行人闖紅燈被拍之后，姓名、模糊處理的身份證信息等一般也會(huì)出現(xiàn)在電子屏上。但是這種“誤抓”現(xiàn)象的出現(xiàn)體現(xiàn)了智慧城市建設(shè)過程中的不完善。同時(shí)，這種錯(cuò)誤也會(huì)讓“貢獻(xiàn)”自身數(shù)據(jù)的民眾在內(nèi)心產(chǎn)生擔(dān)憂和抵觸。

人臉數(shù)據(jù)不知不覺間被采集和運(yùn)用、數(shù)據(jù)庫面臨泄露風(fēng)險(xiǎn)、人臉識(shí)別技術(shù)可靠度存疑……不可否認(rèn)，“智慧城市”建設(shè)是智能時(shí)代下的必然，而人臉識(shí)別技術(shù)作為身份認(rèn)證重要手段之一，也是建設(shè)過程中的重要版圖之一，但當(dāng)數(shù)據(jù)沒有安全保障、落地識(shí)別也沒有準(zhǔn)確度保障的時(shí)候，民眾多會(huì)產(chǎn)生“抵觸”情緒，而“智慧城市”建設(shè)或?qū)⒁矔?huì)受阻。