人臉識(shí)別助力創(chuàng)新下一代監(jiān)控技術(shù) 安全性卻也得不到保證

在上周一的一致投票中，舊金山的一個(gè)政府委員會(huì)推動(dòng)該市朝著全面禁止政府使用人臉識(shí)別技術(shù)的目標(biāo)邁進(jìn)。這將是美國(guó)第一個(gè)這樣做的城市：隨著警察、政府機(jī)構(gòu)和企業(yè)被這項(xiàng)技術(shù)所吸引，既沒(méi)有聯(lián)邦法律，也沒(méi)有嚴(yán)格的地方法規(guī)來(lái)管理這項(xiàng)技術(shù)的使用。我們中的許多人似乎對(duì)旨在公共場(chǎng)合自動(dòng)識(shí)別或介紹自己的監(jiān)視系統(tǒng)心存警惕，這看起來(lái)無(wú)關(guān)緊要，實(shí)則是最令人擔(dān)憂(yōu)的。

Accenture負(fù)責(zé)人工智能板塊的主管Rumman Chowdhury（拉姆曼？喬杜里）上月在Twitter上寫(xiě)道：“我們?yōu)檫@些技術(shù)辯護(hù)的理由存在一個(gè)根本性問(wèn)題。”他指的是舊金山的提議?！拔覀兩钤谝粋€(gè)足夠危險(xiǎn)的狀態(tài)，以至于我們需要這個(gè)嗎？”懲罰性監(jiān)督是幫助我們實(shí)現(xiàn)一個(gè)健康和安全的社會(huì)嗎？”

我對(duì)任何正在被迅速采用的新技術(shù)——AR、VR、大數(shù)據(jù)、機(jī)器學(xué)習(xí)——存在著疑問(wèn)“為什么？”“為什么企業(yè)或政府需要人臉識(shí)別？”“‘我們’沒(méi)有為這些技術(shù)辯護(hù)，”我回答?！爱?dāng)權(quán)者大多會(huì)從中獲利。這要么是通過(guò)制造或銷(xiāo)售設(shè)備，要么是使用技術(shù)來(lái)取代工作人員。這與社會(huì)甚至文明無(wú)關(guān)，而是與金錢(qián)和權(quán)力有關(guān)?！?/p>

但金錢(qián)和權(quán)力并不是推動(dòng)人臉識(shí)別的唯一原因。合作是人類(lèi)長(zhǎng)久以來(lái)的生存之道，自從人類(lèi)出現(xiàn)以來(lái)，就有必要將一些人歸類(lèi)為“他者”。不幸的是，我們中一些人身份和行為會(huì)讓人誤解，從而導(dǎo)致了公民、政府和執(zhí)法部門(mén)感到恐懼和不安。今天，那些可怕的想法，加上更大、更流動(dòng)、更多樣化的人口，創(chuàng)造了一種條件，在這種條件下，我們知道彼此，但不了解彼此，除非絕對(duì)必要，否則我們也不經(jīng)常與“對(duì)方”打交道。我們的這種恐懼成為加強(qiáng)“安全性”的另一個(gè)理由?？删退阄覀兓ㄙM(fèi)大量的時(shí)間經(jīng)營(yíng)與周邊人的關(guān)系，秉承開(kāi)放、合作的心態(tài)，減少恐懼，可還是會(huì)有人提出需進(jìn)一步加強(qiáng)安全性來(lái)造福大家。

互相監(jiān)視的實(shí)驗(yàn)

然而，我們所謂的“方法”，只不過(guò)是在記錄別人的信息而已。我們使用的一種識(shí)別他人身份的方法，是通過(guò)使用監(jiān)控?cái)z像頭。隨著監(jiān)控設(shè)備的價(jià)格越來(lái)越低，各式各樣的企業(yè)都以提高安全性為名義，安裝監(jiān)控設(shè)備，比如在實(shí)體店安裝攝像頭，以防止盜竊和暴力。安保人員可以觀看監(jiān)控視頻來(lái)代替監(jiān)視人們； 但隨著時(shí)間的推移，攝像機(jī)已經(jīng)取代了許多保安人員。通過(guò)這種方式，監(jiān)控錄像的做法實(shí)則是造成一種心理威懾，如同警察的存在： 是的，我們被錄了下來(lái)，但我們不知道是否有人在看錄像，也不知道他們是否會(huì)對(duì)他們所看到的不良行為采取行動(dòng)。

隨著監(jiān)控?cái)z像頭變得更小和更便宜，它們可直接被嵌入更多的消費(fèi)產(chǎn)品中，為人們?cè)谌粘Ｉ钪惺褂眠@項(xiàng)技術(shù)提供了機(jī)會(huì)。智能手機(jī)的攝像頭、Ring制造的智能門(mén)鈴，以及類(lèi)似于隱藏在AirBnB（以及社會(huì)上許多其他地方）里的微型監(jiān)控?cái)z像頭，都已成為常態(tài)。監(jiān)控已經(jīng)存在于政府、企業(yè)和我們每個(gè)人之間，因?yàn)槲覀兠總€(gè)人都攜帶著智能手機(jī)或攝像機(jī)。

與更廣泛的監(jiān)控相比，家中的攝像頭在抵御“他人”威脅方面具有優(yōu)勢(shì)?！凹沂且粋€(gè)相對(duì)封閉的環(huán)境，任何異常都可以被房主或他們的軟件實(shí)時(shí)識(shí)別和報(bào)告。房主們對(duì)自己的房產(chǎn)保持警惕，可能會(huì)使用額外的應(yīng)用程序向他們提供實(shí)時(shí)的監(jiān)控情況；而且在很多情況下，他們還會(huì)聘請(qǐng)第三方安全公司來(lái)進(jìn)行額外的監(jiān)視。在私人家庭環(huán)境中需處理的監(jiān)控?cái)?shù)據(jù)信息很少，并且鄰居們也在用其他的方法來(lái)監(jiān)視小區(qū)周?chē)h(huán)境。

但在社會(huì)上使用監(jiān)控?cái)z像頭技術(shù)存在一個(gè)明顯的問(wèn)題：攝像頭的大量使用，出現(xiàn)了大量的連續(xù)鏡頭，從而在處理數(shù)據(jù)信息方面出現(xiàn)了問(wèn)題。你所能看到的每個(gè)攝像頭，都有大量的連續(xù)鏡頭做備份（更何況還有你看不到的攝像頭），但是很明顯，并沒(méi)有足夠的人或資源來(lái)處理這些圖像數(shù)據(jù)信息，那么監(jiān)控記錄的意義又在哪里呢？雖然發(fā)現(xiàn)了罪犯，行兇者也有可能在開(kāi)始錄像的幾個(gè)小時(shí)或幾天之前逃跑。

即便是有一種方法可以梳理監(jiān)視數(shù)據(jù)，找到足夠的數(shù)據(jù)來(lái)識(shí)別某人或他們的車(chē)輛，罪犯有效記錄在案的資源通常也不存在。有時(shí)在我們住所之外發(fā)現(xiàn)的相互關(guān)聯(lián)且復(fù)雜的監(jiān)控系統(tǒng)，只有當(dāng)我們大多數(shù)人相信可以利用所發(fā)現(xiàn)的數(shù)據(jù)做些什么時(shí)，才會(huì)發(fā)揮作用。

當(dāng)一項(xiàng)技術(shù)不起作用時(shí)，我們可能會(huì)引入迭代式的創(chuàng)新，作為改進(jìn)，這就是監(jiān)控?cái)z像頭可能發(fā)生的情況。例如，市政當(dāng)局很快就為警察配備了可穿戴攝像頭。支持這些隨身相機(jī)的一個(gè)理由是，它們可以監(jiān)督公民（以及官員）更守規(guī)矩；另一種說(shuō)法是，它們可以協(xié)助調(diào)查，或許很快就能實(shí)現(xiàn)實(shí)時(shí)監(jiān)控。然而，這種方法并非沒(méi)有缺點(diǎn)，因?yàn)榫熨Y源仍然很少，而且存儲(chǔ)和管理所有隨身攝像機(jī)所拍攝視頻的成本對(duì)許多警察部門(mén)來(lái)說(shuō)是巨大的。與此同時(shí)，許多人認(rèn)為，通過(guò)更好的實(shí)踐、培訓(xùn)和社區(qū)互動(dòng)，而不是“更好”的技術(shù)，可以做更多事情來(lái)改善治安。

創(chuàng)新下一代監(jiān)控技術(shù)

這些方法的最終結(jié)果是，導(dǎo)致我們現(xiàn)在擁有的監(jiān)控?cái)z像頭可能由于多種原因而不起作用，但它們已經(jīng)成為公共監(jiān)控的一個(gè)組成部分，而且在更大的一些場(chǎng)所，如公司、商店等，也成為監(jiān)控的一部分。在一個(gè)比較復(fù)雜的且需要人進(jìn)入的環(huán)境中，人們往往希望在已有的基礎(chǔ)上找到一個(gè)快速、廉價(jià)的解決方案，因?yàn)檫@樣就只需增加附加功能就能達(dá)到想要的效果。這就是面部識(shí)別開(kāi)始被認(rèn)為是萬(wàn)靈藥的原因，成為原有監(jiān)視設(shè)備基礎(chǔ)設(shè)施的“附加組件”。

大眾傳媒對(duì)這一概念也有貢獻(xiàn)。在科幻小說(shuō)中，人臉識(shí)別技術(shù)能發(fā)揮自己的作用。電影贊美偵探和警察，他們通過(guò)面部識(shí)別捕捉壞人來(lái)拯救人類(lèi)。但這不是現(xiàn)實(shí)，因?yàn)榭苹眯≌f(shuō)是照本宣科的，它的情節(jié)和角色在任何一個(gè)相互依賴(lài)的社會(huì)中都無(wú)法發(fā)揮作用，因?yàn)楝F(xiàn)實(shí)社會(huì)有著有各式各樣的信仰和問(wèn)題。魅力無(wú)窮的大預(yù)算科幻電影，其運(yùn)用的炫酷科技手段吸引了技術(shù)專(zhuān)家和市政當(dāng)局的注意，因?yàn)榍罢呦胍眯≌f(shuō)來(lái)建立技術(shù)的模版；而后者在與財(cái)政赤字做斗爭(zhēng)的同時(shí)，能看到最新最好的技術(shù)是成功和地位的象征。技術(shù)人員可能并不經(jīng)常關(guān)心或熟悉他們所構(gòu)建的東西將如何影響社會(huì)。與此同時(shí)，一些市政當(dāng)局似乎要么掩蓋新技術(shù)的潛在成果和影響，繼續(xù)為科技公司提供一個(gè)免費(fèi)的測(cè)試平臺(tái)，要么誤解了這些技術(shù)將給城鎮(zhèn)帶來(lái)怎樣的變化。

從本質(zhì)上講，面部識(shí)別提供了一個(gè)偉大的承諾，可以像在電影中那樣，輕松地識(shí)別和抓住壞人，而不需要建立任何人際關(guān)系和了解社區(qū)中人們干的“臟活”。對(duì)警察來(lái)說(shuō)，使用軟件要比與潛在的危險(xiǎn)罪犯互動(dòng)安全得多，或者冒險(xiǎn)與人接觸，卻發(fā)現(xiàn)他們實(shí)際上根本不是罪犯。通過(guò)這種方式，由監(jiān)控?cái)z像頭組成的社會(huì)技術(shù)框架（現(xiàn)在可能包括面部識(shí)別）開(kāi)始被用作社區(qū)知識(shí)和行為的代表。

但是，這些數(shù)據(jù)并不能準(zhǔn)確地替代社區(qū)知識(shí)，因?yàn)樗赡鼙徽`解和誤用。這項(xiàng)技術(shù)并不是對(duì)所有人都平等、公平地適用，尤其是對(duì)那些非白人和跨性別的人來(lái)說(shuō)。麻省理工學(xué)院（MIT）去年的一項(xiàng)研究發(fā)現(xiàn)，三種常見(jiàn)的面部分析系統(tǒng)顯示，淺膚色男性的錯(cuò)誤率為0．8％，而深膚色女性的錯(cuò)誤率為34．7％，尤其是在執(zhí)法場(chǎng)景中，找錯(cuò)人帶來(lái)的風(fēng)險(xiǎn)更加嚴(yán)重。

從面部識(shí)別到側(cè)寫(xiě)

人臉識(shí)別軟件是對(duì)監(jiān)控?cái)z像頭的一種創(chuàng)新，它被用來(lái)解決一個(gè)社會(huì)問(wèn)題。但是只有人，而不是技術(shù)，才能解決社會(huì)問(wèn)題。然而，人們可能不得不應(yīng)用技術(shù)來(lái)解決這些問(wèn)題，而這正是我們陷入困境的癥結(jié)所在：什么技術(shù)是合適的，什么不是，我們使用什么工具，就像Dr． Chowdhury和其他人所要求的那樣，來(lái)構(gòu)建一個(gè)“安全和健康的社會(huì)”？

廣泛使用價(jià)格低廉、沒(méi)有監(jiān)管和極具透明的人臉識(shí)別工具容易令人們感到不安。此外，目前還不清楚人手短缺、預(yù)算緊張或缺乏技術(shù)經(jīng)驗(yàn)的警察部門(mén)是否會(huì)遵守面部識(shí)別軟件供應(yīng)商制定的自愿規(guī)則。

一旦像亞馬遜這樣的公司的面部識(shí)別軟件得到廣泛應(yīng)用——我們是這些異類(lèi)實(shí)驗(yàn)的對(duì)象——下一個(gè)技術(shù)進(jìn)步應(yīng)用可能會(huì)被引進(jìn)：人工智能通過(guò)利用面部識(shí)別得出關(guān)于我們和我們的行為的結(jié)論。這就是目前中國(guó)正在發(fā)生的事情，人工智能和人臉識(shí)別正被用于監(jiān)視1100萬(wàn)維吾爾族（一個(gè)穆斯林少數(shù)民族）。

最近報(bào)道稱(chēng)：“這種人臉識(shí)別技術(shù)被整合到中國(guó)迅速擴(kuò)張的監(jiān)控?cái)z像頭網(wǎng)絡(luò)中，只根據(jù)維吾爾人的外貌來(lái)尋找他們，并記錄他們的行蹤，以便進(jìn)行搜索和審查?！薄斑@種做法使中國(guó)成為應(yīng)用下一代技術(shù)觀察其人民的先驅(qū)，可能會(huì)開(kāi)啟一個(gè)自動(dòng)化種族主義的新時(shí)代。”

中國(guó)有關(guān)部門(mén)和企業(yè)正在利用該技術(shù)在大型公共活動(dòng)中抓捕犯罪嫌疑人，以及在更日常的情況下使用該技術(shù)，例如在機(jī)場(chǎng)和酒店認(rèn)出尋找的人，鎖定在人行橫道上羞辱亂穿馬路的人，找準(zhǔn)用戶(hù)做針對(duì)性廣告。人臉識(shí)別技術(shù)也正在美國(guó)各地蔓延，從用于邊境安全到制作冰箱貨架上的個(gè)性化廣告。紐約一家房地產(chǎn)集團(tuán)最近試圖為其公寓大樓內(nèi)的每個(gè)公寓單元?jiǎng)?chuàng)建基于人臉識(shí)別的鑰匙。

也許我們正處在一些技術(shù)的尖端，這些技術(shù)將以一種對(duì)我們來(lái)說(shuō)是全新的方式回歸，既挑戰(zhàn)我們的底線(xiàn)，又考驗(yàn)我們的社會(huì)規(guī)范。例如，一旦我們走到哪里都被“認(rèn)識(shí)”，那么，就像其他跟蹤和識(shí)別我們的數(shù)據(jù)所做的那樣，我們可以不斷地被“剖析”。當(dāng)我們被“剖析”時(shí)，人們認(rèn)為我們的行為可以通過(guò)算法預(yù)測(cè)。一旦我們的行為可以被政府和營(yíng)銷(xiāo)人員“預(yù)測(cè)”出來(lái)，那么我們可能會(huì)在算法面前失去我們的主動(dòng)權(quán)，算法生成的“可信數(shù)據(jù)”要遠(yuǎn)遠(yuǎn)多于從我們的賬戶(hù)信息獲取的數(shù)據(jù)信息。

當(dāng)所有各方都能創(chuàng)造一個(gè)他們自己可接受的結(jié)果時(shí)，就能實(shí)現(xiàn)合作。雖然人們有時(shí)可能會(huì)放棄自己的代理權(quán)來(lái)得到他們想要的結(jié)果，但這種做法并不常見(jiàn)。這就是奴役。沒(méi)有代理權(quán)，沒(méi)有能力選擇自己的形象或銷(xiāo)售方式，破壞了合作的基礎(chǔ)。為了“方便”而利用面部識(shí)別的人工智能應(yīng)用，在圍繞監(jiān)控技術(shù)的技術(shù)“創(chuàng)新”中，變得更加危險(xiǎn)，因?yàn)槲覀儽黄葘⒃絹?lái)越多的信息暴露出來(lái)。

徹底禁止使用該軟件的努力面臨阻力。國(guó)會(huì)議員和微軟等公司大多在推動(dòng)相關(guān)規(guī)定，其中包括強(qiáng)制要求在公共場(chǎng)合使用面部識(shí)別工具時(shí)，需使用清晰的標(biāo)識(shí)來(lái)提醒人們。但這種做法表示，除了主動(dòng)離開(kāi)該區(qū)域，否則你沒(méi)有辦法選擇退出監(jiān)視，標(biāo)識(shí)給人們提供了不合理的選擇。如果沒(méi)有辦法選擇退出這個(gè)潛在的強(qiáng)大監(jiān)控系統(tǒng)，人類(lèi)就會(huì)開(kāi)始成為奴隸。這就是為什么能夠限制面部識(shí)別的嚴(yán)肅的、可執(zhí)行的法律是至關(guān)重要的，也是為什么在我們的技術(shù)發(fā)展到這個(gè)關(guān)鍵時(shí)刻，這種討論顯得如此重要的原因。

一旦面部識(shí)別和其他人工智能變得普及，在缺乏嚴(yán)格的可強(qiáng)制執(zhí)行的法律來(lái)保護(hù)這項(xiàng)技術(shù)的情況下，我們將不受保護(hù)；也就意味著，為了滿(mǎn)足政府和企業(yè)的目的，我們的身份信息和地理位置信息將被利用。這就是貪婪、利潤(rùn)和權(quán)力作為激勵(lì)因素發(fā)揮作用的地方。

如果我們想要識(shí)別出危險(xiǎn)分子，也許他們就是那些希望我們喪失自己的面孔、身份和異質(zhì)性的實(shí)體——不僅僅是為了讓他們獲利，而是作為一種自動(dòng)分類(lèi)和社會(huì)控制的手段。這就是為什么面部識(shí)別技術(shù)會(huì)成為我們重點(diǎn)討論的對(duì)象，也是為什么越來(lái)越多的人希望在我們的社會(huì)中禁止使用它的原因。