美國(guó)當(dāng)?shù)貢r(shí)間上周二,舊金山監(jiān)管局以8比1的比例投票決定禁止市政部門(mén)(包括警方)使用面部識(shí)別軟件。該禁令的支持者列舉了亞馬遜和微軟等公司面部識(shí)別軟件中涉及的種族不平等,以及目前在中國(guó)發(fā)生的反烏托邦式的監(jiān)視。
圍繞面部識(shí)別軟件監(jiān)管爭(zhēng)論的核心問(wèn)題是,在警察和政府尋求新的共識(shí)之前,禁令暫時(shí)的,還是永久的?
有些人認(rèn)為面部識(shí)別軟件可用于為無(wú)辜者伸冤,并且我們只是需要更多時(shí)間來(lái)收集信息。而其他人,如舊金山監(jiān)督員Aaron Peskin,相信即使人工智能系統(tǒng)實(shí)現(xiàn)種族平等,面部識(shí)別也是一種“獨(dú)特的危險(xiǎn)和壓迫性技術(shù)”。
在舊金山海灣大橋的另一邊,奧克蘭和伯克利正在考慮舊金山法令中關(guān)于使用的相同語(yǔ)言的禁令,而馬薩諸塞州和華盛頓州(但其中亞馬遜和微軟反對(duì))的州政府正討論著要不要在AI能完全識(shí)別美國(guó)公民之前臨時(shí)地禁止使用面部識(shí)別。
喬治城大學(xué)隱私與技術(shù)中心高級(jí)助理Clare Garvie將于下周三在眾議院監(jiān)督委員會(huì)作證。上周四,該中心發(fā)布了新的報(bào)告,詳細(xì)介紹了紐約警察局拿著PS過(guò)的、跟嫌疑犯很像的一些名人的照片去抓人,以及在底特律和芝加哥使用的實(shí)時(shí)面部識(shí)別系統(tǒng),并在美國(guó)其他主要城市進(jìn)行了測(cè)試。
Clare Garvie
為了有機(jī)會(huì)檢查警察在美國(guó)使用面部識(shí)別軟件,Garvie的團(tuán)隊(duì)多年來(lái)一直在尋求調(diào)查和訴訟的機(jī)會(huì),而現(xiàn)在他認(rèn)為是時(shí)候在全國(guó)范圍內(nèi)暫停執(zhí)法部門(mén)使用這種技術(shù)了。
Garvie和“Perpetual Lineup”報(bào)告的共同作者于2016年開(kāi)始監(jiān)控面部識(shí)別軟件,最初得出的結(jié)論是,如果制定法規(guī),面部識(shí)別可以用于使人們受益。但Garvie的觀點(diǎn)發(fā)生了變化。
“我們今天看到的是,在沒(méi)有監(jiān)管的情況下,[面部識(shí)別]仍然繼續(xù)被使用,現(xiàn)在我們更加了解了我們?cè)诔袚?dān)多大的風(fēng)險(xiǎn),而我們并沒(méi)有完全做好準(zhǔn)備”,”Garvie說(shuō)?!案鶕?jù)這些信息,我們認(rèn)為這項(xiàng)技術(shù)需要暫停,直到全社會(huì)能達(dá)成共識(shí)去規(guī)制具體的監(jiān)管法則。 ”
在取消此類暫停令之前,Garvie希望看到的是系統(tǒng)的準(zhǔn)確性能有顯著的變化,積極的法院和法律監(jiān)督能夠有效到位,照片質(zhì)量需要一個(gè)最低標(biāo)準(zhǔn)以及公共監(jiān)控技術(shù)需要出具使用報(bào)告,就像舊金山已經(jīng)要求的年度監(jiān)控技術(shù)使用審核。
此外,法醫(yī)草圖,PS圖像和名人照片不應(yīng)放進(jìn)面部識(shí)別軟件,發(fā)布公共報(bào)告應(yīng)該是常態(tài)。但想要求公開(kāi)面部識(shí)別軟件使用的細(xì)節(jié)一直都很困難。
例如,喬治敦大學(xué)的研究人員在2016年首次要求紐約警察局提供面部識(shí)別記錄,但他們被告知沒(méi)有這樣的記錄存在 - 即使該技術(shù)自2011年以來(lái)一直在使用。兩年里紐約警察局足足翻了3,700頁(yè)與面部識(shí)別軟件有關(guān)的使用說(shuō)明書(shū)。
Garvie認(rèn)為,美國(guó)警方使用的面部識(shí)別軟件是不可避免的,但應(yīng)該禁止使用面部識(shí)別軟件掃描駕駛執(zhí)照數(shù)據(jù)庫(kù)的做法?!拔覀円郧皬奈从羞^(guò)由大多數(shù)美國(guó)人組成的生物識(shí)別數(shù)據(jù)庫(kù),但現(xiàn)在我們已經(jīng)做到了 - 多虧了人臉識(shí)別技術(shù) - 并且執(zhí)法部門(mén)可以訪問(wèn)至少32個(gè)州的駕駛執(zhí)照數(shù)據(jù)庫(kù),”她說(shuō)。
Garvie認(rèn)為,警方也應(yīng)該禁止實(shí)時(shí)進(jìn)行面部識(shí)別,因?yàn)榫炷軌蛟诳棺h時(shí)掃描人員的臉并追蹤他們的位置,這樣做風(fēng)險(xiǎn)太大。“ 技術(shù)的落地從根本上為執(zhí)法提供了新的方法,但我認(rèn)為,其風(fēng)險(xiǎn)大于益處?!凹泳S說(shuō)。
檢察官和警察也有義務(wù)告訴嫌疑人及其律師,面部識(shí)別有助于逮捕行動(dòng)。該建議是2016年報(bào)告的一部分,但Garvie表示,她沒(méi)有以此立法或立規(guī)的司法管轄區(qū)。
“我們看到的是,關(guān)于人臉識(shí)別搜索的信息通常不會(huì)轉(zhuǎn)交給辯護(hù)方,不是因?yàn)檫@樣不符合規(guī)定,而是辯護(hù)律師并不知道他們的客戶正被進(jìn)行面部識(shí)別搜索,“她說(shuō)。“人們被逮捕和指控,結(jié)果發(fā)現(xiàn)他們被捕和指控的原因竟然是人工智能“認(rèn)為”他是個(gè)壞人。對(duì)我而言,這似乎是十分違背正常程序的?!?/p>
Mutale Nkonde是數(shù)據(jù)與社會(huì)研究所的政策分析師和研究員,是幫助編寫(xiě)“算法問(wèn)責(zé)法”的團(tuán)體的一員。該法案于上個(gè)月在美國(guó)參議院提出,要求進(jìn)行隱私,安全和偏見(jiàn)風(fēng)險(xiǎn)評(píng)估,并由聯(lián)邦貿(mào)易委員會(huì)負(fù)責(zé)監(jiān)管。
與Garvie一樣,Nkonde認(rèn)為舊金山禁令為其他相關(guān)方提供了一個(gè)典型例子,例如布魯克林居民目前正想把他們的房東暴打一頓,因?yàn)榉繓|想用面部識(shí)別軟件開(kāi)他們的門(mén)鎖。她也贊成暫停使用這種技術(shù)。
“即使禁令聽(tīng)起來(lái)真有吸引力,如果我們可以暫停并進(jìn)行更多測(cè)試,并且審查算法,更深入地認(rèn)識(shí)到他們不會(huì)涉及膚色和性別問(wèn)題這一事實(shí),那至少能達(dá)成一點(diǎn)共識(shí),或是關(guān)于禁令的法律論據(jù),并與行業(yè)進(jìn)行充分地交談,“她說(shuō)?!叭绻?a target="_blank">產(chǎn)品沒(méi)有市場(chǎng),資源是不會(huì)被投入進(jìn)來(lái)的。”
Nkonde去年向眾議院介紹了“算法偏見(jiàn)”,但該議案可能不會(huì)很快簽署成為法律,不過(guò)Nkonde仍然認(rèn)為在總統(tǒng)選舉年之前關(guān)注這個(gè)問(wèn)題很重要。
算法偏見(jiàn):從事程序設(shè)計(jì)的工程師,即便本身沒(méi)有種族、性別、年齡歧視等傾向,也有可能造成偏見(jiàn),因?yàn)槲覀兊乃季S方式中多少滲透著偏見(jiàn),最終影響算法的公正性
“對(duì)于立法機(jī)關(guān)中的人來(lái)說(shuō),不斷加強(qiáng)這些想法非常重要,因?yàn)檫@是我們能夠解決問(wèn)題的唯一方式,”她說(shuō)?!叭绻憷^續(xù)看到一項(xiàng)法案一直是[國(guó)會(huì)]辦公室里的話題,那么這個(gè)想法將會(huì)被制定成法律?!?/p>
在業(yè)務(wù)方面,Nkonde認(rèn)為需要制定法規(guī)和罰款,以確保未能實(shí)現(xiàn)種族和性別平等的科技公司具有法律約束力。不過(guò),她警告說(shuō),有關(guān)人工智能的公司可能會(huì)參與那種高舉多樣性和包容性氣質(zhì)的“道德洗滌”,一邊談?wù)撝惹行枰淖?,但沒(méi)有絲毫的進(jìn)步。
“公司道德是一回事,但從我的角度來(lái)看,如果沒(méi)有法律給我們的支持,那么就沒(méi)有辦法讓公司承擔(dān)責(zé)任,“她說(shuō)。
一種不可挽回的技術(shù)
Nkonde和Garvie提倡暫停使用政府和警方的面部識(shí)別,而律師Brian Hofer希望看到更多政府實(shí)施永久性禁令。
Hofer在舊金山幫助創(chuàng)作了面部識(shí)別軟件禁令,這是他在第四個(gè)海灣區(qū)市政當(dāng)局幫助制定使用ACLU CCOP模型的監(jiān)控技術(shù)政策。
Hofer一直在與伯克利和奧克蘭的立法者交談,在那里他擔(dān)任該市隱私咨詢委員會(huì)的主席。他之前因“車牌讀者”事件而出名,他贊成在家鄉(xiāng)奧克蘭永久禁止面部識(shí)別軟件,因?yàn)樗ε抡`用和訴訟。
“l(fā)icense plate reader(車牌讀者)”事件:2001年Hofer租了一輛車,而恰好之前租車的人用這輛車做了違法的事,導(dǎo)致Hofer被警方誤抓
“這是[奧克蘭警察局]在聯(lián)邦監(jiān)測(cè)我們種族貌相的第16年。我們總是因某些警察里的丑聞而被起訴。我不想為這種強(qiáng)大的技術(shù)想象承擔(dān)責(zé)任,它會(huì)破壞我們,我認(rèn)為這將在很多城市發(fā)生,“霍費(fèi)爾說(shuō)。
更廣泛地說(shuō),霍費(fèi)爾希望伯克利和奧克蘭能夠?yàn)槊娌孔R(shí)別軟件禁令提供動(dòng)力,因?yàn)樗J(rèn)為“還有時(shí)間來(lái)控制它”。
“我堅(jiān)信,這項(xiàng)技術(shù)會(huì)更準(zhǔn)確,這是我更關(guān)心的問(wèn)題,它將是完美的監(jiān)控,”他說(shuō)?!斑@將是一種侵入性,我們從未同意過(guò)政府。他們的權(quán)力擴(kuò)張過(guò)于激進(jìn),我不認(rèn)為在日常生活中走來(lái)走去,就讓自己接受如此的大規(guī)模監(jiān)視?!?/p>
如果禁令不能成為常態(tài),霍費(fèi)爾認(rèn)為立法應(yīng)該允許對(duì)軟件進(jìn)行獨(dú)立審查并限制特定情況的使用 - 但他認(rèn)為使用的泛濫是不可避免的,而大規(guī)模監(jiān)視總是被濫用。
“識(shí)別綁架嫌疑人,兇殺案嫌疑人,強(qiáng)奸犯,真正的暴力掠奪者 - 那里可能會(huì)有一些成功案例,我很確定。但是一旦你打開(kāi)門(mén),它就會(huì)傳播開(kāi)來(lái)。它將全面蔓延,“他警告說(shuō)。
面部識(shí)別能讓世界變得更美好嗎?
不是每個(gè)人都希望全面禁止或暫停實(shí)施。信息技術(shù)與創(chuàng)新基金會(huì)(ITIF)副總裁兼數(shù)據(jù)創(chuàng)新中心主任丹尼爾·卡斯特羅堅(jiān)決反對(duì)面部識(shí)別軟件禁令,稱他們?cè)陔[私方面落后一步,更有可能將舊金山變?yōu)楣虐汀?/p>
“古巴人經(jīng)常開(kāi)的車都是20世紀(jì)50年代的汽車或摩托車,因?yàn)樗鼈円呀?jīng)與世界其他地方隔絕了。像這樣的禁令,而不是一種監(jiān)督或緩慢的方法,逼著警察一定要使用舊技術(shù),我認(rèn)為這不解決問(wèn)題,因?yàn)槲艺J(rèn)為人們更希望看到警察部隊(duì)是有效的,“卡斯特羅說(shuō)。
人們希望警察能夠更加“有效”
ITIF是一家位于華盛頓特區(qū)的智庫(kù),專注于技術(shù)政策,生命科學(xué)和清潔能源等問(wèn)題。本周,ITIF的數(shù)據(jù)創(chuàng)新中心加入了人工智能合作伙伴關(guān)系,這是一個(gè)由80多個(gè)組織組成的聯(lián)盟,關(guān)于人工智能的使用道德,包括微軟,F(xiàn)acebook,亞馬遜和谷歌等。微軟和亞馬遜等公司的員工都參與其中。
卡斯特羅認(rèn)為警察部門(mén)需要對(duì)自己的系統(tǒng)進(jìn)行更多的性能準(zhǔn)確性審查,并制定最低的性能標(biāo)準(zhǔn)。與Garvie一樣,他同意需要最低照片質(zhì)量標(biāo)準(zhǔn),但他同樣認(rèn)為不應(yīng)過(guò)度使用使用面部識(shí)別。
他還認(rèn)為警察制度的改革也可以利用好面部識(shí)別軟件?!拔艺J(rèn)為警察部門(mén)有機(jī)會(huì)積極努力,用軟件代替人工,也就用中立代替了(可能存在的)的偏見(jiàn),改善他們與邊緣社區(qū)的關(guān)系, - 使用面部識(shí)別來(lái)幫助解決其中的一些問(wèn)題。我認(rèn)為這個(gè)工具是中立的。它當(dāng)然也可能加劇這些問(wèn)題,但我認(rèn)為不一定總會(huì)這樣,“卡斯特羅說(shuō)。
Veritone是一家向美國(guó)和歐洲的執(zhí)法部門(mén)銷售面部識(shí)別軟件的人工智能公司,該公司也認(rèn)為該技術(shù)可以實(shí)現(xiàn)更好的社區(qū)關(guān)系,并且它將用于為無(wú)辜的嫌疑人脫罪,而不是導(dǎo)致錯(cuò)誤的定罪。
“這個(gè)星球上最有偏見(jiàn)的系統(tǒng)是人類,”Veritone首席執(zhí)行官Chad Steelberg在電話采訪中告訴VentureBeat。
與Hofer和Garvie一樣,Steelberg認(rèn)為,警方在公共場(chǎng)所使用自動(dòng)化實(shí)時(shí)面部識(shí)別功能,如目前在底特律使用的系統(tǒng),不應(yīng)該被允許監(jiān)控未犯罪的人的日常生活,也就是說(shuō),該工具可用于侵犯公民權(quán)利和集會(huì)和***。
但他也認(rèn)為可以負(fù)責(zé)任地使用面部識(shí)別來(lái)幫助解決一些人類最棘手的問(wèn)題?!叭斯ぶ悄艿暮锰幣c你所讀到的大部分內(nèi)容相悖。這是一個(gè)提供真實(shí)事實(shí),沒(méi)有偏見(jiàn)和人文背景以及社會(huì)影響的系統(tǒng),“他說(shuō)。“而且我認(rèn)為這對(duì)于執(zhí)法部門(mén)和社會(huì)其他許多破碎部分都是必要的。從完全的角度來(lái)看,禁止這項(xiàng)技術(shù)似乎是一種絕對(duì)愚蠢的做法,而且我認(rèn)為更為周到的立法是必要的?!?/p>
隨著越來(lái)越多的城市和立法機(jī)構(gòu)對(duì)面部識(shí)別軟件都發(fā)布了禁令或臨時(shí)禁令,舊金山的裁決顯然只是個(gè)開(kāi)始。然而,社區(qū)和立法者既然選擇撰寫(xiě)法律來(lái)解決問(wèn)題,那么這些辯論必須保持深思熟慮并符合主流價(jià)值觀,因?yàn)楸M管***中有民權(quán)保障,但沒(méi)有人會(huì)天真地認(rèn)為,在美國(guó),沒(méi)有人在暗地里用面部識(shí)別進(jìn)行大規(guī)模監(jiān)視。
-
微軟
+關(guān)注
關(guān)注
4文章
6599瀏覽量
104101 -
面部識(shí)別
+關(guān)注
關(guān)注
1文章
375瀏覽量
26639 -
亞馬遜
+關(guān)注
關(guān)注
8文章
2667瀏覽量
83395
原文標(biāo)題:智態(tài)°:舊金山面部識(shí)別禁令的爭(zhēng)議仍在繼續(xù)——暫時(shí)?還是永遠(yuǎn)?
文章出處:【微信號(hào):smartman163,微信公眾號(hào):網(wǎng)易智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論