全美第二個(gè)禁止面部識(shí)別技術(shù)的城市出現(xiàn)了

近日，美國(guó)又一城市通過了禁止在公共場(chǎng)所使用面部識(shí)別軟件的法令，成為繼舊金山之后全美第二個(gè)禁止面部識(shí)別技術(shù)的城市。美國(guó)會(huì)兩黨罕見地共同提案，擬立法暫停使用人臉識(shí)別軟件。在人臉識(shí)別技術(shù)應(yīng)用方面，美國(guó)似乎走向了保守。

繼舊金山之后，全美第二個(gè)禁止面部識(shí)別技術(shù)的城市出現(xiàn)了。

近日，馬薩諸塞州的薩默維爾市議會(huì)通過了禁止在公共場(chǎng)所使用面部識(shí)別軟件的投票。新政策生效后，該市各機(jī)構(gòu)、分局或下屬部門，均不得在公共場(chǎng)所使用面部識(shí)別技術(shù)。

面部識(shí)別技術(shù)在美國(guó)的推進(jìn)困難重重。警方、政府部門等對(duì)使用面部識(shí)別協(xié)助警務(wù)有需求，但受到侵犯隱私、人權(quán)，歧視少數(shù)族裔、歧視女性等的指責(zé)。對(duì)面部識(shí)別的批判越來越多，除舊金山、薩默維爾市外，奧克蘭、紐約等城市也在考慮類似禁令。

全票通過：繼舊金山之后，全美第二個(gè)禁止面部識(shí)別的城市

由于對(duì)潛在歧視和反烏托邦（dystopian）濫用的擔(dān)憂，近日，美國(guó)馬薩諸塞州的薩默維爾市（Somerville）議會(huì)投票禁止當(dāng)?shù)鼐胶褪姓块T使用面部識(shí)別軟件。這使得位于波士頓附近并擁有81,000人口的薩默維爾成為美國(guó)第二個(gè)禁止該技術(shù)的城市。該禁令是在5月份舊金山通過面部識(shí)別禁令之后實(shí)施的。該條例部分由ACLU（美國(guó)公民自由聯(lián)盟）撰寫，ACLU也幫助制定了薩默維爾法令。

除了禁止市政部門積極使用人工智能外，該法令還禁止在刑事調(diào)查或法律訴訟中使用面部識(shí)別軟件系統(tǒng)產(chǎn)生的數(shù)據(jù)或證據(jù)。當(dāng)?shù)胤蓻]有限制州或聯(lián)邦執(zhí)法部門使用面部識(shí)別的范圍。

然而，法律將面部識(shí)別稱為“等同于要求每個(gè)人隨時(shí)攜帶和展示帶有個(gè)人照片的身份證”，并引用了對(duì)女性、年輕人、移民和有色人種面部識(shí)別錯(cuò)誤匹配的擔(dān)心。

該條例以11-0的投票獲得通過- 這并不令人驚訝，因?yàn)?1名薩默維爾市議員中有9位贊成立法。

隨著面部識(shí)別軟件開始滲透到工作場(chǎng)所，iPhone等消費(fèi)者設(shè)備使用面部識(shí)別來驗(yàn)證購(gòu)買，警方也采用了很大程度上不受管制的技術(shù)。隨著面部識(shí)別已經(jīng)發(fā)揮作用，政府剛剛開始考慮如何在社會(huì)中使用它。

Somerville城市職員John Long在一封電子郵件中表示，當(dāng)?shù)鼐用穹窒砹?8條書面評(píng)論，加上ACLU的支持信和來自貿(mào)易組織安全行業(yè)協(xié)會(huì)的反對(duì)信。該市收到的所有信件都支持禁令。

“在使用納稅人資金之前，任何新的安全技術(shù)必須證明是有效的，”薩默維爾居民Dmitry Erastov在一封信中說。

Logic雜志的創(chuàng)始編輯和哈佛大學(xué)職員Moira Weigel表示：“我們知道，這些技術(shù)強(qiáng)制執(zhí)行種族主義和cis-heterosexism，并為民主上不負(fù)責(zé)任的私人實(shí)體提供了大量敏感信息。舊金山是另一個(gè)擁有大量技術(shù)人員的城市，他們了解這些系統(tǒng)是如何運(yùn)作的，并且也投票禁止它們，這并不是偶然的?！?/p>

同樣也是這幾天，警用攝像機(jī)制造商 Axon承諾將不為其產(chǎn)品添加面部識(shí)別軟件。

許多人工智能專家或隱私倡導(dǎo)者向州和國(guó)家立法者提供有關(guān)面部識(shí)別軟件相關(guān)風(fēng)險(xiǎn)和機(jī)會(huì)的建議，有利于暫?；驈氐捉乖摷夹g(shù)。

波士頓地區(qū)在面部識(shí)別政策辯論中扮演著相當(dāng)突出的角色。馬薩諸塞州立法機(jī)構(gòu)目前正在考慮由波士頓地區(qū)立法者贊助的法案“面部監(jiān)視暫停法案”。

舊金山成美國(guó)第一個(gè)禁止面部識(shí)別監(jiān)控的城市

在波士頓之前，今年5月，舊金山成為美國(guó)第一個(gè)禁止面部識(shí)別監(jiān)控的城市。該措施以舊金山監(jiān)管委員會(huì)的8-1投票通過，使舊金山成為美國(guó)第一個(gè)禁止警察和其他政府機(jī)構(gòu)使用面部識(shí)別技術(shù)的城市。

近年來，由于深度學(xué)習(xí)技術(shù)的普及，面部識(shí)別得到了顯著改善。典型人臉識(shí)別系統(tǒng)的工作方式是分析面部特征，然后與數(shù)據(jù)庫(kù)中的標(biāo)記面部進(jìn)行比較。

然而，人工智能研究人員和ACLU等民權(quán)組織特別關(guān)注面部識(shí)別系統(tǒng)的準(zhǔn)確性和偏見。有人擔(dān)心，它們?cè)谡_認(rèn)識(shí)有色人種和女性方面并不那么有效。這個(gè)問題的一個(gè)原因是用于訓(xùn)練軟件的數(shù)據(jù)集可能不成比例地是男性和白人。

目前還沒有關(guān)于如何使用人工智能技術(shù)或面部識(shí)別系統(tǒng)的聯(lián)邦法律，但一些州和地方政府已經(jīng)做出了自己的努力：例如，伊利諾伊州有一項(xiàng)法律要求公司在收集生物識(shí)別信息之前征得客戶的同意。加利福尼亞州參議院目前正在考慮一項(xiàng)法案，該法案將禁止該州的警察使用生物識(shí)別技術(shù)（如面部識(shí)別）和身體攝像機(jī)。

根據(jù)新的舊金山法律，任何想要使用監(jiān)控技術(shù)或服務(wù)的城市部門必須首先得到監(jiān)事會(huì)（Board of Supervisors）的批準(zhǔn)。該過程將包括提交有關(guān)技術(shù)及其使用方式的信息，并在公開聽證會(huì)上提交。根據(jù)新規(guī)則，任何已經(jīng)使用監(jiān)控技術(shù)的城市部門都需要告訴董事會(huì)是如何使用它的。

該條例還規(guī)定，該市每年都需要向監(jiān)事會(huì)報(bào)告監(jiān)管設(shè)備和服務(wù)是否按批準(zhǔn)方式使用，還包括保存、共享或刪除數(shù)據(jù)的詳細(xì)信息。

不過，也有一些人反對(duì)該條例：“當(dāng)負(fù)責(zé)任地使用時(shí)，它可能是一個(gè)很好的公共安全工具?！?/p>

美國(guó)會(huì)兩黨共同提案：立法暫停使用人臉識(shí)別軟件

上個(gè)月，美國(guó)國(guó)會(huì)兩黨在一場(chǎng)國(guó)會(huì)聽證會(huì)上正式討論了對(duì)執(zhí)法部門使用面部識(shí)別軟件所帶來的日益擔(dān)憂。議員們聽了幾個(gè)小時(shí)的證詞，內(nèi)容涉及不受監(jiān)管的面部識(shí)別如何跟蹤抗議者，影響刑事司法系統(tǒng)，并加劇種族偏見等。

國(guó)會(huì)兩黨共同提案，尋求立法對(duì)面部識(shí)別進(jìn)行監(jiān)管

不同尋常的是，兩黨這次都表現(xiàn)出了合作的態(tài)度，同意共同努力對(duì)面部識(shí)別進(jìn)行監(jiān)管。

兩黨一致認(rèn)為面部識(shí)別軟件有侵犯公民隱私權(quán)和抗議權(quán)的隱憂，尋求立法暫停此類工具的使用。包括面部識(shí)別軟件專家在內(nèi)的團(tuán)隊(duì)認(rèn)為，在更完善的監(jiān)管出臺(tái)或技術(shù)充分成熟之前，此類面部識(shí)別工具應(yīng)由國(guó)家叫停。

當(dāng)前，F(xiàn)BI 和國(guó)土安全局等聯(lián)邦機(jī)構(gòu)在使用面部數(shù)據(jù)識(shí)別潛在犯罪嫌疑人前是不需要獲得搜查令的。目前還不清楚該委員會(huì)計(jì)劃如何起草法律來打擊潛在的違法行為，但兩黨議員都對(duì)美國(guó)公民的面部掃描可能侵犯了憲法權(quán)利這點(diǎn)提出了擔(dān)憂。

專家警告稱，由于這項(xiàng)技術(shù)推出得太快并且存在嚴(yán)重缺陷，可能會(huì)導(dǎo)致調(diào)查人員對(duì)潛在嫌疑人進(jìn)行誤判。

美國(guó)并非唯一對(duì)面部識(shí)別技術(shù)憂心忡忡的國(guó)家。近日，歐洲人工智能高級(jí)別專家組(HLEG)發(fā)布報(bào)告，提議“歐洲應(yīng)該禁止AI進(jìn)行大規(guī)模監(jiān)視和社會(huì)信用評(píng)分”。報(bào)告寫道：“政府應(yīng)承諾只部署和采購(gòu)值得信賴的人工智能系統(tǒng)，其設(shè)計(jì)宗旨是尊重法律和基本權(quán)利，符合倫理原則，社會(huì)技術(shù)健全。”

膚色、性別歧視引爭(zhēng)議，專家批判面部識(shí)別技術(shù)被濫用

大約一年前，美國(guó)公民自由聯(lián)盟（ACLU）首次公開了亞馬遜的面部識(shí)別軟件已在使用的事實(shí)。從那時(shí)起，對(duì)該軟件的審計(jì)發(fā)現(xiàn)其更有可能偏向白人，對(duì)黑人很有可能識(shí)別不當(dāng)，特別是女性黑人。當(dāng) ACLU 將國(guó)會(huì)議員與犯罪數(shù)據(jù)庫(kù)進(jìn)行匹配時(shí)，亞馬遜的 Rekognition 軟件錯(cuò)誤地將28名議員識(shí)別為罪犯。被識(shí)別為罪犯的 28 名議員中，40% 是有色人種，盡管國(guó)會(huì)議員中有色人種的比例僅為 20%。

去年，亞馬遜的人臉識(shí)別程序 Rekognition 曾將 28 名議員錯(cuò)誤地識(shí)別為罪犯，引發(fā)巨大爭(zhēng)議。

沒有監(jiān)管的現(xiàn)狀下，濫用面部識(shí)別技術(shù)的可能性很高，特別是對(duì)于有色人種。MIT媒體實(shí)驗(yàn)室研究員和算法正義聯(lián)盟（Algorithmic Justice League）創(chuàng)始人 Joy Buowamwini 發(fā)表研究表明，人臉識(shí)別系統(tǒng)對(duì)膚色較淺的男性表現(xiàn)優(yōu)于膚色較深的男性，而對(duì)于膚色較深的女性則表現(xiàn)最差。

她的研究成果遭到 AI 領(lǐng)軍企業(yè)的批評(píng)，但有數(shù)十位著名的 AI 研究人員為其辯護(hù)。她在會(huì)上說：“至少，國(guó)會(huì)應(yīng)該通過一項(xiàng)關(guān)于警察使用人臉識(shí)別的禁令，因?yàn)槿四樧R(shí)別的濫用、缺乏監(jiān)督和技術(shù)的不成熟會(huì)造成很大的風(fēng)險(xiǎn)，對(duì)于邊緣化社區(qū)而言尤其如此?！?/p>

美國(guó)走向保守：禁止人臉識(shí)別的城市在增加

自MIT的研究和 ACLU 的報(bào)告以來，微軟和亞馬遜都聲稱已經(jīng)縮小了準(zhǔn)確性方面的種族差異。

但是，改進(jìn)技術(shù)以更好地識(shí)別黑色面孔只是過程的一部分：準(zhǔn)確度很高的技術(shù)仍然可能被用來支持有害的警務(wù)。

如何使用這項(xiàng)技術(shù)很重要，這就是政策可以防止濫用的地方。微軟和亞馬遜提出的解決方案是，在人臉識(shí)別已經(jīng)投入使用后，再對(duì)其進(jìn)行種族和性別偏見的審核 —— 這可能為時(shí)已晚。

科技的發(fā)展向來就是一把雙刃劍，任何一項(xiàng)技術(shù)的應(yīng)用都常有利弊相隨。美國(guó)在人臉識(shí)別這樣的技術(shù)應(yīng)用方面似乎走向了保守的道路，舊金山、波士頓郊區(qū)已經(jīng)成為正式立法禁止警方和市政部門使用人臉識(shí)別軟件的兩個(gè)城市，奧克蘭也在考慮類似的禁令。在紐約，人臉識(shí)別被嘗試用于在大橋上識(shí)別車內(nèi)司機(jī)面孔，結(jié)果是徹底失敗。

像人臉識(shí)別這樣的人工智能技術(shù)應(yīng)用，到底應(yīng)該鼓勵(lì)還是禁止，歡迎讀者朋友留言討論。