人臉識(shí)別等AI技術(shù)發(fā)展在美國(guó)受到阻礙

凡是都辯證存在著。

因擔(dān)心應(yīng)用不當(dāng)，IBM 宣布不再開發(fā)、提供任何人臉識(shí)別相關(guān)技術(shù)。

IBM CEO 阿爾文德·克里什納 （Arvind Krishna） 在遞給美國(guó)國(guó)會(huì)議員的一封信中下了這個(gè)決定。

他說：“IBM 反對(duì)使用任何技術(shù)來監(jiān)視大眾、種族定性、侵犯基本人權(quán)和自由、以及從事任何與我們價(jià)值觀及原則不一致的事情?！逼鋵?shí)，人臉識(shí)別業(yè)務(wù)在 IBM 整體營(yíng)收中的占比并不大，相關(guān)技術(shù)實(shí)力、研發(fā)進(jìn)程也平平無奇。但考慮到藍(lán)巨人 IBM 是強(qiáng) ToG 公司，政府部門又是這項(xiàng)技術(shù)的高頻采購(gòu)方，全面停止這項(xiàng)業(yè)務(wù)也引發(fā)了不少討論。

1

一項(xiàng)技術(shù)的研發(fā)、落地，通常在同一象限內(nèi)基本能讓全球的從業(yè)者達(dá)成初步共識(shí)，譬如 5G、IoT 等等。

人臉識(shí)別技術(shù)卻是個(gè)例外，它一直經(jīng)歷著史無前例的冰火兩重天。

作為人臉識(shí)別等 AI 技術(shù)停棲的天然深水港，安防市場(chǎng)過去幾年熱鬧非凡。在各類技術(shù)相互交織的時(shí)代，攝像頭既是終端商用落地場(chǎng)景，又是數(shù)據(jù)驅(qū)動(dòng)源頭之一，戰(zhàn)略制高點(diǎn)地位非同一般。大背景下，這條賽道也吸引了海康、大華等傳統(tǒng)安防企業(yè)外，包括 PATH（平安、阿里、騰訊、華為）等無數(shù)大小企業(yè)的密切關(guān)注。誰也沒有想到的是，在人臉識(shí)別等 AI 技術(shù)發(fā)展方興未艾時(shí)，大洋彼岸的一些地區(qū)、企業(yè)卻試圖狙擊。

2

去年，繼舊金山之后，美國(guó)馬薩諸塞州的薩默維爾市議會(huì)以 11 票贊成、0 票反對(duì)的結(jié)果通過了《反面部識(shí)別條例》（anti-facial recognition act）。該法案認(rèn)為這項(xiàng)技術(shù)有可能影響到言論自由。

法案相關(guān)條例指出：“在公眾地方廣泛應(yīng)用人臉監(jiān)控，其功能相當(dāng)于要求每個(gè)人在任何時(shí)候都必須攜帶并出示一張個(gè)人照片身份證。”該法案還指出，面部識(shí)別技術(shù)可能會(huì)出現(xiàn)誤判，尤其是女性和非白人?！霸S多應(yīng)用人臉監(jiān)控技術(shù)的數(shù)據(jù)庫都受到種族和其他偏見的困擾?！痹撌凶h員 Ben Ewen-Campen 說，公眾越來越擔(dān)心新技術(shù)將影響社會(huì)和諧，這是一場(chǎng)侵犯隱私的攻擊，作為個(gè)人和家庭，在社會(huì)中獲得自由越來越困難。政府法案之下，部分企業(yè)也隨之響應(yīng)。

緊接著，警用執(zhí)法記錄儀制造商 Axon 發(fā)表聲明，自家所產(chǎn)攝像頭產(chǎn)品將不帶面部識(shí)別功能。在 Axon CEO Rick Smith 看來，人臉識(shí)別技術(shù)對(duì)于執(zhí)法類應(yīng)用而言還不夠準(zhǔn)確、可靠。他說，“這類技術(shù)方案還沒有做好真正通過人臉識(shí)別做出行動(dòng)決策的準(zhǔn)備。其中可能出現(xiàn)的技術(shù)故障或?qū)頌?zāi)難性的后果，大家不應(yīng)急于將其部署至實(shí)際場(chǎng)景當(dāng)中。”“這項(xiàng)決定是在道德委員會(huì)認(rèn)定面部識(shí)別技術(shù)不夠精確后作出的?！盇xon 相關(guān)負(fù)責(zé)人說道。

此前，Axon 還專門設(shè)立了 AI 倫理道德委員會(huì)，以研究人臉識(shí)別技術(shù)可能帶來的危害。Axon 之外，一些國(guó)際型大企業(yè)對(duì)此也做出了反應(yīng)。去年 6 月 6 日，英國(guó)報(bào)道，微軟已經(jīng)悄然刪除其 MS Celeb 人臉識(shí)別數(shù)據(jù)庫。微軟稱該數(shù)據(jù)庫是全球最大的公開人臉識(shí)別數(shù)據(jù)庫。該數(shù)據(jù)庫于 2016 年公開，含有約 10 萬人的 1000 萬張照片，這些照片未獲得本人許可，并用于商業(yè)場(chǎng)景。另外，谷歌高管也曾表態(tài)，人臉識(shí)別技術(shù)存在巨大社會(huì)風(fēng)險(xiǎn)。此前，谷歌公司全球事務(wù)高級(jí)副總裁 Kent Walker 在一篇博文中寫道：谷歌將不會(huì)通過 Google Cloud 提供“通用型”的人臉識(shí)別 API。除非相關(guān)“挑戰(zhàn)”得到明確“認(rèn)定與解決”。

Walker 解釋，“與眾多具有多種用途的新技術(shù)一樣，人臉識(shí)別的應(yīng)用同樣需要被慎重考量，從而確保其使用方式符合我們的原則與價(jià)值觀，同時(shí)避免濫用與可能出現(xiàn)的危害性結(jié)果?！辈痪弥?，谷歌方面還正式?jīng)Q定中止為美國(guó)國(guó)防部提供對(duì)無人機(jī)拍攝內(nèi)容進(jìn)行分析的人工智能方案。

3

凡是都辯證存在著。

微軟、谷歌等公司對(duì)人臉識(shí)別技術(shù)表現(xiàn)出了超常的謹(jǐn)慎態(tài)度外，也有一些公司正積極落地，用以人臉識(shí)別為代表的 AI 技術(shù)賦能百業(yè)，降本增效。

去年夏天，亞馬遜便將 Rekognition 交付至佛羅里達(dá)州奧蘭多市以及俄勒岡州華盛頓縣警長(zhǎng)辦公室作為執(zhí)法工具。

此外，華盛頓縣還決定利用該項(xiàng)功能構(gòu)建一款應(yīng)用程序，利用一套包含 30 萬人臉信息的數(shù)據(jù)庫對(duì)可疑犯罪分子的照片進(jìn)行掃描比對(duì)。

Rekognition 是亞馬遜于 2016 年末推出的人臉識(shí)別系統(tǒng)，它作為亞馬遜云業(yè)務(wù)的一部分，一直與政府合作，向后者提供基于“人”的安防服務(wù)。

用戶可以通過標(biāo)記存儲(chǔ)在其服務(wù)器上的圖像來教該服務(wù)從人群中找出個(gè)人，其面部識(shí)別技術(shù)可以掃描其他照片和視頻來檢測(cè)特定的個(gè)人。

之后的時(shí)間里，亞馬遜還在一直更新 Rekognition 服務(wù)，包括實(shí)時(shí)人臉識(shí)別，圖像識(shí)別文本以及改進(jìn)人臉檢測(cè)。

比如通過 Amazon Rekognition，用戶現(xiàn)在可以對(duì)數(shù)以萬計(jì)的面孔進(jìn)行實(shí)時(shí)面部搜索。和之前相比，搜索延遲縮短了 5 到 10 倍，同時(shí)允許存儲(chǔ)的人臉數(shù)量增加了 10 到 20 倍。

當(dāng)然，亞馬遜的 AI 賦能之路也遍布荊棘。

不久后，該項(xiàng)目就被美國(guó)公民自由聯(lián)盟盯上，他們呼呼：亞馬遜應(yīng)該停止向美國(guó)政府提供強(qiáng)大且“危險(xiǎn)”的人臉識(shí)別系統(tǒng) -Rekognition。

該聯(lián)盟認(rèn)為，“亞馬遜以十分低廉的價(jià)格向美國(guó)警方提供人臉識(shí)別服務(wù)。像 Rekognition 這樣的面部識(shí)別系統(tǒng)，可能會(huì)導(dǎo)致美國(guó)公民的私人數(shù)據(jù)被濫用及隱私遭到侵犯”。

在他們看來，將人臉識(shí)別技術(shù)應(yīng)用到前端視頻監(jiān)控?cái)z像機(jī)上，可能會(huì)打破隱私及實(shí)用性之間的平衡。

假設(shè)美國(guó)警方有若干臺(tái)這樣的安防攝像機(jī)，同時(shí)擁有可疑人員的“黑名單”照片庫，那么其他任何人如果與這些可疑人員有一些相像，一旦進(jìn)入警察的安防攝像機(jī)的鏡頭之內(nèi)，都有可能受到警務(wù)人員的盤問，而大多數(shù)美國(guó)人不希望生活在那樣的世界里。

對(duì)于該自由聯(lián)盟的呼吁，亞馬遜發(fā)言人表示，該公司要求客戶在使用其服務(wù)時(shí)要“遵守法律并對(duì)其行為負(fù)責(zé)”。同時(shí)亞馬遜強(qiáng)調(diào)了該技術(shù)的積極用途，比如幫助尋找走失兒童等。

與此同時(shí)，他們還表示“如果我們因?yàn)橛腥丝赡軙?huì)選擇濫用技術(shù)而禁止一些新的科技，我們今天的生活質(zhì)量會(huì)變差很多?！?/p>

作為系統(tǒng)的甲方客戶，美國(guó)俄勒岡州華盛頓縣發(fā)言人 Jeff Talbot 也表達(dá)了他們的看法，“我們已經(jīng)利用這項(xiàng)技術(shù)抓捕了很多嫌疑人，將嫌疑犯的識(shí)別時(shí)間從 2 到 3 天縮短至幾分鐘”。

“我們不是批量采集，我們不會(huì)把攝像機(jī)放在任何一個(gè)街角。”

Jeff Talbot 補(bǔ)充道，“我們希望社區(qū)成員能夠意識(shí)到我們?cè)谧鍪裁矗覀兛梢岳眠@個(gè)系統(tǒng)來解決犯罪問題。這個(gè)系統(tǒng)的應(yīng)用能夠保障社區(qū)安全，同時(shí)在事發(fā)之后可以獲得足夠的信息并迅速采取行動(dòng)，在破案過程中，節(jié)省幾秒的時(shí)間對(duì)于拯救生命來說都意義重大”。

其實(shí)，除亞馬遜之外，其他很多科技公司也與美國(guó)警方保持合作，將人臉識(shí)別技術(shù)應(yīng)用于視頻監(jiān)控和警察穿戴的相機(jī)鏡頭。

例如，摩托羅拉解決方案公司正在與人工智能初創(chuàng)公司 Neurala Inc，合作制造警察穿戴的相機(jī)鏡頭，用以識(shí)別嫌疑人或失蹤兒童，并可以在人群中發(fā)現(xiàn)他們。

4

“人臉識(shí)別技術(shù)是無罪的，鋼鐵可以被用來制造槍支，也可以被用于制造嬰兒保育箱?！?/p>

對(duì)于人臉識(shí)別技術(shù)落地所遭遇的困境，亞馬遜 CTO Werner Vogels 如是說。

他認(rèn)為，所有的技術(shù)都是雙面性的，可以有很好的應(yīng)用，也可以被惡意利用。

決定技術(shù)發(fā)展的走向，取決于監(jiān)管部門的選擇。

當(dāng)然，所有的技術(shù)從 0 到 1，從 1 到 N 的過程都是不斷補(bǔ)全自身短板的過程，在這方面，眾多公司也開始了攻堅(jiān)之路。

去年 5 月，F(xiàn)acebook 便發(fā)布了 Fairness Flow，該工具會(huì)自動(dòng)警告某種算法是否根據(jù)檢測(cè)目標(biāo)的種族、性別或者年齡，做出了不公平的判斷。

去年 6 月，通過與人工智能公平性專家們開展合作，微軟公司修改并擴(kuò)展了其用于模型訓(xùn)練的 Face API 數(shù)據(jù)集。

Face API 是一項(xiàng)微軟 Azure API，主要提供用于檢測(cè)、識(shí)別及分析圖像中人臉內(nèi)容的算法。

通過與膚色、性別以及年齡相關(guān)的大量新數(shù)據(jù)，F(xiàn)ace API 如今能夠?qū)⑸钅w色男性與女性的錯(cuò)誤判斷率降低至原本的二十分之一，對(duì)女性的錯(cuò)誤判斷率則降低為原先的九分之一。

與此同時(shí)，初創(chuàng)企業(yè) Gfycat 公司也于去年年末表示，其將引入更為嚴(yán)格的檢測(cè)閾值，從而努力提高其人臉識(shí)別算法在判斷亞裔人士面部方面的準(zhǔn)確性。

過去一段時(shí)間，以人臉識(shí)別為代表的 AI 技術(shù)在部分地區(qū)的發(fā)展的確遭遇了一些挑戰(zhàn)，但我們也絕不能因此去否定它所有的光環(huán)。

畢竟技術(shù)的正向革新往往都是伴隨著陣痛匍匐前行的。
責(zé)任編輯：tzh