IBM公司宣布停止AI提供人臉識(shí)別技術(shù)的相關(guān)服務(wù)

　　近日，IBM 公司宣布停止AI提供人臉識(shí)別技術(shù)的相關(guān)服務(wù)，因?yàn)閾?dān)心這項(xiàng)技術(shù)可能被用來(lái)促進(jìn)種族和性別歧視。

　　IBM 首席執(zhí)行官 Arvind Krishna 在一份遞交到美國(guó)國(guó)會(huì)的***中寫道：“IBM 堅(jiān)決反對(duì)將任何技術(shù)用于大規(guī)模監(jiān)視、種族定性、侵犯基本人權(quán)和自由，或任何與我們的價(jià)值觀、信任和透明原則不符的目的?！?/p>

　　顯然，IBM 此舉旨在響應(yīng)在美國(guó)愈演愈烈的反種族歧視運(yùn)動(dòng)“Black Lives Matter”。Arvind 在信中還呼吁國(guó)會(huì)出臺(tái)相關(guān)國(guó)家政策，鼓勵(lì)采用警員佩戴攝像頭（類似行車記錄儀）和數(shù)據(jù)分析等技術(shù)，引入適當(dāng)?shù)膯?wèn)責(zé)制度，讓執(zhí)法工作更透明。

　　目前，美國(guó)少數(shù)城市已經(jīng)禁止使用面部識(shí)別技術(shù)。去年，舊金山、奧克蘭和圣地亞哥等城市相繼禁止使用面部識(shí)別技術(shù)，理由是這項(xiàng)技術(shù)存在局限性，在使用方面缺乏標(biāo)準(zhǔn)，還助長(zhǎng)了對(duì)少數(shù)人種的潛在偏見(jiàn)。

　　人臉識(shí)別技術(shù)的發(fā)展

　　很難相信，這項(xiàng)十年前還常常出現(xiàn)在科幻電影中的技術(shù)，如今離我們的生活如此接近。事實(shí)上，人們?cè)谏鲜兰o(jì) 60 年代就開(kāi)始了對(duì)人臉識(shí)別技術(shù)的探索。彼時(shí)，人臉識(shí)別之父 Bledsoe 開(kāi)發(fā)了一種系統(tǒng)，該系統(tǒng)可用計(jì)算機(jī)輔助人們手動(dòng)記錄各種面部特征（包括眼睛，鼻子，發(fā)際線和嘴巴）的坐標(biāo)位置，然后將這些坐標(biāo)數(shù)據(jù)插入數(shù)據(jù)庫(kù)中。當(dāng)為系統(tǒng)提供某人的新照片時(shí)，它能夠從數(shù)據(jù)庫(kù)中檢索與之最相似的圖像。這就是最早的人臉識(shí)別系統(tǒng)?？上У氖?，受到當(dāng)時(shí)的技術(shù)和計(jì)算機(jī)處理能力的限制，這項(xiàng)技術(shù)并沒(méi)有得到大規(guī)模的應(yīng)用。但該系統(tǒng)成功證明了面部識(shí)別是可行的生物特征識(shí)別技術(shù)，邁出了人臉識(shí)別技術(shù)重要的第一步。

　　隨著計(jì)算機(jī)硬件性能的飛躍，研究者不斷地突破人臉識(shí)別系統(tǒng)的上限，但成功率一直無(wú)法實(shí)現(xiàn)大規(guī)模商用。直到 2014 年前后，大數(shù)據(jù)和深度學(xué)習(xí)的發(fā)展掀起了新時(shí)代 AI 熱潮，神經(jīng)網(wǎng)絡(luò)重受矚目，并在圖像分類、手寫體識(shí)別、語(yǔ)音識(shí)別等應(yīng)用中獲得了遠(yuǎn)超經(jīng)典方法的結(jié)果。來(lái)自***的研究團(tuán)隊(duì)提出將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到人臉識(shí)別上，采用 20 萬(wàn)訓(xùn)練數(shù)據(jù)，在 LFW 上第一次得到超過(guò)人類水平的識(shí)別精度，這是人臉識(shí)別發(fā)展歷史上的一座里程碑。自此之后，人臉識(shí)別技術(shù)與機(jī)器學(xué)習(xí)綁定，研究者們不斷改進(jìn)機(jī)器學(xué)習(xí)算法，同時(shí)擴(kuò)大訓(xùn)練樣本規(guī)模，將 LFW 上的識(shí)別精度推到99.5%以上。人臉識(shí)別發(fā)展過(guò)程中一些經(jīng)典的方法及其在 LFW 上的精度，都有一個(gè)基本的趨勢(shì)：訓(xùn)練數(shù)據(jù)規(guī)模越來(lái)越大，識(shí)別精度越來(lái)越高。

　　人臉識(shí)別中的偏見(jiàn)

　　在過(guò)去的十年中，得益于人工智能的發(fā)展，人臉識(shí)別軟件有了很大的進(jìn)步。同時(shí)，由于該技術(shù)通常是由私營(yíng)公司提供的，缺少相關(guān)法律法規(guī)的限制和政府部門的監(jiān)管。因此，有調(diào)查顯示這項(xiàng)技術(shù)存在種族、性別偏見(jiàn)，這會(huì)使該工具在執(zhí)法過(guò)程中的可靠性大打折扣，存在侵犯公民合法權(quán)利的風(fēng)險(xiǎn)。

　　2018 年，Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了許多商業(yè)人臉識(shí)別系統(tǒng)（包括 IBM 的）有多大的偏見(jiàn)。該研究測(cè)試了三款來(lái)自不同地區(qū)公司的主流人臉識(shí)別軟件，人物面部素材來(lái)自 3 個(gè)非洲國(guó)家和 3 個(gè)歐洲國(guó)家的志愿者，研究人員把素材按照膚色、性別來(lái)進(jìn)行交叉分類。研究結(jié)果顯示：

　　所有人臉識(shí)別軟件對(duì)男性的識(shí)別成功率都比女性更高，錯(cuò)誤率相差 8.1%~20.6%

　　所有人臉識(shí)別軟件對(duì)淺膚色的人臉識(shí)別成功率比深膚色的更高，錯(cuò)誤率相差 11.8%~19.2%

　　綜合各分類的人臉識(shí)別成功率如下：

　　綜合對(duì)比顯示，各人臉識(shí)別軟件對(duì)淺膚色男性的人臉識(shí)別成功率最高，對(duì)深膚色女性的人臉識(shí)別成功率最低，正確率差距最高達(dá)到 34.4% 。

　　也就是說(shuō)，在這些已經(jīng)大規(guī)模商用的人臉識(shí)別軟件應(yīng)用場(chǎng)景下，黑人女性有 20%~30%的概率被識(shí)別錯(cuò)誤，產(chǎn)生一定的誤會(huì)。如果是在警用安保等使用場(chǎng)景下，發(fā)生誤會(huì)的后果可能會(huì)非常嚴(yán)重。

　　這項(xiàng)研究工作引起了外界對(duì)這些人臉識(shí)別算法的批評(píng)，各大科技公司也為糾正偏差進(jìn)行了持續(xù)的調(diào)查研究。例如，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（National Institute of Standards and Technology）于 2019 年12 月進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)，“在大多數(shù)當(dāng)前評(píng)估的人臉識(shí)別算法中，跨人種差異確實(shí)存在廣泛的準(zhǔn)確性偏差”。除了對(duì)人種、性別的識(shí)別偏差外，人臉識(shí)別技術(shù)還因其在侵犯隱私方面的問(wèn)題而受到抨擊。

　　從今年初開(kāi)始，另一家美國(guó)的人臉識(shí)別技術(shù)公司 Clearview AI 受到了嚴(yán)密的審查，因?yàn)橛嘘P(guān)部門發(fā)現(xiàn)其面部識(shí)別工具由超過(guò) 30 億張圖像（大部分是通過(guò)抓取社交媒體網(wǎng)站收集的）構(gòu)建而成，并且已被很多企業(yè)廣泛使用。自那以來(lái)，Clearview 公司已被執(zhí)法部門責(zé)令停業(yè)，并且面臨多項(xiàng)侵犯公民隱私的訴訟。今年 1 月份，F(xiàn)acebook 也因其非法使用面部識(shí)別技術(shù)遭到檢方起訴，面臨 5.5 億美元的罰款。

　　人臉識(shí)別的未來(lái)

　　這一次藍(lán)色巨人 IBM 宣布放棄人臉識(shí)別業(yè)務(wù)的決策，也給野蠻生長(zhǎng)的人臉識(shí)別產(chǎn)業(yè)踩下了一腳急剎車，把人們的注意力集中到技術(shù)背后的問(wèn)題上來(lái)，比如人權(quán)平等、隱私保護(hù)等。各項(xiàng)研究表明，目前的人臉識(shí)別技術(shù)仍存在一定的缺陷。

　　不同于 5G 等新技術(shù)，AI 在誕生之初就被人們視為一把雙刃劍。無(wú)論是前段時(shí)間飽受爭(zhēng)議的 Deepfake，還是如今處境尷尬的人臉識(shí)別，人們對(duì)于 AI 技術(shù)帶來(lái)的社會(huì)、倫理問(wèn)題的擔(dān)憂從未停止。但還是那句話，“菜刀可以用來(lái)做菜，也能用來(lái)傷人”，技術(shù)本身是無(wú)罪的，一切都取決于使用技術(shù)的人。相信在這項(xiàng)技術(shù)完全成熟以后，人臉識(shí)別仍然能夠在一些人類需要的場(chǎng)景下發(fā)光發(fā)熱。