第三方機(jī)構(gòu)對(duì)亞馬遜和微軟的人臉識(shí)別程序進(jìn)行測(cè)試

微軟兩個(gè)月前呼吁通過(guò)立法監(jiān)管人臉識(shí)別軟件，該公司現(xiàn)在又開始進(jìn)行游說(shuō)，支持其所在的華盛頓州的首部相關(guān)法案。現(xiàn)在的問(wèn)題在于，與之同在西雅圖的亞馬遜是否會(huì)支持這一行為。

亞馬遜已經(jīng)請(qǐng)求該議案的提案人、華盛頓州參議員盧文·卡里勒（Reuven Carlyle）澄清一些問(wèn)題，并對(duì)一些內(nèi)容進(jìn)行調(diào)整，例如，這部議案要求號(hào)稱能識(shí)別人臉的人工智能軟件商向有意對(duì)其進(jìn)行測(cè)試的第三方開放其產(chǎn)品?？ɡ锢找呀?jīng)評(píng)估了各方的許多修改請(qǐng)求，其中也包括亞馬遜。他也在周四提交了修訂版的議案。

“公正地說(shuō)，亞馬遜對(duì)人臉識(shí)別施加有意義的限制持有深深的懷疑和擔(dān)憂。這顯然是他們長(zhǎng)期商業(yè)戰(zhàn)略的一項(xiàng)核心技術(shù)。”卡里勒說(shuō)，這位民主黨人代表了西雅圖的部分地區(qū)，其中也包括亞馬遜的總部所在地。

他認(rèn)為，該公司希望保留創(chuàng)新能力。不過(guò)，“他們也明確表示其目標(biāo)是能夠找到一種合適的狀態(tài)，讓他們可以支持這項(xiàng)立法?！?/p>

人工智能軟件在美國(guó)和中國(guó)的頂尖科技公司中扮演越來(lái)越重要的角色。一些公司和游說(shuō)組織對(duì)該技術(shù)表達(dá)擔(dān)憂，尤其是那些通過(guò)面部特征對(duì)人進(jìn)行追蹤和歸類的產(chǎn)品，因?yàn)檫@類產(chǎn)品可能存在偏見(jiàn)，還有可能破壞隱私。亞馬遜就曾與批評(píng)其軟件的研究人員展開過(guò)爭(zhēng)論。現(xiàn)在，許多政府開始著手監(jiān)管這項(xiàng)技術(shù)。

微軟總裁兼首席法務(wù)官布拉德·史密斯（Brad Smith）接受采訪時(shí)表示，向第三方開放軟件，以供測(cè)試之用，是這部立法提案的關(guān)鍵部分之一。他認(rèn)為，任何開發(fā)這種軟件的公司都應(yīng)該支持這種做法。

反對(duì)這種測(cè)試“就像汽車企業(yè)反對(duì)氣囊測(cè)試一樣”。史密斯說(shuō)：“一家公司為什么要反對(duì)讓公眾有能力知道某項(xiàng)服務(wù)是否運(yùn)轉(zhuǎn)良好？公眾有權(quán)評(píng)估這些服務(wù)，相關(guān)企業(yè)也應(yīng)該認(rèn)識(shí)到這種第三方測(cè)試的重要性?！?/p>

亞馬遜拒絕對(duì)是否支持這項(xiàng)立法發(fā)表評(píng)論，因?yàn)榫唧w的議案仍在調(diào)整修改過(guò)程中。該公司周四發(fā)布一篇博文，闡述了他們認(rèn)為人臉識(shí)別軟件應(yīng)該通過(guò)何種方式進(jìn)行監(jiān)管。例如，該公司表示，當(dāng)執(zhí)法部門使用軟件時(shí)，這些部門應(yīng)該有人來(lái)評(píng)估結(jié)果，確保公民自由不被破壞。亞馬遜還表示，他們支持對(duì)面部識(shí)別軟件的標(biāo)準(zhǔn)化測(cè)試。

“任何立法都必須保護(hù)公民權(quán)利，還要允許持續(xù)的創(chuàng)新，讓技術(shù)可以實(shí)際應(yīng)用。”亞馬遜網(wǎng)絡(luò)服務(wù)（AWS）全球公共政策副總裁邁克爾·龐克（Michael Punke）說(shuō)。

這項(xiàng)議案還有幾項(xiàng)要求也遵循了史密斯去年12月在博客中的建議，包括用直白的語(yǔ)言闡述程序會(huì)采取什么措施，并且在軟件對(duì)客戶進(jìn)行分析時(shí)向其發(fā)送明確通知。此外，當(dāng)據(jù)此作出的最終決策會(huì)對(duì)消費(fèi)者產(chǎn)生法律影響，或者類似的重大影響時(shí)，還應(yīng)該對(duì)這些決策展開有意義的人工評(píng)估。

該法案還禁止在沒(méi)有獲得法院命令的情況下使用軟件展開持續(xù)監(jiān)控，除非是可能危及生命安全或產(chǎn)生嚴(yán)重傷害的緊急情況。

卡里勒認(rèn)為，相關(guān)行為應(yīng)該獲得用戶的明確許可，而不應(yīng)該隱藏在格式條款中，誘騙用戶點(diǎn)擊確認(rèn)。

卡里勒計(jì)劃下周召開一次會(huì)議來(lái)討論這項(xiàng)議案，并邀請(qǐng)企業(yè)和游說(shuō)團(tuán)體參會(huì)。他希望能在下周末將議案提交給委員會(huì)審議。

雖然該立法提案僅在華盛頓州討論，但其影響范圍卻不僅限于亞馬遜和微軟這些總部位于該州的公司，還包括所有在該州開展業(yè)務(wù)的企業(yè)，以及處理消費(fèi)者數(shù)據(jù)達(dá)到或超過(guò)10萬(wàn)人或者有半數(shù)營(yíng)收營(yíng)收來(lái)自個(gè)人數(shù)據(jù)銷售的企業(yè)。此外，即使該議案最終無(wú)法通過(guò)，其他州也有可能以此為樣本。

值得一提的是，已經(jīng)有第三方機(jī)構(gòu)對(duì)亞馬遜和微軟的人臉識(shí)別人工智能程序進(jìn)行測(cè)試，包括麻省理工學(xué)院媒體實(shí)驗(yàn)室和美國(guó)公民自由聯(lián)盟。

在發(fā)現(xiàn)自家人臉識(shí)別軟件在膚色較黑的圖像上表現(xiàn)糟糕時(shí)（女性尤其明顯），微軟CEO薩提亞·納德拉（Satya Nadella）下令研究人員和工程師解決這個(gè)問(wèn)題。亞馬遜則對(duì)相關(guān)報(bào)道提出反駁，他們認(rèn)為研究人員并沒(méi)有采用合適的測(cè)試方法，或者測(cè)試場(chǎng)景不夠精確。

“如果議案獲得通過(guò)，就向著構(gòu)建人臉識(shí)別技術(shù)的監(jiān)管基礎(chǔ)邁出了重要且急需的一步，而且創(chuàng)造了一種可供其他州或國(guó)家參考的模式?！笔访芩拐f(shuō)。