亞馬遜將“堅定不移”地為美國政府和軍方服務，未設(shè)任何紅線

近日，有亞馬遜高管表示，公司會“堅定不移”地為美國政府和軍方服務，政府執(zhí)法部門、士兵和公務人員都應該獲得AI技術(shù)的幫助。亞馬遜并未就參與國防事務問題上劃定任何“紅線”。不久前公司的人臉識別軟件將議員誤認為罪犯，是因為ACLU的實驗設(shè)定的精確度閾值存在問題，屬于對軟件的使用不當。

在向軍方和執(zhí)法部門提供尖端AI技術(shù)是否會有違道德這件事上，一些硅谷巨頭企業(yè)一直態(tài)度曖昧，但亞馬遜對此似乎態(tài)度鮮明，沒有保留。

亞馬遜的員工一直在抗議公司將面部識別技術(shù)賣給執(zhí)法部門。不過上月底在科羅拉多州舉辦Aspen安全論壇上，亞馬遜AWS全球公共部門副總裁Teresa Carlson對這一問題表明了立場。在被問及亞馬遜的員工（亞馬遜員工抗議與公司的“管理層”利益之間存在文化上的“鴻溝”時，Carlson對此作出坦率回應，她表示：“我們致力于服務我們的客戶，我們會堅定不移地為美國政府和世界各地與我們有合作關(guān)系的政府服務。”

Carlson的這番言論在媒體上鮮有報道，最近幾個月以來，關(guān)于亞馬遜在為軍方和執(zhí)法部門提供AI技術(shù)中起到的重要作用，已經(jīng)引發(fā)了長時間的公眾討論，并引發(fā)了巨大爭議。

亞馬遜將“堅定不移”地為美國政府和軍方服務，未設(shè)任何紅線

亞馬遜眾多員工最近向公司的CEO杰夫·貝索斯發(fā)出了一封公開信，抗議亞馬遜將面部識別軟件Rekognition出售給執(zhí)法部門。信中引用了美國國土安全部“對難民和移民越來越不人道的對待?！泵绹褡杂陕?lián)盟（ACLU）對亞馬遜出售技術(shù)表示擔憂，指Rekognition可以讓警察不間斷地監(jiān)視和騷擾少數(shù)族裔和持不同政見人士。微軟和Salesforce同樣面臨來自員工的內(nèi)部壓力。

對于近期的批評之聲，Carlson表示，“員工需要發(fā)聲渠道。我不能代表任何其他公司發(fā)言，但我們希望與我們的政府合作，”她補充說?！拔覀兏械接羞@個義務。政府也應該擁有相應的能力，在戰(zhàn)場上作戰(zhàn)的士兵、我們的公務人員，都應該具備相應的能力?！盋arlson承認“壞人總是難免的”，但接著就開始夸贊對Rekognition軟件的積極應用。

當有記者問到，亞馬遜是否“在國防事務上劃定了任何紅線，制定了任何標準、指導方針，確定要做哪些事、不做哪些事”時，Carlson表示，并沒有。

“我們沒有劃定任何界限，”Carlson回應道。 “我們會堅定不移地支持執(zhí)法部門、國防部門和情報部門?！彼硎荆瑏嗰R遜經(jīng)常不了解“自己的軟件工具的服務對象的一切”，但同時堅持認為美國政府應該擁有最具“創(chuàng)新性和前沿性的工具”，以使其不受其“敵人”的影響。Carlson提出“符合道德的使用權(quán)”作為一種機制，亞馬遜可以通過該機制收回被非法使用的技術(shù)，不過公司不清楚這會對執(zhí)法行動造成什么影響，比如美國移民局和海關(guān)的執(zhí)法部門所采取的執(zhí)法行動。

以網(wǎng)絡服務和電子商務業(yè)務聞名的亞馬遜公司，目前正迅速進入國防和國土安全領(lǐng)域，為五角大樓和全國各地的警察機構(gòu)提供一系列機器學習工具。亞馬遜目前正在為美國情報機構(gòu)管理一個大型云計算解決方案，并正在競標一項價值100億美元的合同，為國防部提供類似的云解決方案。

“議員變罪犯”事件是因為ACLU對臉部識別軟件使用不當

上周，ACLU的一項研究發(fā)現(xiàn)，亞馬遜的面部識別軟件錯將28名國會議員識別為罪犯，這些議員大多數(shù)是有色人種，隨后，亞馬遜遭遇了又一波批評。

一位不愿透露姓名的亞馬遜發(fā)言人表示，ACLU的研究結(jié)果是“校準不當”所致。該發(fā)言人表示，在ACLU的實驗設(shè)定的精確度閾值下，亞馬遜的面部識別技術(shù)未能在“合理的確定度”內(nèi)使用。

據(jù)Intercept獲得的泄露電子郵件中顯示，亞馬遜在去年國防部提出的飽受爭議的Project Maven中做了“一些工作”。該合同是五角大樓首次積極嘗試將硅谷開發(fā)的機器學習技術(shù)融入軍事項目中。該計劃利用人工智能技術(shù)，對人員、建筑物和事件進行自動編目，以幫助分析人員識別無人機在戰(zhàn)場上捕獲的圖像。

根據(jù)Defense One的說法，這一計劃將用于支持“捕食者”和“收割者”無人機攻擊“中東地區(qū)”的目標。批評人士稱，在無人機戰(zhàn)爭中使用先進的人工智能技術(shù)只會導致“對攻擊方式的改變”，讓無人機攻擊的目標人群不再基于已知的活動，而是基于遠程監(jiān)控錄像的得出的概率。據(jù)報道，特朗普總統(tǒng)部署無人機的速度達到了奧巴馬時期的四到五倍，而奧巴馬將無人機的攻擊次數(shù)提升至小布什時期的10倍。

最終，谷歌贏得了Project Maven合同，但試圖隱瞞公司參與該項目。谷歌的幾名員工辭職抗議，數(shù)千人聯(lián)名發(fā)表公開信，要求谷歌終止與軍方的聯(lián)系。許多人對此表示震驚，谷歌與軍方合作似乎違反了自身“不作惡”的信條，并且聲稱“與五角大樓的任何合作成果都不會用于致命目的”，這實際上是在誤導自家員工。

谷歌于此后表示，Project Maven合同于明年到期后不再續(xù)簽，并且在努力制定一套使用人工智能技術(shù)的道德守則，不過并未表示在未來會拒絕與國防事務有關(guān)的合同。