電子發(fā)燒友App
據(jù)連線雜志報(bào)道，美國(guó)軍方正竭力在人工智能（AI）領(lǐng)域取得進(jìn)展。美國(guó)國(guó)防部的高級(jí)官員相信，AI將是確保美國(guó)在未來(lái)戰(zhàn)爭(zhēng)中取得勝利的關(guān)鍵。但國(guó)防部的內(nèi)部文件和對(duì)高級(jí)官員的采訪都表明，國(guó)防部因?yàn)楸灰患铱萍季揞^拋棄而陷入步履蹣跚的窘境。為擺脫這種困境，美國(guó)國(guó)防部開(kāi)始了一場(chǎng)爭(zhēng)奪AI人才的大戰(zhàn)。
2018年6月份，谷歌宣布退出美國(guó)國(guó)防部備受爭(zhēng)議的Project Maven項(xiàng)目，Project Maven是美國(guó)軍方首次探索在戰(zhàn)爭(zhēng)中大規(guī)模使用AI的項(xiàng)目。該項(xiàng)目使用谷歌AI軟件提高視頻分析效率，幫助情報(bào)分析師從視頻片段中識(shí)別出軍事目標(biāo)。10月份，數(shù)千名谷歌員工簽署了一份請(qǐng)?jiān)笗?shū)，呼吁公司終止在該項(xiàng)目上與美國(guó)軍方的合作。
據(jù)五名熟悉有關(guān)Project Maven內(nèi)部討論的消息人士透露，谷歌的撤出讓美國(guó)國(guó)防部?jī)?nèi)部感到挫敗和沮喪，甚至是憤怒。
6月28日，分發(fā)給大約50名美國(guó)國(guó)防部官員的內(nèi)部備忘錄稱：“我們無(wú)意中卷入了一場(chǎng)關(guān)于戰(zhàn)略敘述的爭(zhēng)論?！边@份備忘錄指出，美國(guó)國(guó)防部因谷歌的撤出措手不及，該機(jī)構(gòu)目前正面臨AI專家日益疏遠(yuǎn)它們的窘境，而這些人對(duì)軍方AI發(fā)展計(jì)劃至關(guān)重要。備忘錄中警告稱:“如果我們不能贏得關(guān)鍵人物的支持，我們就無(wú)法有效地與對(duì)手競(jìng)爭(zhēng)?！?/p>
Project Maven項(xiàng)目2017年的成本只有7000萬(wàn)美元左右，這是美國(guó)國(guó)防部當(dāng)年6000億美元海量預(yù)算中非常少的部分。但谷歌的聲明表明，該部門仍在努力應(yīng)對(duì)更大的公共關(guān)系和科學(xué)挑戰(zhàn)。到目前為止，谷歌的回應(yīng)是試圖為其AI研發(fā)工作塑造全新的公眾形象，并尋求組建由科技公司高管組成的顧問(wèn)團(tuán)對(duì)國(guó)防部的AI政策進(jìn)行審查。
美國(guó)國(guó)防部感到焦慮的原因是顯而易見(jiàn)的：它希望未來(lái)能把AI集成到武器中，這一愿望已經(jīng)得到了數(shù)十億美元承諾的支持，以及數(shù)十億美元的技術(shù)研發(fā)資金支持。
AI最終會(huì)在戰(zhàn)爭(zhēng)中扮演什么樣的角色還不清楚。許多AI武器將不涉及機(jī)器算法的決策，但它們正在朝這方面努力。美國(guó)國(guó)防部去年8月的一份戰(zhàn)略文件提到:“支撐無(wú)人系統(tǒng)的技術(shù)將使開(kāi)發(fā)和部署自主系統(tǒng)成為可能，這些系統(tǒng)可以獨(dú)立選擇目標(biāo)，并以致命武力發(fā)動(dòng)攻擊。”
美國(guó)國(guó)防部的官員們表示，開(kāi)發(fā)AI不同于開(kāi)發(fā)其他軍事技術(shù)。盡管軍方很容易就能從大型國(guó)防承包商那里獲得最前沿的戰(zhàn)斗機(jī)和炸彈，但AI和機(jī)器學(xué)習(xí)創(chuàng)新的核心卻屬于硅谷的非國(guó)防科技巨頭。官員們擔(dān)心，如果沒(méi)有他們的幫助，美國(guó)軍方可能會(huì)輸?shù)粢粓?chǎng)不斷升級(jí)的全球軍備競(jìng)賽。在這場(chǎng)競(jìng)賽中，AI將扮演越來(lái)越重要的角色。
現(xiàn)任美國(guó)國(guó)防部下屬的國(guó)防數(shù)字服務(wù)（DDS）負(fù)責(zé)人克里斯·林奇(Chris Lynch)在采訪中說(shuō)：“如果決定不參與Project Maven，實(shí)際上也未參與討論AI或機(jī)器學(xué)習(xí)是否將被用于軍事行動(dòng)?！彼f(shuō)，AI正在走向戰(zhàn)爭(zhēng)，所以問(wèn)題在于，哪些美國(guó)技術(shù)專家會(huì)去設(shè)計(jì)它？
林奇表示，AI技術(shù)太重要了，即使需要依靠不那么專業(yè)的專家，該機(jī)構(gòu)也會(huì)繼續(xù)推進(jìn)這方面的工作。但林奇補(bǔ)充說(shuō)：“如果沒(méi)有行業(yè)內(nèi)最優(yōu)秀人才的幫助，我們就會(huì)雇傭那些能力不算最強(qiáng)的人，首先開(kāi)發(fā)能力或許遠(yuǎn)不如我們預(yù)期的產(chǎn)品?！?/p>
谷歌不太可能很快轉(zhuǎn)變態(tài)度。在宣布該公司將不再尋求續(xù)簽Project Maven合同不到一個(gè)星期之后，谷歌發(fā)布了新的AI指導(dǎo)原則，特別說(shuō)明該公司不會(huì)使用AI“用于幫助開(kāi)發(fā)武器或其他用于直接傷害人類的產(chǎn)品”。自那以來(lái)，許多美國(guó)國(guó)防官員一直抱怨谷歌不愛(ài)國(guó)，并指責(zé)該公司仍在尋求與中國(guó)政府合作。中國(guó)是美國(guó)在AI技術(shù)領(lǐng)域的最大競(jìng)爭(zhēng)對(duì)手。
據(jù)知情人士透露，Project Maven旨在簡(jiǎn)化情報(bào)分析師的工作，方法是在無(wú)人機(jī)和其他平臺(tái)的視頻片段中標(biāo)注目標(biāo)類型，幫助分析師收集信息，并縮小對(duì)潛在目標(biāo)的關(guān)注范圍。但這些算法并沒(méi)有選擇目標(biāo)，也沒(méi)有下達(dá)攻擊指令。長(zhǎng)期以來(lái)，那些擔(dān)心先進(jìn)計(jì)算技術(shù)與新形式致命暴力相結(jié)合的人，對(duì)這種算法總是有種膽戰(zhàn)心驚的感覺(jué)。
谷歌的許多人還是以令人擔(dān)憂的眼光看待這個(gè)項(xiàng)目。一位熟悉內(nèi)部討論的前谷歌員工表示:“他們立即想到了無(wú)人機(jī)，然后他們又想到了機(jī)器學(xué)習(xí)和自動(dòng)目標(biāo)識(shí)別，我認(rèn)為這個(gè)項(xiàng)目開(kāi)發(fā)的AI很快就會(huì)升級(jí)，讓它們能夠進(jìn)行有針對(duì)性地殺戮，發(fā)動(dòng)有針對(duì)性的戰(zhàn)爭(zhēng)。”
谷歌只是美國(guó)國(guó)防部尋求招募的科技巨頭之一，其目的是將AI注入現(xiàn)代戰(zhàn)爭(zhēng)中。其他目標(biāo)還包括微軟和亞馬遜。據(jù)現(xiàn)任和前任美國(guó)國(guó)防部官員說(shuō)，在谷歌2018年6月份宣布退出的消息后，十幾家大型防務(wù)公司接洽了國(guó)防部官員，提出愿意接手這一工作。但硅谷活動(dòng)人士也表示，軍方不能輕易忽視科技工作者的道德疑慮。
上述那位前谷歌員工表示:“那些對(duì)股東負(fù)責(zé)的人、那些希望獲得國(guó)防部?jī)r(jià)值數(shù)百萬(wàn)美元合同的人，與那些不得不研發(fā)這些東西、但又覺(jué)得自己在道德上與這些東西格格不入的普通員工之間，存在一種分歧?！睘榱藦浐线@一鴻溝，緩和AI工程師的尖銳反對(duì)情緒，美國(guó)國(guó)防部迄今采取了兩項(xiàng)舉措。
第一項(xiàng)措施于6月底正式啟動(dòng)，目的是建立一個(gè)聯(lián)合AI中心，旨在監(jiān)督和管理軍方的所有AI工作。這個(gè)中心將由陸軍中將杰克·沙納漢(Jack Shanahan)負(fù)責(zé)，他的最后一項(xiàng)主要任務(wù)是執(zhí)行Project Maven。這是個(gè)政治上非常精明的決定，它的第一個(gè)重大舉措是找出一種利用AI幫助軍隊(duì)在自然災(zāi)害中組織搜索和救援的方法。
美國(guó)國(guó)防部AI戰(zhàn)略的首席設(shè)計(jì)師之一布倫丹·邁考德（Brendan McCord）表示：“我們的目標(biāo)是拯救生命，我們軍隊(duì)的根本作用和使命是維持和平。這是為了阻止戰(zhàn)爭(zhēng)和保護(hù)我們的國(guó)家。這是為了提高全球穩(wěn)定，也是為了最終保護(hù)啟蒙運(yùn)動(dòng)產(chǎn)生的一系列價(jià)值觀。”
第二項(xiàng)舉措是要求由一個(gè)由技術(shù)專家組成的咨詢小組——國(guó)防創(chuàng)新委員會(huì)，對(duì)AI道德進(jìn)行新的審查。該委員會(huì)成員包括前谷歌首席執(zhí)行官埃里克·施密特(Eric Schmidt)和職業(yè)社交網(wǎng)站LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼(Reid Hoffman)。
這個(gè)委員會(huì)旨在為軍方使用AI制定指導(dǎo)原則，目前由約書(shū)亞·馬爾庫(kù)塞(Joshua Marcuse)管理。馬爾庫(kù)塞曾擔(dān)任美國(guó)國(guó)防部長(zhǎng)創(chuàng)新問(wèn)題顧問(wèn)，現(xiàn)在他是該委員會(huì)的執(zhí)行董事。該顧問(wèn)團(tuán)將與AI專家舉行公開(kāi)會(huì)議，為期約9個(gè)月，同時(shí)美國(guó)國(guó)防部?jī)?nèi)部的一個(gè)小組也在討論類似問(wèn)題。然后，防創(chuàng)新委員會(huì)將向國(guó)防部長(zhǎng)詹姆斯·馬蒂斯(James Mattis)提出關(guān)于AI是否應(yīng)該被植入武器計(jì)劃的建議。馬爾庫(kù)塞在采訪中說(shuō):“這必須是真正意義上的審查，愿意對(duì)我們將要做的和不愿做的事情施加些限制，明確界限所在?！?/p>
為了確保這場(chǎng)辯論的公正性，馬爾庫(kù)塞表示，國(guó)防創(chuàng)新委員會(huì)正在尋找對(duì)軍方在AI領(lǐng)域中所扮演角色持批評(píng)態(tài)度的人士。他說(shuō)：“他們有各種各樣的擔(dān)憂，包括有效性、合法性等問(wèn)題，以及國(guó)防部將如何應(yīng)用這些技術(shù)，因?yàn)樵谀承┣闆r下，我們有合法權(quán)力侵犯人們的隱私，我們有法律權(quán)威實(shí)施暴力，我們有合法權(quán)力發(fā)動(dòng)戰(zhàn)爭(zhēng)?！?/p>
美國(guó)國(guó)防部的官員們表示，解決這些擔(dān)憂至關(guān)重要，因?yàn)槊绹?guó)在管理AI人才方面與其他國(guó)家存在差異。馬爾庫(kù)塞說(shuō):“這些人必須選擇與我們合作，所以我們需要向他們提供有意義的、可核實(shí)的承諾，那就是他們有真正的機(jī)會(huì)與我們共同工作，讓他們能夠相信自己是好人，AI技術(shù)被用于好的方面。”
盡管馬爾庫(kù)塞愿意討論未來(lái)對(duì)AI采用的潛在限制，但他認(rèn)為國(guó)防創(chuàng)新委員會(huì)不會(huì)試圖改變美國(guó)國(guó)防部依賴AI自動(dòng)武器的政策。奧巴馬政府于2012年制定了這一政策。特朗普政府在2017年5月對(duì)其進(jìn)行了小幅度技術(shù)修改，但并未阻止軍方在任何武器系統(tǒng)中使用AI。
美國(guó)國(guó)防部多位官員表示，該機(jī)構(gòu)的政策要求指揮官對(duì)任何植入AI的武器系統(tǒng)擁有“適當(dāng)程度的人類判斷控制”，不過(guò)這一說(shuō)法尚未得到進(jìn)一步解釋。然而，這項(xiàng)政策確實(shí)要求，在計(jì)算機(jī)被編程啟動(dòng)致命行動(dòng)之前，包含它的武器系統(tǒng)必須經(jīng)過(guò)美國(guó)國(guó)防部三位高級(jí)官員的特別審查。到目前為止，還沒(méi)有進(jìn)行過(guò)這類特別審查。
據(jù)一位熟悉細(xì)節(jié)的前國(guó)防部官員透露，2016年底，即奧巴馬政府任期即將結(jié)束之際，美國(guó)國(guó)防部重新審視了2012年的政策，并在一份機(jī)密報(bào)告中決定，不需要進(jìn)行重大改革。這位前官員說(shuō)：“沒(méi)有任何東西被阻止，沒(méi)有人想要更新指令。”
盡管如此，特朗普政府在內(nèi)部討論過(guò)，讓軍方的武器工程師更清楚地知道，該政策并不禁止在武器系統(tǒng)中加入自主權(quán)。特朗普政府擔(dān)心軍方的武器工程師不愿將AI應(yīng)用到他們的設(shè)計(jì)中。硅谷對(duì)Project Maven的爭(zhēng)論至少暫時(shí)阻止了這種討論，促使美國(guó)國(guó)防部領(lǐng)導(dǎo)人首先努力贏得國(guó)防創(chuàng)新委員會(huì)的支持。
但無(wú)論如何，美國(guó)國(guó)防部打算將更多的AI集成到其武器中。馬爾庫(kù)塞說(shuō):“我們不會(huì)對(duì)一項(xiàng)可能徹底改變戰(zhàn)爭(zhēng)模式的新技術(shù)視而不見(jiàn)，這對(duì)美國(guó)民眾、對(duì)我們派往戰(zhàn)場(chǎng)的軍人以及依賴我們的盟友來(lái)說(shuō)都不公平?！保ㄐ⌒。?/p>
工商網(wǎng)監(jiān)
評(píng)論