美國人工智能對(duì)安全和防務(wù)問題的影響成為重大關(guān)切

導(dǎo)語

近年來，隨著人工智能影響的不斷擴(kuò)大，美國決策者對(duì)人工智能治理問題日益關(guān)注，人工智能對(duì)安全和防務(wù)問題的影響成為重大關(guān)切，策略分析和應(yīng)對(duì)建議的需求逐漸增大，智庫敏銳捕捉機(jī)遇，及時(shí)呼應(yīng)，或主動(dòng)為之，或按要求為之，紛紛設(shè)置各類人工智能研究專項(xiàng)，由此產(chǎn)生一大批頗具影響的研究成果，為美國政府制定相關(guān)政策或戰(zhàn)略提供了智力支撐。

（一）新美國安全中心“人工智能和全球安全”項(xiàng)目

與過去的工業(yè)革命導(dǎo)致國際權(quán)力深刻變化類似，人工智能同樣具備影響世界格局的潛力。新美國安全中心敏銳察覺到由人工智能和機(jī)器學(xué)習(xí)支撐的新工業(yè)革命的到來，認(rèn)為對(duì)于技術(shù)界和政策界來說，更好地理解人工智能革命對(duì)全球安全以及應(yīng)對(duì)未來挑戰(zhàn)具有重要意義。

基于此， 2017年7月，新美國安全中心啟動(dòng)“人工智能和全球安全”項(xiàng)目，旨在分析人工智能對(duì)政治、經(jīng)濟(jì)、外交、軍事等領(lǐng)域的影響，探索人工智能革命對(duì)全球力量及沖突性質(zhì)變化的影響，審查人工智能安全領(lǐng)域國際合作的前景，為決策者提供專業(yè)分析及應(yīng)對(duì)未來變化的建議。該項(xiàng)目的關(guān)鍵研究議題包括權(quán)力轉(zhuǎn)移、沖突性質(zhì)、危機(jī)穩(wěn)定、人工智能安全、合作前景五個(gè)方面。其中，權(quán)力轉(zhuǎn)移包括人工智能如何改變國際舞臺(tái)上相關(guān)角色之間的關(guān)系、權(quán)力的關(guān)鍵要素將如何轉(zhuǎn)移等議題；沖突性質(zhì)包括人工智能的軍事化應(yīng)用將如何改變戰(zhàn)爭性質(zhì)和軍事結(jié)構(gòu)、人工智能是否會(huì)改變沖突性質(zhì)等議題；危機(jī)穩(wěn)定包括人工智能將如何影響戰(zhàn)爭的爆發(fā)、終止和升級(jí)，人工智能系統(tǒng)的擴(kuò)散將如何影響軍備競賽等議題；人工智能安全包括人工智能系統(tǒng)受到顛覆和攻擊的可能性、如何實(shí)現(xiàn)人工智能安全等議題；合作前景包括人工智能安全需要多大程度的合作、促進(jìn)各行為體之間合作的措施等議題。

該項(xiàng)目由前國防部副部長羅伯特沃克和谷歌云人工智能負(fù)責(zé)人安德魯摩爾博士共同主持，并組建人工智能和國家安全特別工作組執(zhí)行具體任務(wù)，工作組由學(xué)術(shù)專家、私營部門領(lǐng)導(dǎo)人、前政府高級(jí)官員等32名成員組成，成員的理論及實(shí)踐經(jīng)驗(yàn)豐厚，對(duì)人工智能技術(shù)具有深刻的思考和了解，能夠保證研究成果的權(quán)威性和前瞻性。“人工智能和全球安全”項(xiàng)目的研究成果以報(bào)告為主，輔以評(píng)論、視頻、播客等形式。成立至今，該工作組陸續(xù)發(fā)布《人工智能時(shí)代的戰(zhàn)略競爭》《戰(zhàn)場奇點(diǎn)：人工智能、軍事變革與中國未來軍事力量》《人工智能：每個(gè)決策者需要知道的》《人工智能與國家安全》《理解中國的人工智能戰(zhàn)略》《美國人工智能世紀(jì)：藍(lán)圖行動(dòng)》等深度研究報(bào)告，均在官方網(wǎng)站公開發(fā)布?！叭斯ぶ悄芎腿虬踩表?xiàng)目覆蓋廣泛，系統(tǒng)性強(qiáng)，且大多數(shù)議題具有預(yù)判性、前瞻性，可為美國政府的政策決策和戰(zhàn)略制定提供專業(yè)的支持。

（二）布魯金斯學(xué)會(huì)“人工智能和新興技術(shù)”項(xiàng)目

布魯金斯學(xué)會(huì)在人工智能技術(shù)浪潮興起之時(shí)，就頗具前瞻性地意識(shí)到人工智能等新興技術(shù)潛在的安全挑戰(zhàn)與政治風(fēng)險(xiǎn)。為推動(dòng)人工智能技術(shù)研究、為政策制定提供咨詢借鑒，布魯金斯學(xué)會(huì)設(shè)立“人工智能和新興技術(shù)”項(xiàng)目，致力于尋找并確定人工智能最佳治理模式和實(shí)踐，以使美國社會(huì)在人工智能和新興技術(shù)方面獲益，同時(shí)能夠有效規(guī)避和管理風(fēng)險(xiǎn)，促進(jìn)變革性新技術(shù)的良好治理。自2014年4月發(fā)布第一份報(bào)告《產(chǎn)品責(zé)任和無人駕駛汽車：立法問題和指導(dǎo)原則》以來，該項(xiàng)目已產(chǎn)出《人工智能在未來戰(zhàn)爭中的作用》《人工智能改變世界》《跨大西洋人工智能合作的重要性和機(jī)遇》《人工智能時(shí)代的中美關(guān)系》等深度研究報(bào)告76篇，廣泛涵蓋了人工智能技術(shù)、人工智能政策、人工智能治理、人工智能技術(shù)偏見、人工智能與國家安全等主題。

該項(xiàng)目由布魯金斯主席約翰艾倫直接領(lǐng)導(dǎo)，約翰艾倫從美國海軍陸戰(zhàn)隊(duì)四星上將退休后，于2017年擔(dān)任布魯金斯學(xué)會(huì)主席。他曾擔(dān)任北約國際安全援助部隊(duì)和駐阿富汗美軍指揮官，擁有豐富的軍隊(duì)履職經(jīng)歷。他還是《轉(zhuǎn)折點(diǎn)：人工智能時(shí)代的制定者》一書的作者之一，該書論述了人工智能技術(shù)的工作原理，闡述了人工智可能帶來的機(jī)遇和風(fēng)險(xiǎn)，并對(duì)人工智能政策進(jìn)行剖析?！叭斯ぶ悄芎托屡d技術(shù)”項(xiàng)目的獨(dú)立性和非黨派性，吸引了布魯金斯學(xué)會(huì)、學(xué)術(shù)界、政府、民間社會(huì)和技術(shù)領(lǐng)域20余位專家參與。

布魯金斯學(xué)會(huì)涉及人工智能的項(xiàng)目還包括“全球中國：評(píng)估中國日益重要的國際地位”項(xiàng)目、“人工智能未來的藍(lán)圖：2018-2019”項(xiàng)目等。其中，“全球中國：評(píng)估中國日益重要的國際地位”項(xiàng)目旨在分析、研究與評(píng)估中國在全球范圍影響力，為美國決策者和公眾提供了解大國競爭的全新視角，研究涉及中國外交政策、關(guān)鍵技術(shù)、東亞安全等多個(gè)主題，《中國軍事創(chuàng)新中的“人工智能武器”》《人工智能、地緣政治和信息完整性》等均是該項(xiàng)目的研究成果?！叭斯ぶ悄芪磥淼乃{(lán)圖：2018-2019”項(xiàng)目匯總了來自布魯金斯各地學(xué)者的相關(guān)研究報(bào)告，旨在挖掘新興技術(shù)給社會(huì)各行業(yè)、各領(lǐng)域帶來的機(jī)遇、沖擊和影響，包括《美國數(shù)字城市中的人工智能》《為什么我們需要重新思考人工智能時(shí)代的教育》《人工智能如何影響金融消費(fèi)者》《人工智能將如何影響能源和氣候的未來》《人工智能對(duì)國際貿(mào)易的影響》《人工智能在未來戰(zhàn)爭中的作用》《人工智能對(duì)國家安全戰(zhàn)略的影響》等深度研究報(bào)告20余篇。

（三）蘭德公司“人工智能”專項(xiàng)

依循關(guān)注防務(wù)問題的深厚傳統(tǒng)，依托專業(yè)的人才隊(duì)伍和強(qiáng)大的科研實(shí)力，作為國防部長期資助的智庫，蘭德公司積極開展人工智能領(lǐng)域的研究，形成了一系列頗具前瞻性的研究成果，如，2019年12月，蘭德公司發(fā)布受國防部委托開展的《國防部人工智能態(tài)勢(shì)》研究報(bào)告，2020年4月，蘭德公司發(fā)布受美空軍情報(bào)、監(jiān)視與偵察主任委托開展的《人工智能的軍事應(yīng)用不確定世界中的倫理關(guān)切》研究報(bào)告。此外，蘭德公司積極響應(yīng)政府的號(hào)召，為政策決策、戰(zhàn)略制定建言獻(xiàn)策。例如，2019年，國家安全人工智能委員會(huì)就“新興技術(shù)在全球秩序中的作用”公開征集創(chuàng)意，蘭德公司研究人員加緊應(yīng)對(duì)這一挑戰(zhàn)，集思廣益，提出各種各樣的想法，最終十篇文章公開發(fā)表于《巖石戰(zhàn)爭》《戰(zhàn)略橋》網(wǎng)站上，包括《擁抱開源軍事研究以贏得人工智能競賽》《如何為人工智能挑戰(zhàn)招聘人才》《如何訓(xùn)練人工智能士兵機(jī)器人》等。

蘭德公司除接受美軍相關(guān)部門委托，開展人工智能領(lǐng)域定向研究外，還依托“安全2040”等項(xiàng)目進(jìn)行專題深入研究?！鞍踩?040”項(xiàng)目是蘭德全球風(fēng)險(xiǎn)與安全中心實(shí)施的一項(xiàng)研究計(jì)劃，跨越核戰(zhàn)略、經(jīng)濟(jì)學(xué)到人類學(xué)等領(lǐng)域，旨在為決策者提供專業(yè)知識(shí)指導(dǎo)，預(yù)測(cè)新興技術(shù)給全球安全帶來的威脅，內(nèi)容涵蓋了“腦機(jī)接口”“全球氣候變化”“量子計(jì)算”“3D打印”“人工智能”等議題。在人工智能議題方面，圍繞人工智能是否能夠跟蹤或監(jiān)視敵方力量、如何在決策支持系統(tǒng)中使用人工智能技術(shù)、如何根據(jù)核武器控制的經(jīng)驗(yàn)控制人工智能等問題開展一系列研討，形成了《人工智能對(duì)于核戰(zhàn)爭風(fēng)險(xiǎn)意味幾何》報(bào)告，分別以英、中、韓三種語言發(fā)布于蘭德公司官網(wǎng)。該報(bào)告認(rèn)為，到2040年，人工智能有很大潛力推翻核穩(wěn)定根基并削弱其威懾力，在日趨多極化的戰(zhàn)略環(huán)境中尤為如此。

據(jù)官網(wǎng)顯示，蘭德公司從事人工智能領(lǐng)域研究專家現(xiàn)有34名，其中19名擁有博士學(xué)位，學(xué)科背景廣泛，涵蓋物理學(xué)、信息科學(xué)、計(jì)算機(jī)科學(xué)、量子技術(shù)、化學(xué)等，例如高級(jí)研究員布里恩阿爾基爾為加州大學(xué)洛杉磯分校電氣工程專業(yè)博士，接受過算法設(shè)計(jì)師培訓(xùn)；斯科特哈羅德?lián)碛懈鐐惐却髮W(xué)政治學(xué)博士學(xué)位，專門研究中國、日本、朝鮮和韓國等的外交和國防問題；賈斯汀格拉納獲得美利堅(jiān)大學(xué)經(jīng)濟(jì)學(xué)博士學(xué)位，致力于將博弈論應(yīng)用于計(jì)算機(jī)網(wǎng)絡(luò)安全問題。此外，研究團(tuán)隊(duì)的專家也與政府有著廣泛而密切的聯(lián)系，例如，20112016年，蘭德公司高級(jí)信息科學(xué)家菲利普安東曾兩次被借調(diào)至國防部，擔(dān)任采辦政策分析中心的高級(jí)主管職位，直接向國防部負(fù)責(zé)采辦、技術(shù)和后勤的副部長匯報(bào)工作，在此期間，他實(shí)施了改善國防部政策和機(jī)構(gòu)績效的戰(zhàn)略計(jì)劃，制定了可負(fù)擔(dān)性政策等，并獲得國防部杰出服役勛章。

（四）戰(zhàn)略與國際研究中心的人工智能項(xiàng)目

戰(zhàn)略與國際研究中心作為長期關(guān)注防務(wù)領(lǐng)域的知名智庫，依托“技術(shù)與創(chuàng)新”項(xiàng)目、“國際安全”項(xiàng)目、“人權(quán)倡議”項(xiàng)目等，開展人工智能技術(shù)相關(guān)研究，為美國發(fā)展人工智能技術(shù)、制定相關(guān)政策和戰(zhàn)略提供參考。

“技術(shù)與創(chuàng)新”項(xiàng)目旨在分析變革性技術(shù)的發(fā)展對(duì)國家安全、社會(huì)生活等各個(gè)方面的影響，涉及人工智能研究的計(jì)劃包括“人工智能”計(jì)劃、“中國創(chuàng)新政策”計(jì)劃、“面部識(shí)別”計(jì)劃等。其中，“人工智能”計(jì)劃旨在探索管理人工智能風(fēng)險(xiǎn)的方法，以最大程度地提高人工智能為人類經(jīng)濟(jì)和社會(huì)帶來的利益?！爸袊鴦?chuàng)新政策”計(jì)劃旨在更好地了解中國的創(chuàng)新政策以及中國在高科技創(chuàng)新方面的成果，評(píng)估其對(duì)行業(yè)、中國貿(mào)易伙伴和全球經(jīng)濟(jì)的影響，該項(xiàng)目研究內(nèi)容分為三類：一是概述中國科技創(chuàng)新的總體趨勢(shì)；二是針對(duì)數(shù)字經(jīng)濟(jì)、新能源汽車、半導(dǎo)體、人工智能、商用飛機(jī)和制藥等六個(gè)中國最先進(jìn)的領(lǐng)域開展研究；三是研究中國的技術(shù)進(jìn)步、整體實(shí)力與其國際影響力之間的關(guān)系。該計(jì)劃發(fā)布了《中國不平衡的高科技發(fā)展：對(duì)美國的影響》《中國大力投資發(fā)展人工智能》等研究報(bào)告，并舉辦了以“中國的人工智能創(chuàng)新系統(tǒng)”為主題的研討會(huì)，討論中國人工智能生態(tài)系統(tǒng)現(xiàn)狀以及美國應(yīng)如何回應(yīng)中國在人工智能方面的進(jìn)步。“面部識(shí)別”計(jì)劃專注于探索美國面部識(shí)別技術(shù)在使用和管理方面的未來趨勢(shì)，側(cè)重于面部識(shí)別基礎(chǔ)技術(shù)的發(fā)展、確保人權(quán)和公民自由的規(guī)則和管理機(jī)制，以及美國政府在促進(jìn)人臉識(shí)別技術(shù)有益應(yīng)用方面應(yīng)發(fā)揮的作用等。

“國際安全”項(xiàng)目聚焦國防戰(zhàn)略和政策、美國核政策、反恐和國土安全、大規(guī)模殺傷性武器擴(kuò)散、國防預(yù)算分析、導(dǎo)彈防御等常規(guī)軍事問題，還致力于解決美國外交和安全政策等非軍事問題，旨在對(duì)美國面臨的國防和安全挑戰(zhàn)進(jìn)行非黨派分析，為國會(huì)、行政部門和行業(yè)提供決策支持信息。其下屬的“了解人工智能”計(jì)劃旨在深入了解人工智能對(duì)國家安全的影響，探索人工智能在國家安全中的應(yīng)用與商業(yè)應(yīng)用之間的聯(lián)系。作為該項(xiàng)目的一部分，研究團(tuán)隊(duì)還通過圓桌會(huì)議討論人工智能領(lǐng)域的關(guān)鍵主題，包括人工智能應(yīng)用的概念框架、人工智能技術(shù)的風(fēng)險(xiǎn)和挑戰(zhàn)等，形成了《人工智能與國家安全：人工智能生態(tài)系統(tǒng)的重要性》等研究報(bào)告。

“人權(quán)倡議”項(xiàng)目于2014年6月啟動(dòng)，戰(zhàn)略與國際研究中心是華盛頓唯一設(shè)置此類項(xiàng)目的智庫。該項(xiàng)目將跨部門和跨學(xué)科的學(xué)者聚集在一起應(yīng)對(duì)全球最緊迫的人權(quán)挑戰(zhàn)，包括“技術(shù)與人權(quán)”“全球供應(yīng)鏈中的勞工權(quán)力”“沖突、安全與人權(quán)”等計(jì)劃。其中，“技術(shù)與人權(quán)”計(jì)劃重點(diǎn)關(guān)注人工智能的定義問題，以及如何更好地制定政策以支持言論自由，同時(shí)應(yīng)對(duì)錯(cuò)誤信息、虛假信息等。

另外，戰(zhàn)略與國際問題研究中心認(rèn)為美國需要制定全面的國家機(jī)器智能戰(zhàn)略，以實(shí)現(xiàn)保持技術(shù)優(yōu)勢(shì)、促進(jìn)經(jīng)濟(jì)發(fā)展、維護(hù)社會(huì)規(guī)范和價(jià)值觀、保護(hù)美國公民等四個(gè)關(guān)鍵的政策目標(biāo)。為此，戰(zhàn)略與國際問題研究中心與全球最頂尖的管理咨詢機(jī)構(gòu)博思艾倫咨詢公司合作，開展針對(duì)機(jī)器智能風(fēng)險(xiǎn)和隱患的項(xiàng)目，為美國在機(jī)器智能領(lǐng)域保持競爭優(yōu)勢(shì)、應(yīng)對(duì)相關(guān)風(fēng)險(xiǎn)和挑戰(zhàn)提供建議。

（五）安全與新興技術(shù)中心人工智能研究

安全與新興技術(shù)中心成立于2019年1月，是美國最大的人工智能和政策研究中心，位于喬治敦大學(xué)沃爾什外交學(xué)院，專注于人工智能和先進(jìn)計(jì)算的研究。該智庫具有以下特色：一是將人工智能和先進(jìn)計(jì)算領(lǐng)域的專業(yè)知識(shí)與喬治敦大學(xué)廣泛的政策網(wǎng)絡(luò)相結(jié)合，對(duì)新興技術(shù)給國家安全帶來的影響進(jìn)行全面分析。二是安全與新興技術(shù)中心的研究人員均為來自國家安全委員會(huì)、情報(bào)界、國土安全部、國防部等的專家，擁有豐富的情報(bào)和運(yùn)營經(jīng)驗(yàn)，為技術(shù)研究提供了堅(jiān)實(shí)的信息基矗三是安全與新興技術(shù)中心的數(shù)據(jù)科學(xué)團(tuán)隊(duì)以前所未有的規(guī)模收集、處理和分析開源數(shù)據(jù)，包括各種來源的信息圖表、專家證詞、已發(fā)布的報(bào)告、外文資料和技術(shù)資料等，能充分保證研究成果的權(quán)威性、專業(yè)性和可靠性。

自成立以來，該中心發(fā)布人工智能相關(guān)研究報(bào)告40余篇，涵蓋了技術(shù)、國家安全、國際事務(wù)等領(lǐng)域，并致力于中俄人工智能發(fā)展動(dòng)態(tài)追蹤，翻譯、分析了大量中俄人工智能計(jì)劃、戰(zhàn)略、重要機(jī)構(gòu)的預(yù)算等，例如《人工智能標(biāo)準(zhǔn)化白皮書》《中國新一代人工智能戰(zhàn)略咨詢委員會(huì)委員簡介》《國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指南》等。此外，安全與新興技術(shù)中心的研究人員還會(huì)定期在各種媒體上發(fā)表言論，并提供國會(huì)證詞、時(shí)事評(píng)論等。2019年9月，安全與新興技術(shù)中心還與喬治敦大學(xué)安全研究中心聯(lián)合組織了主題為“人工智能與國家安全”的喬治卡拉里斯情報(bào)會(huì)議。
責(zé)任編輯：YYX