人工智能國際安全治理加速演進(jìn)

導(dǎo)讀：人工智能是人類發(fā)展的新領(lǐng)域。當(dāng)前，以大模型為代表的全球人工智能技術(shù)正在快速發(fā)展，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，給世界的發(fā)展帶來了巨大機(jī)遇。與此同時(shí)，人工智能技術(shù)也帶來難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)，特別是這一技術(shù)在軍事領(lǐng)域的應(yīng)用帶來了很多安全問題，尤其近年來人工智能越來越多應(yīng)用到俄烏沖突、巴以沖突等軍事場(chǎng)景中，其安全問題越來越受到世界的關(guān)注。人工智能安全治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。近期，中美歐都相繼發(fā)布了人工智能安全治理領(lǐng)域的重要政策文件或倡議，人工智能領(lǐng)域的全球安全治理正在加速演進(jìn)，值得高度關(guān)注?，F(xiàn)將最新動(dòng)態(tài)梳理總結(jié)如下，以饗讀者。

一、中國發(fā)布全球人工智能治理倡議

中國高度關(guān)注人工智能的安全治理。2023年2月發(fā)布的全球安全倡議概念文件，專門強(qiáng)調(diào)要加強(qiáng)人工智能等新興科技領(lǐng)域國際安全治理，預(yù)防和管控潛在安全風(fēng)險(xiǎn)。中國已就人工智能軍事應(yīng)用和倫理治理發(fā)布立場(chǎng)文件，愿與國際社會(huì)就人工智能安全治理加強(qiáng)溝通交流，推動(dòng)達(dá)成普遍參與的國際機(jī)制，形成具有廣泛共識(shí)的治理框架和標(biāo)準(zhǔn)規(guī)范。同時(shí)，還強(qiáng)調(diào)，圍繞應(yīng)對(duì)人工智能新興科技等領(lǐng)域所謂安全挑戰(zhàn)，搭建更多國際交流合作平臺(tái)和機(jī)制，共同提升非傳統(tǒng)安全治理能力。

2023年10月18日，***主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布中方提出《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案，展現(xiàn)了中國負(fù)責(zé)任大國擔(dān)當(dāng)?！冻h》堅(jiān)持以人為本、智能向善，引導(dǎo)人工智能朝著有利于人類文明進(jìn)步的方向發(fā)展；堅(jiān)持相互尊重、平等互利，反對(duì)以意識(shí)形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國人工智能發(fā)展；主張建立人工智能風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性；支持在充分尊重各國政策和實(shí)踐基礎(chǔ)上，形成具有廣泛共識(shí)的全球人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，支持在聯(lián)合國框架下討論成立國際人工智能治理機(jī)構(gòu)；加強(qiáng)面向發(fā)展中國家的國際合作與援助，彌合智能鴻溝和治理差距等。

倡議特別強(qiáng)調(diào)，發(fā)展人工智能應(yīng)堅(jiān)持“智能向善”的宗旨，遵守適用的國際法，符合和平、發(fā)展、公平、正義、民主、自由的全人類共同價(jià)值，共同防范和打擊恐怖主義、極端勢(shì)力和跨國有組織犯罪集團(tuán)對(duì)人工智能技術(shù)的惡用濫用。各國尤其是大國對(duì)在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)應(yīng)該采取慎重負(fù)責(zé)的態(tài)度。推動(dòng)建立風(fēng)險(xiǎn)等級(jí)測(cè)試評(píng)估體系，實(shí)施敏捷治理，分類分級(jí)管理，快速有效響應(yīng)。研發(fā)主體不斷提高人工智能可解釋性和可預(yù)測(cè)性，提升數(shù)據(jù)真實(shí)性和準(zhǔn)確性，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)。增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國人工智能發(fā)展與治理的權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。積極支持在聯(lián)合國框架下討論成立國際人工智能治理機(jī)構(gòu)，協(xié)調(diào)國際人工智能發(fā)展、安全與治理重大問題。應(yīng)當(dāng)看到，《倡議》的提出是中方積極踐行人類命運(yùn)共同體理念，落實(shí)全球發(fā)展倡議、全球安全倡議、全球文明倡議的具體行動(dòng)，有利于推動(dòng)人工智能的全球安全治理，共同應(yīng)對(duì)人工智能帶來的安全挑戰(zhàn)。

此外，2023年10月29日至30日，由中國軍事科學(xué)學(xué)會(huì)和中國國際戰(zhàn)略學(xué)會(huì)主辦的北京香山論壇將人工智能安全作為重要專題進(jìn)行平行分組研討。

二、美國政府簽署人工智能安全行政命令

種基于梯度的對(duì)抗樣本生成方法。FGSM 的基本思路是在原始輸入樣本的基礎(chǔ)上計(jì)算損失函數(shù)對(duì)輸入樣本的梯度，然后將梯度符號(hào)作為擾動(dòng)方向，并將梯度的絕對(duì)值作為擾動(dòng)大小，向著使分類結(jié)果最差的方向添加擾動(dòng)，從而得到對(duì)抗樣本，使得模型對(duì)該樣本的分類結(jié)果發(fā)生錯(cuò)誤。對(duì)抗樣本生成過程如圖 1 所示，第 1 行原始圖像加上第 2 行擾動(dòng)，得到第 3 行的對(duì)抗樣本。設(shè) x 為原始輸入樣本，θ 表示模型參數(shù)，y 表示輸入樣本真實(shí)標(biāo)簽，J（θ，x，y） 表示損失函數(shù)，sign 是符號(hào)函數(shù)，ε 表示擾動(dòng)的大小。對(duì)抗樣本圖片 生成公式：

2023年10月30日，美國總統(tǒng)拜登簽署了一項(xiàng)《關(guān)于安全、可靠、值得信賴地開發(fā)和使用人工智能的行政命令》（Executive Order on the Safe， Secure， and Trustworthy Development and Use of Artificial Intelligence），以確保美國在把握人工智能的前景和管理人工智能風(fēng)險(xiǎn)方面處于領(lǐng)先地位。該行政命令為人工智能安全和保障建立了新的標(biāo)準(zhǔn)，保護(hù)美國人的隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者和工人的利益，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)，促進(jìn)美國在世界各地的領(lǐng)導(dǎo)地位等。這一行政令被外界稱為“有史以來政府為推進(jìn)人工智能安全領(lǐng)域所采取的最重大行動(dòng)”。

具體而言，該行政命令指示采取以下行動(dòng)：

（一）人工智能安全和安保新標(biāo)準(zhǔn)

行政命令要求人工智能系統(tǒng)的開發(fā)者與美國政府分享其安全測(cè)試結(jié)果和其他關(guān)鍵信息。根據(jù)《國防生產(chǎn)法》，該命令要求開發(fā)任何對(duì)國家安全、國家經(jīng)濟(jì)安全或國家公共衛(wèi)生和安全構(gòu)成嚴(yán)重風(fēng)險(xiǎn)的基礎(chǔ)模型的公司在培訓(xùn)模型時(shí)必須通知聯(lián)邦政府，并且必須分享安全測(cè)試的結(jié)果。這些措施將確保人工智能系統(tǒng)在公司公開之前是安全、可靠和值得信賴的。

制定標(biāo)準(zhǔn)、工具和測(cè)試，以幫助確保人工智能系統(tǒng)的安全、可靠和值得信賴。國家標(biāo)準(zhǔn)技術(shù)研究院將制定嚴(yán)格的標(biāo)準(zhǔn)，進(jìn)行廣泛的測(cè)試，以確保公開發(fā)布前的安全性。國土安全部將把這些標(biāo)準(zhǔn)應(yīng)用于關(guān)鍵基礎(chǔ)設(shè)施部門，并成立人工智能安全委員會(huì)（AI Safety and Security Board）。能源部和國土安全部還將解決人工智能系統(tǒng)對(duì)關(guān)鍵基礎(chǔ)設(shè)施的威脅，以及化學(xué)、生物、輻射、核和網(wǎng)絡(luò)安全風(fēng)險(xiǎn)?？傊?，這些都是任何政府為推進(jìn)人工智能安全領(lǐng)域所采取的最重要的行動(dòng)。

通過制定強(qiáng)有力的生物合成篩選新標(biāo)準(zhǔn)，防范利用人工智能設(shè)計(jì)危險(xiǎn)生物材料的風(fēng)險(xiǎn)。資助生命科學(xué)項(xiàng)目的機(jī)構(gòu)將建立這些標(biāo)準(zhǔn)，作為聯(lián)邦資助的條件，創(chuàng)造強(qiáng)有力的激勵(lì)措施，以確保適當(dāng)?shù)暮Y選和管理可能因人工智能而變得更糟的風(fēng)險(xiǎn)。

通過建立檢測(cè)人工智能生成內(nèi)容和認(rèn)證官方內(nèi)容的標(biāo)準(zhǔn)和最佳實(shí)踐，保護(hù)美國人免受人工智能帶來的欺詐和欺騙。美國商務(wù)部將制定內(nèi)容認(rèn)證和水印指南，以清晰地標(biāo)記人工智能生成的內(nèi)容。聯(lián)邦機(jī)構(gòu)將使用這些工具，使美國人更容易知道他們從政府那里收到的信息是真實(shí)的，并為世界各地的私營(yíng)部門和政府樹立榜樣。

建立一個(gè)先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃，開發(fā)人工智能工具，以發(fā)現(xiàn)和修復(fù)關(guān)鍵軟件中的漏洞，使軟件和網(wǎng)絡(luò)更加安全。行政令還要求制定國家安全備忘錄，指導(dǎo)人工智能和安全方面的進(jìn)一步行動(dòng)，由國家安全委員會(huì)和白宮辦公廳主任制定。該文件將確保美國軍方和情報(bào)界在其任務(wù)中安全、道德和有效地使用人工智能，并將指導(dǎo)行動(dòng)以對(duì)抗對(duì)手對(duì)人工智能的軍事使用。

（二）保護(hù)美國人的隱私

這份行政命令認(rèn)為如果沒有保護(hù)措施，人工智能可能會(huì)進(jìn)一步危及美國人的隱私。人工智能不僅使提取、識(shí)別和利用個(gè)人數(shù)據(jù)變得更容易，而且還增強(qiáng)了這樣做的動(dòng)機(jī)，因?yàn)楣臼褂脭?shù)據(jù)來訓(xùn)練人工智能系統(tǒng)。為了更好地保護(hù)美國人的隱私，包括免受人工智能帶來的風(fēng)險(xiǎn)，總統(tǒng)呼吁國會(huì)通過兩黨數(shù)據(jù)隱私立法，以保護(hù)所有美國人，特別是兒童，并指示采取以下行動(dòng)：

① 通過優(yōu)先考慮聯(lián)邦支持加速隱私保護(hù)技術(shù)的開發(fā)和使用來保護(hù)美國人的隱私，包括使用尖端人工智能的技術(shù)，以及讓人工智能系統(tǒng)在訓(xùn)練時(shí)保護(hù)訓(xùn)練數(shù)據(jù)的隱私。

② 通過資助一個(gè)研究協(xié)調(diào)網(wǎng)絡(luò)，加強(qiáng)保護(hù)隱私的研究和技術(shù)，例如保護(hù)個(gè)人隱私的加密工具，以推動(dòng)快速突破和發(fā)展。美國國家科學(xué)基金會(huì)也將與該網(wǎng)絡(luò)合作，促進(jìn)聯(lián)邦機(jī)構(gòu)采用先進(jìn)的隱私保護(hù)技術(shù)。

③ 評(píng)估各機(jī)構(gòu)如何收集和使用商業(yè)上可用的信息——包括他們從數(shù)據(jù)經(jīng)紀(jì)人那里獲得的信息——并加強(qiáng)聯(lián)邦機(jī)構(gòu)的隱私指導(dǎo)，以考慮人工智能風(fēng)險(xiǎn)。這項(xiàng)工作將特別側(cè)重于包含個(gè)人身份數(shù)據(jù)的商業(yè)可用信息。

④ 為聯(lián)邦機(jī)構(gòu)制定指導(dǎo)方針，以評(píng)估隱私保護(hù)技術(shù)的有效性，包括人工智能系統(tǒng)中使用的技術(shù)。這些指導(dǎo)方針將促進(jìn)機(jī)構(gòu)保護(hù)美國人數(shù)據(jù)的努力。

（三）促進(jìn)公平和美國公民權(quán)利

拜登政府認(rèn)為，不負(fù)責(zé)任地使用人工智能會(huì)導(dǎo)致并加深司法、醫(yī)療和住房領(lǐng)域的歧視、偏見和其他濫用行為。拜登政府已經(jīng)采取行動(dòng)，發(fā)布了《人工智能權(quán)利法案藍(lán)圖》，并發(fā)布了一項(xiàng)行政命令，指示各機(jī)構(gòu)打擊算法歧視，同時(shí)執(zhí)行現(xiàn)有權(quán)力，保護(hù)人民的權(quán)利和安全。為了確保人工智能促進(jìn)公平和公民權(quán)利，拜登政府指示采取以下額外行動(dòng)：

① 為聯(lián)邦福利計(jì)劃和聯(lián)邦承包商提供明確的指導(dǎo)，以防止人工智能算法被用來加劇歧視。

② 通過培訓(xùn)、技術(shù)援助和司法部與聯(lián)邦民權(quán)辦公室就調(diào)查和起訴與人工智能有關(guān)的侵犯民權(quán)行為的最佳做法進(jìn)行協(xié)調(diào)，解決算法歧視問題。

③ 通過制定在量刑、假釋和緩刑、審前釋放和拘留、風(fēng)險(xiǎn)評(píng)估、監(jiān)視、犯罪預(yù)測(cè)和預(yù)測(cè)性警務(wù)以及法醫(yī)分析方面使用人工智能的最佳做法，確保整個(gè)刑事司法系統(tǒng)的公平性。

（四）促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)

美國已經(jīng)在人工智能創(chuàng)新方面處于領(lǐng)先地位——去年在美國獲得首次融資的人工智能初創(chuàng)公司比緊隨其后的七個(gè)國家加起來還要多。拜登政府的行政命令要求通過以下行動(dòng)繼續(xù)引領(lǐng)人工智能領(lǐng)域的創(chuàng)新和競(jìng)爭(zhēng)：

① 通過國家人工智能研究資源試點(diǎn)促進(jìn)美國各地的人工智能研究——該工具將為人工智能研究人員和學(xué)生提供關(guān)鍵的人工智能資源和數(shù)據(jù)——并擴(kuò)大對(duì)醫(yī)療保健和氣候變化等重要領(lǐng)域的人工智能研究的資助。

② 通過為小型開發(fā)商和企業(yè)家提供技術(shù)援助和資源，幫助小型企業(yè)將人工智能突破商業(yè)化，并鼓勵(lì)聯(lián)邦貿(mào)易委員會(huì)行使其權(quán)力，促進(jìn)公平、開放和競(jìng)爭(zhēng)的人工智能生態(tài)系統(tǒng)。

③ 利用現(xiàn)有權(quán)力，通過現(xiàn)代化和簡(jiǎn)化簽證標(biāo)準(zhǔn)、面談和審查，擴(kuò)大在關(guān)鍵領(lǐng)域具有專業(yè)知識(shí)的高技能移民和非移民在美國學(xué)習(xí)、居留和工作的能力。

（五）推進(jìn)美國在海外的領(lǐng)導(dǎo)地位

人工智能的挑戰(zhàn)和機(jī)遇都是全球性的。拜登政府將繼續(xù)與其他國家合作，支持在全球范圍內(nèi)安全、可靠地部署和使用人工智能。為此，美國政府將采取下列行動(dòng)：

① 擴(kuò)大雙邊、多邊和多方利益攸關(guān)方在人工智能領(lǐng)域的合作。美國國務(wù)院將與商務(wù)部合作，牽頭建立強(qiáng)有力的國際框架，以利用人工智能的優(yōu)勢(shì)，管理其風(fēng)險(xiǎn)并確保安全。

② 與國際合作伙伴和標(biāo)準(zhǔn)組織加快制定和實(shí)施重要的人工智能標(biāo)準(zhǔn)，確保技術(shù)安全、可靠、值得信賴和可互操作。

③ 促進(jìn)安全、負(fù)責(zé)任和保障權(quán)利的人工智能在國外的發(fā)展和部署，以解決全球挑戰(zhàn)，如促進(jìn)可持續(xù)發(fā)展和減輕關(guān)鍵基礎(chǔ)設(shè)施的危險(xiǎn)。

（六）確保政府負(fù)責(zé)和有效地使用人工智能

人工智能可以幫助政府更好地服務(wù)美國人民。它可以擴(kuò)大機(jī)構(gòu)監(jiān)管、管理和支付福利的能力，還可以削減成本并增強(qiáng)政府系統(tǒng)的安全性。然而，人工智能的使用也會(huì)帶來風(fēng)險(xiǎn)，比如歧視和不安全的決策。為確保負(fù)責(zé)任的政府部署人工智能并使聯(lián)邦人工智能基礎(chǔ)設(shè)施現(xiàn)代化，拜登政府指示采取以下行動(dòng)：

① 為各機(jī)構(gòu)使用人工智能發(fā)布指導(dǎo)，包括明確保護(hù)權(quán)利和安全的標(biāo)準(zhǔn)，改進(jìn)人工智能采購，加強(qiáng)人工智能部署。

② 通過更快速、更高效的合同，幫助機(jī)構(gòu)更快、更便宜、更有效地獲得特定的人工智能產(chǎn)品和服務(wù)。

③ 加快人工智能專業(yè)人員的快速招聘，作為由人事管理辦公室、美國數(shù)字服務(wù)、美國數(shù)字軍團(tuán)和總統(tǒng)創(chuàng)新獎(jiǎng)學(xué)金牽頭的全政府人工智能人才激增的一部分。各機(jī)構(gòu)將為相關(guān)領(lǐng)域的各級(jí)員工提供人工智能培訓(xùn)。

三、英國召開全球首屆人工智能安全峰會(huì)

2023年11月1日，首屆全球人工智能安全峰會(huì)（AI Safety Summit）在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表就人工智能技術(shù)快速發(fā)展帶來的風(fēng)險(xiǎn)與機(jī)遇展開討論。在此次峰會(huì)中，英國艾倫·圖靈研究所、中國科學(xué)院、經(jīng)濟(jì)合作與發(fā)展組織等眾多機(jī)構(gòu)，英國“深層思維”公司、美國谷歌公司、中國騰訊公司、阿里巴巴公司等知名企業(yè)，以及揚(yáng)·萊坎（中文名楊立昆）、約舒亞·本吉奧、杰弗里·欣頓等人工智能領(lǐng)域知名專家出席，重點(diǎn)關(guān)注人工智能技術(shù)可能帶來的風(fēng)險(xiǎn)，同時(shí)討論該技術(shù)帶來的變革性機(jī)遇。

英國政府認(rèn)為，生成式人工智能最近取得了快速進(jìn)展，預(yù)計(jì)未來幾年將繼續(xù)取得進(jìn)展。這可能會(huì)導(dǎo)致這些人工智能大模型以更快的速度進(jìn)化，乃至超出人類理解甚至人類控制的危險(xiǎn)。有鑒于此，英國首相蘇納克（Rishi Sunak）在10月26日公開表示希望成立一個(gè)全球人工智能安全研究機(jī)構(gòu)來檢查、評(píng)估和測(cè)試新型人工智能，以便于更精準(zhǔn)地預(yù)測(cè)人工智能可能會(huì)帶來的風(fēng)險(xiǎn)和產(chǎn)生的后果。英國將尋求與國際合作伙伴、政策制定者、私營(yíng)公司、學(xué)術(shù)界和民間社會(huì)分享信息，作為人工智能安全研究合作努力的一部分。蘇納克希望英國成為人工智能安全發(fā)展領(lǐng)域的全球領(lǐng)導(dǎo)者。

調(diào)查結(jié)果顯示，國際社會(huì)贊成政府支持的人工智能安全研究所來評(píng)估強(qiáng)大的人工智能，以測(cè)試這一技術(shù)是否安全，62%的英國受訪者支持這一想法。對(duì)包括加拿大、法國、日本、英國和美國在內(nèi)的9個(gè)國家的國際公眾對(duì)人工智能安全的民意調(diào)查顯示，大多數(shù)國家都強(qiáng)烈支持由獨(dú)立專家對(duì)強(qiáng)大的人工智能進(jìn)行測(cè)試。所有國家的大多數(shù)受訪者都同意這一點(diǎn)，從日本的59%到英國和新加坡的76%。當(dāng)被問及他們信任誰來全面負(fù)責(zé)確保人工智能的安全時(shí)，在接受調(diào)查的9個(gè)國家中，有7個(gè)國家的人工智能安全研究所是最受歡迎的選擇，而且往往有一定距離。

值得注意的是，來自中國、印度、美國和歐盟等28個(gè)國家和地區(qū)的代表在此次峰會(huì)上還簽署通過了全球首個(gè)人工智能協(xié)議《布萊切利人工智能安全宣言》（Bletchley Declaration on AI Safety），旨在解決前沿人工智能模型可能會(huì)面臨的失控和濫用的風(fēng)險(xiǎn)。宣言指出，人工智能帶來了巨大的全球機(jī)遇：它有可能改變和增進(jìn)人類福祉、和平與繁榮，特別是在公共服務(wù)，如衛(wèi)生和教育、糧食安全、科學(xué)、清潔能源、生物多樣性和氣候等領(lǐng)域，并加倍努力實(shí)現(xiàn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)等方面。在帶來這些機(jī)遇的同時(shí)，人工智能也帶來了重大風(fēng)險(xiǎn)，表現(xiàn)在影響人權(quán)、透明度和可解釋性、公平、問責(zé)、監(jiān)管、安全、適當(dāng)?shù)娜祟惐O(jiān)督、道德、減少偏見、隱私和數(shù)據(jù)保護(hù)等問題。特別是，篡改內(nèi)容或生成欺騙性內(nèi)容的能力可能會(huì)帶來不可預(yù)見的風(fēng)險(xiǎn)，人工智能在網(wǎng)絡(luò)和生物安全領(lǐng)域的應(yīng)用所帶來的挑戰(zhàn)也尤為突出。為了更好地運(yùn)用人工智能和規(guī)避其風(fēng)險(xiǎn)，為了所有人的利益，應(yīng)以安全的方式設(shè)計(jì)、開發(fā)、部署和使用人工智能，做到以人為本、值得信賴和負(fù)責(zé)任，確保人工智能的安全，并通過現(xiàn)有的國際論壇和其他相關(guān)倡議支持所有人的利益，促進(jìn)合作。

在此過程中，雖然必須在整個(gè)人工智能生命周期考慮安全問題，但開發(fā)前沿人工智能能力的參與者，特別針對(duì)于那些異常強(qiáng)大且可能有害的人工智能系統(tǒng)，對(duì)確保這些人工智能系統(tǒng)的安全負(fù)有特別重大的責(zé)任，包括通過安全測(cè)試系統(tǒng)、通過評(píng)估以及通過其他適當(dāng)措。宣言鼓勵(lì)所有相關(guān)主體就衡量、監(jiān)測(cè)和減輕潛在有害能力及可能出現(xiàn)的相關(guān)影響的計(jì)劃提供與具體情況相適應(yīng)的透明度和問責(zé)制，特別是防止濫用和控制問題，以及其他風(fēng)險(xiǎn)的擴(kuò)大。

倡議呼吁，國際社會(huì)應(yīng)對(duì)人工智能前沿風(fēng)險(xiǎn)的議程將側(cè)重于以下幾個(gè)方面：

一是確定共同關(guān)注的人工智能安全風(fēng)險(xiǎn)，建立對(duì)這些風(fēng)險(xiǎn)的科學(xué)和循證的共識(shí)，并能夠伴隨著能力的不斷增強(qiáng)，在更廣泛的全球范圍內(nèi)保持共識(shí)，以了解人工智能對(duì)社會(huì)的影響。

二是各國制定各自的基于風(fēng)險(xiǎn)的政策，以有效應(yīng)對(duì)此類風(fēng)險(xiǎn)，并酌情開展國際合作，同時(shí)認(rèn)識(shí)到做法可能因國情和適用的法律框架而有所差異。這包括，除了提高開發(fā)人工智能前沿能力的私人行為主體的透明度外，還包括適當(dāng)?shù)脑u(píng)估指標(biāo)、安全測(cè)試工具，以及發(fā)展相關(guān)的公共部門能力和科學(xué)研究。

三是為推進(jìn)這一議程，國際社會(huì)需要共同建立一個(gè)具有國際包容性的人工智能前沿安全科學(xué)研究網(wǎng)絡(luò)，該網(wǎng)絡(luò)應(yīng)包括并補(bǔ)充現(xiàn)有的和新的多邊和雙邊合作，包括通過現(xiàn)有的國際論壇和其他相關(guān)倡議，以促進(jìn)提供最佳的科學(xué)支持，用于政策制定和公益事業(yè)。

在此次峰會(huì)上，中國科技部副部長(zhǎng)吳朝暉在開幕式上發(fā)表講話，呼吁全球合作分享人工智能技術(shù)，讓人工智能向公眾開放?！耙粠б宦贰焙献骺蚣芟?，中國已將數(shù)字經(jīng)濟(jì)作為與共建國家的重要合作內(nèi)容，其中就包括與各國在人工智能領(lǐng)域加強(qiáng)合作。美國副總統(tǒng)哈馬斯則高調(diào)表示，美國是人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者，拜登的行政命令應(yīng)該成為國際典范。美國商務(wù)部長(zhǎng)雷蒙多則利用此次峰會(huì)宣布美國將成立一個(gè)人工智能安全研究所，該研究所據(jù)稱將作為一個(gè)中立的第三方來制定人工智能安全標(biāo)準(zhǔn)。相較之下，歐盟國家則更多關(guān)注數(shù)據(jù)隱私問題，希望在這方面對(duì)人工智能加強(qiáng)監(jiān)管。8月25日，歐盟一項(xiàng)新的數(shù)字隱私保護(hù)法《數(shù)字服務(wù)法》（DSA）正式生效，旨在保護(hù)個(gè)人用戶的隱私問題，防止有害內(nèi)容和虛假信息的進(jìn)一步傳播。10月24日，歐盟就新人工智能法案中的關(guān)鍵部分達(dá)成一致，該法案預(yù)計(jì)于12月份公布。

四、結(jié)語

正如《布萊奇利宣言》指出的那樣，人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國際性的，因此“最好通過國際合作來解決”。人工智能作為當(dāng)今科技領(lǐng)域的熱門話題，其發(fā)展速度之快、應(yīng)用范圍之廣、影響力度之大，引發(fā)了國際社會(huì)的廣泛關(guān)注。由于人工智能技術(shù)的復(fù)雜性和跨學(xué)科性，單靠一個(gè)國家或一個(gè)組織的力量很難全面應(yīng)對(duì)其安全風(fēng)險(xiǎn)。因此，為了更好地應(yīng)對(duì)人工智能帶來的前沿風(fēng)險(xiǎn)，各國政府、企業(yè)、學(xué)術(shù)界和相關(guān)國際組織需要加強(qiáng)合作，共同研究和分析人工智能的安全風(fēng)險(xiǎn)，并采取有效的措施來降低這些風(fēng)險(xiǎn)。各國政府需要加強(qiáng)對(duì)人工智能技術(shù)的監(jiān)管，確保其符合道德和法律標(biāo)準(zhǔn)。同時(shí)，國際組織和跨國企業(yè)可以加強(qiáng)合作，共同制定人工智能安全治理的國際標(biāo)準(zhǔn)和規(guī)范，促進(jìn)人工智能技術(shù)的安全和可持續(xù)發(fā)展。只有加強(qiáng)合作、制定規(guī)范和標(biāo)準(zhǔn)，才能確保人工智能技術(shù)的安全性和可靠性，為人類社會(huì)的進(jìn)步和發(fā)展做出更大的貢獻(xiàn)。在推進(jìn)全球人工智能安全治理的這一過程中，大國責(zé)任的發(fā)揮顯得尤為重要。