英國對AI的定義是什么？監(jiān)管AI的五大原則

人工智能創(chuàng)新者和企業(yè)必須適當(dāng)透明，并能夠解釋他們的AI決策過程和風(fēng)險。適當(dāng)水平的透明度和可解釋性被定義為“監(jiān)管者擁有關(guān)于AI系統(tǒng)及其相關(guān)輸入和輸出的足夠信息，以對其他原則產(chǎn)生有意義的影響?！北O(jiān)管機(jī)構(gòu)可能會將產(chǎn)品標(biāo)簽和技術(shù)標(biāo)準(zhǔn)作為收集這些信息的選擇。監(jiān)管者還需要澄清特定人工智能技術(shù)的適當(dāng)和可實現(xiàn)的可解釋程度。

（3）公平

AI應(yīng)該是公平的，不歧視個人或商業(yè)成果，也不損害他們的合法權(quán)利。監(jiān)管機(jī)構(gòu)可能需要使用相關(guān)法律，如《2010年平等法案》、《1998年人權(quán)法》、《公共部門平等義務(wù)》、《英國通用數(shù)據(jù)保護(hù)條例》、《2018年數(shù)據(jù)保護(hù)法案》、《消費(fèi)者和競爭法》以及特定部門的公平要求，制定并發(fā)布適用于其監(jiān)管領(lǐng)域內(nèi)人工智能系統(tǒng)的公平描述。

（4）問責(zé)制和治理

管理AI的監(jiān)管措施需要充分地讓AI生命周期中的適當(dāng)行為者對人工智能的結(jié)果負(fù)責(zé)。監(jiān)管者必須確保對法規(guī)遵從性有明確的預(yù)期，并且可能需要使用治理程序來鼓勵法規(guī)遵從性。DSIT承認(rèn)，在AI產(chǎn)品的生命周期中，誰應(yīng)該被分配責(zé)任還不清楚，因此不建議在這個階段進(jìn)行干預(yù)。相反，DSIT將召集專家、技術(shù)人員和律師來考慮未來的適度干預(yù)。

（5）爭議和補(bǔ)救

用戶和其他利益相關(guān)者需要明確的途徑來質(zhì)疑人工智能造成的任何傷害。政府希望監(jiān)管機(jī)構(gòu)澄清現(xiàn)有的途徑，并鼓勵和指導(dǎo)受監(jiān)管的實體，以確保受影響的各方可以通過非正式或正式的渠道明確質(zhì)疑有害的人工智能結(jié)果。

六、在新框架下，監(jiān)管機(jī)構(gòu)將做些什么？

雖然DSIT的白皮書沒有提供監(jiān)管AI技術(shù)的現(xiàn)有監(jiān)管機(jī)構(gòu)的詳盡列表，但所描繪的監(jiān)管框架取決于授權(quán)這些監(jiān)管機(jī)構(gòu)制定針對具體情況和跨部門的人工智能方法。這篇論文解釋說，創(chuàng)建一個新的專門針對AI的監(jiān)管機(jī)構(gòu)會給整個監(jiān)管機(jī)構(gòu)列表帶來更多的復(fù)雜性和混亂。目前AI的監(jiān)管機(jī)構(gòu)包括健康和安全執(zhí)行局、平等和人權(quán)委員會以及競爭和市場管理局，但該列表可以包括白皮書中沒有提到的其他機(jī)構(gòu)。

根據(jù)人工智能的新方法，這些監(jiān)管機(jī)構(gòu)將采取以下措施:

（1）采取相應(yīng)的、支持增長和支持創(chuàng)新的方法，重點(diǎn)關(guān)注特定AI帶來的特定風(fēng)險。

（2）考慮采取相應(yīng)的措施解決優(yōu)先風(fēng)險，考慮由政府或為政府進(jìn)行的風(fēng)險評估。

（3）設(shè)計、實施和執(zhí)行適當(dāng)?shù)谋O(jiān)管要求，將新的AI監(jiān)管原則整合到現(xiàn)有流程中。

（4）制定聯(lián)合指南，以支持AI遵守原則和相關(guān)要求。

（5）考慮工具，如保證技術(shù)和技術(shù)標(biāo)準(zhǔn)，如何支持法規(guī)遵從性。

（6）參與政府對框架的監(jiān)測和評估。

七、英國將如何實施這一注重原則的框架？

白皮書中定義的人工智能五項原則將首先在現(xiàn)有法規(guī)中實施，并得到中央政府職能部門的支持。監(jiān)管機(jī)構(gòu)將首先實施這些原則，以適應(yīng)人工智能的背景和使用。監(jiān)管機(jī)構(gòu)還將合作找出實施這些原則的障礙。政府將發(fā)揮核心支持作用，以確保該框架按比例運(yùn)作，并有利于AI創(chuàng)新。

只有在必要的情況下，政府才會出臺新的立法，制定進(jìn)一步的措施，要求監(jiān)管機(jī)構(gòu)適當(dāng)考慮這些原則，即授權(quán)監(jiān)管機(jī)構(gòu)實施與其部門或領(lǐng)域相關(guān)的原則。

八、政府將如何評估其人工智能框架？

政府界定了七項中央職能，這將有助于政府確定框架是否有效，并確定提高清晰度和協(xié)調(diào)的機(jī)會:

（1）監(jiān)控、評估和反饋

政府將通過從行業(yè)、監(jiān)管機(jī)構(gòu)、政府和民間社會收集相關(guān)數(shù)據(jù)，評估該框架的跨經(jīng)濟(jì)和特定部門影響。它還將支持和裝備監(jiān)管機(jī)構(gòu)，以監(jiān)測和評估制度的內(nèi)部。通過跟蹤框架的有效性、相稱性和對創(chuàng)新的影響，政府希望提供改進(jìn)建議、可能需要額外干預(yù)的情況以及反饋循環(huán)和利益攸關(guān)方參與的必要情況。

（2）支持原則的一致實施

政府將制定和維護(hù)中央監(jiān)管指南，以幫助監(jiān)管機(jī)構(gòu)實施AI原則，確定可能妨礙實施的障礙，并解決監(jiān)管機(jī)構(gòu)解釋原則的不一致和差異。政府將利用這些任務(wù)進(jìn)一步監(jiān)測這些原則的相關(guān)性以及是否需要對其進(jìn)行調(diào)整。

（3）跨部門風(fēng)險評估

政府將建立一個跨經(jīng)濟(jì)和全社會的人工智能風(fēng)險登記冊?？绮块T風(fēng)險評估職能將支持監(jiān)管機(jī)構(gòu)的內(nèi)部風(fēng)險評估；監(jiān)控、審查和優(yōu)先處理已知和新的風(fēng)險；明確新風(fēng)險中的責(zé)任；支持監(jiān)管機(jī)構(gòu)之間的合作；確定風(fēng)險覆蓋范圍的差距；并分享風(fēng)險評估的最佳做法。

（4）支持創(chuàng)新者(包括試驗臺和沙箱)

政府將消除創(chuàng)新障礙，最大限度地降低法律和合規(guī)風(fēng)險，以幫助人工智能創(chuàng)新者駕馭監(jiān)管格局。根據(jù)首席科學(xué)顧問Patrick Vallance爵士的建議，政府還將建立一個多監(jiān)管機(jī)構(gòu)的人工智能沙盒。沙盒將測試監(jiān)管框架如何運(yùn)作，以及監(jiān)管機(jī)構(gòu)或政府是否應(yīng)該解決不必要的創(chuàng)新障礙。政府將首先在一個人工智能投資高的行業(yè)試點(diǎn)一個多監(jiān)管機(jī)構(gòu)沙箱，并計劃隨著時間的推移將這一能力擴(kuò)展到更多的行業(yè)。政府傾向于一個沙箱，向參與創(chuàng)新者提供技術(shù)專家和監(jiān)管專家的定制建議，幫助他們克服監(jiān)管障礙。

（5）教育和意識

政府將引導(dǎo)企業(yè)、消費(fèi)者和公眾在AI和AI監(jiān)管領(lǐng)域?qū)Ш?。政府還將鼓勵監(jiān)管機(jī)構(gòu)利用宣傳活動教育AI用戶有關(guān)風(fēng)險。

（6）地平線掃描

政府將監(jiān)測AI的新興趨勢和機(jī)遇，積極召集利益相關(guān)者討論人工智能監(jiān)管框架如何支持AI創(chuàng)新和應(yīng)對AI風(fēng)險，并支持進(jìn)一步的AI風(fēng)險評估。

九、確保與國際監(jiān)管框架的互操作性

政府將支持英國與國際合作伙伴在人工智能監(jiān)管方面的合作，方法是監(jiān)測英國原則與全球方法的一致性，并利用跨境協(xié)調(diào)使英國框架與國際司法管轄區(qū)保持一致，并創(chuàng)建監(jiān)管互操作性。

DSIT希望這一新的監(jiān)管框架的適應(yīng)性和相稱性將有助于它為面向未來的AI監(jiān)管設(shè)定全球規(guī)范。例如，基礎(chǔ)模型是通用AI，它針對各種任務(wù)對大量數(shù)據(jù)進(jìn)行訓(xùn)練。因為確定基礎(chǔ)模型如何工作、它們的能力和它們的風(fēng)險具有挑戰(zhàn)性，所以框架對中心功能的使用以及對保證技術(shù)和技術(shù)標(biāo)準(zhǔn)等工具的潛在使用可能有助于最小化它們的潛在風(fēng)險，同時允許基礎(chǔ)模型進(jìn)入英國市場。DSIT還承認(rèn)，基礎(chǔ)模型生命周期中的責(zé)任問題將越來越重要，因為模型中的任何缺陷都會迅速影響到所有下游產(chǎn)品。

然而，白皮書認(rèn)為，對有限責(zé)任公司和其他基金會模式采取具體的監(jiān)管行動為時過早。干預(yù)過快可能會妨礙英國在各種用例中采用這些模型的能力。相反，英國將監(jiān)測和評估LLM的影響，探索標(biāo)準(zhǔn)和其他工具是否能夠支持負(fù)責(zé)任的創(chuàng)新，然后讓監(jiān)管者與行動者合作并對模式發(fā)展做出反應(yīng)。對于有限責(zé)任公司，白皮書建議監(jiān)管機(jī)構(gòu)可以就適當(dāng)?shù)耐该鞫却胧┌l(fā)布指導(dǎo)意見。英國政府將監(jiān)測和評估這些模型，直到監(jiān)管機(jī)構(gòu)和標(biāo)準(zhǔn)可以干預(yù)，以支持良好的治理和實踐。

十、英國想要可信人工智能的工具

DSIT認(rèn)為，可信人工智能的工具對于負(fù)責(zé)任和安全地采用AI至關(guān)重要。白皮書建議將這些工具分為兩類，以幫助符合其提議的監(jiān)管框架。

第一類包括人工智能保證技術(shù)——包括影響評估、審計、性能測試和正式驗證方法——可能有助于英國AI保證行業(yè)的發(fā)展。這些技術(shù)將測量、評估和描述AI在其整個生命周期中的可信度。這些技術(shù)沒有具體說明，但政府將在2023年春季推出一個投資組合。

第二類由AI技術(shù)標(biāo)準(zhǔn)組成，這些標(biāo)準(zhǔn)提供了跨供應(yīng)商的共同理解，當(dāng)實現(xiàn)時，表明符合框架的原則。AI技術(shù)標(biāo)準(zhǔn)將包括風(fēng)險管理、透明度、偏見、安全性和穩(wěn)健性方面的通用基準(zhǔn)和實用指南。政府將與行業(yè)、國際合作伙伴、英國合作伙伴和英國AI標(biāo)準(zhǔn)中心合作。

英國政府表示，它將對人工智能技術(shù)標(biāo)準(zhǔn)采用分層方法:

第一層將提供跨監(jiān)管權(quán)限的一致性和共同基礎(chǔ)。監(jiān)管機(jī)構(gòu)將尋求采用非特定部門的標(biāo)準(zhǔn)，并可用于支持五項AI原則的跨部門實施。

第二層將使治理實踐適應(yīng)特定背景下AI的特定風(fēng)險，以便監(jiān)管機(jī)構(gòu)可以鼓勵采用針對偏見和透明度等問題的新標(biāo)準(zhǔn)。

最后，監(jiān)管機(jī)構(gòu)可以在適當(dāng)?shù)臅r候鼓勵采用特定部門的技術(shù)標(biāo)準(zhǔn)，以支持遵守特定部門的監(jiān)管要求。

十一、關(guān)于人工智能的全球?qū)υ?/strong>