如何應(yīng)對AI監(jiān)管的重大挑戰(zhàn)？

AI監(jiān)管面臨的最大挑戰(zhàn)是創(chuàng)建一個全面的框架，并能根據(jù)AI在不同應(yīng)用中的細(xì)微差別制定相應(yīng)的規(guī)則。雖然算法系統(tǒng)已被廣泛應(yīng)用于社會經(jīng)濟(jì)決策，但這些算法都有其獨特性。為應(yīng)對這一挑戰(zhàn)，我們需要一種能夠全面監(jiān)督特定應(yīng)用的算法治理方法。

本研究提出了一種新的監(jiān)管方法“關(guān)鍵算法系統(tǒng)分類”（Critical Algorithmic System Classification，CASC），這種方法能夠以一種全面的方式為算法系統(tǒng)制定針對特定應(yīng)用的規(guī)則，并在此過程中長期保護(hù)消費者和公民權(quán)利，而不必為算法系統(tǒng)建立額外的監(jiān)督制度。2023 年8月31日，美國知名智庫布魯金斯學(xué)會發(fā)布《全面、分布式的人工智能監(jiān)管方法》報告，探討如何應(yīng)對AI算法監(jiān)管面臨的重大挑戰(zhàn)。

一、全面、分布式AI監(jiān)管的必要性

在許多關(guān)鍵社會經(jīng)濟(jì)決策中，算法決策系統(tǒng)（Algorithmic Decision-making System，ADS）無處不在，包括教育準(zhǔn)入、找工作和招聘、員工管理、消費金融服務(wù)、財產(chǎn)評估、租金確定、租戶篩選、醫(yī)療供應(yīng)、藥物審批等等。這些關(guān)鍵應(yīng)用中的大多數(shù)決策都受到算法決策系統(tǒng)的影響或完全由算法決策系統(tǒng)做出。雖然算法和數(shù)據(jù)分析的使用有時確實能推動社會進(jìn)步，但錯誤數(shù)據(jù)、算法失靈、歧視性影響以及對算法能力的過高估計也造成了許多個人和系統(tǒng)的傷害。

社會經(jīng)濟(jì)的一些關(guān)鍵要素已部分受到聯(lián)邦法律管轄。然而，聯(lián)邦機(jī)構(gòu)往往沒有足夠的能力來審查和充分監(jiān)管其法律管轄范圍內(nèi)的算法決策系統(tǒng)。許多機(jī)構(gòu)在算法監(jiān)管方面能力不足，包括：要求實體保留數(shù)據(jù)、代碼、模型和技術(shù)文檔的權(quán)力；審計算法決策系統(tǒng)的技術(shù)能力；制定使用規(guī)則的法律權(quán)力。正如美國白宮《AI權(quán)利法案藍(lán)圖》、白宮管理和預(yù)算辦公室（OMB）備忘錄M-21-06以及美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）《AI風(fēng)險管理框架》等文件所表述的那樣，這些限制是聯(lián)邦政府促進(jìn)可信和負(fù)責(zé)任AI目標(biāo)的主要障礙。

雖然許多聯(lián)邦機(jī)構(gòu)都面臨著能力不足的挑戰(zhàn)，但每種算法決策系統(tǒng)的具體情況（使用的算法類型、操作的數(shù)據(jù)、促進(jìn)的社會技術(shù)進(jìn)程以及帶來的風(fēng)險）卻大相徑庭。算法在關(guān)鍵社會經(jīng)濟(jì)決策中的作用是多方面的，也是多種多樣的，因此通過一個集中的流程來制定所有算法標(biāo)準(zhǔn)或強(qiáng)制執(zhí)行是不可行的，也是不可取的（盡管某些屬性，如披露和非歧視，可能是普遍要求）。歐盟在試圖起草單一的綜合性AI法案時所面臨的重大挑戰(zhàn)也進(jìn)一步證明了這一點，該法案可能會導(dǎo)致法律框架缺乏對特定行業(yè)和算法應(yīng)用的充分適應(yīng)性。聯(lián)邦機(jī)構(gòu)應(yīng)被賦予足夠靈活的權(quán)力，以監(jiān)管其領(lǐng)域內(nèi)有影響的算法決策系統(tǒng)，而不是一個集中的流程或一套單一的規(guī)則。

二、“關(guān)鍵算法系統(tǒng)分類”方法簡介

在關(guān)鍵社會經(jīng)濟(jì)決策中，算法決策系統(tǒng)的激增非常普遍，但在許多不同的情況下又表現(xiàn)出獨特性。這是AI算法治理的核心挑戰(zhàn)，需要一種既全面又能針對具體應(yīng)用制定規(guī)則并由部門機(jī)構(gòu)進(jìn)行監(jiān)督的監(jiān)管方法。

本文針對這一雙重挑戰(zhàn)提出了一種新穎的方法，其中包括兩項關(guān)鍵的干預(yù)措施：

1. 授予監(jiān)管機(jī)構(gòu)行政傳喚權(quán)，以調(diào)查和審計影響與機(jī)構(gòu)法定權(quán)限流程的算法決策系統(tǒng)。

2. 創(chuàng)建一個新的監(jiān)管工具，授權(quán)監(jiān)管機(jī)構(gòu)在法定權(quán)限內(nèi)發(fā)布和執(zhí)行針對關(guān)鍵社會經(jīng)濟(jì)決策中算法決策系統(tǒng)的法規(guī)。

這兩項干預(yù)措施（合稱“關(guān)鍵算法系統(tǒng)分類”）將在很大程度上使聯(lián)邦機(jī)構(gòu)能夠按比例應(yīng)對在美國現(xiàn)有治理范圍內(nèi)運(yùn)作的算法決策系統(tǒng)現(xiàn)有和未來的重大風(fēng)險。

關(guān)鍵術(shù)語

算法決策系統(tǒng)（ADS）：任何計算過程（包括基于統(tǒng)計、機(jī)器學(xué)習(xí)、AI或其他數(shù)據(jù)處理技術(shù)的計算過程，不包括被動計算基礎(chǔ)設(shè)施），其結(jié)果可作為決策或判斷的基礎(chǔ)或組成部分。

算法決策系統(tǒng)類別：任何數(shù)量的算法決策系統(tǒng)，無論其算法方法或開發(fā)實體如何，它們在由監(jiān)管機(jī)構(gòu)確定的程序中大體上發(fā)揮相同的作用。用于分析簡歷、抵押貸款定價或大學(xué)錄取的算法決策系統(tǒng)都屬于算法決策系統(tǒng)類別。

“關(guān)鍵算法系統(tǒng)分類”（CASC）：通過聯(lián)邦規(guī)則制定程序應(yīng)用于算法決策系統(tǒng)類別的法律名稱，從而為該算法決策系統(tǒng)類別制定具有法律約束力和可強(qiáng)制執(zhí)行的規(guī)則。

“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)：通過擬議的聯(lián)邦規(guī)則制定程序被指定為“關(guān)鍵算法系統(tǒng)分類”的算法決策系統(tǒng)類別。

監(jiān)管機(jī)構(gòu)：對社會經(jīng)濟(jì)決策具有重要部門監(jiān)管作用的聯(lián)邦機(jī)構(gòu)，包括：美國消費者金融保護(hù)局、勞工部和職業(yè)安全與健康管理局、教育部、平等就業(yè)機(jī)會委員會、環(huán)境保護(hù)局、聯(lián)邦存款保險公司、聯(lián)邦住房金融局、聯(lián)邦通信委員會、聯(lián)邦儲備委員會、衛(wèi)生與公眾服務(wù)部、住房與城市發(fā)展部、貨幣監(jiān)理署、證券交易委員會、財政部和退伍軍人事務(wù)部。

通過行政傳票授權(quán)進(jìn)行算法審查和審計

監(jiān)管機(jī)構(gòu)將被授權(quán)通過行政傳票收集必要的數(shù)據(jù)、文檔和技術(shù)人工物（technical artifacts）（包括代碼和模型對象），并就算法決策系統(tǒng)的開發(fā)和部署進(jìn)行訪談。算法決策系統(tǒng)的開發(fā)者和部署者（必要時包括供應(yīng)商和承包商）都可能受到行政傳票的約束。監(jiān)管機(jī)構(gòu)將有權(quán)使用這些行政傳票對單個算法決策系統(tǒng)進(jìn)行算法審計，對某個算法決策系統(tǒng)類別的影響進(jìn)行系統(tǒng)審查，為指定“關(guān)鍵算法系統(tǒng)分類”的規(guī)則制定程序提供信息，并執(zhí)行“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)規(guī)則。

監(jiān)管機(jī)構(gòu)只能在國會授權(quán)范圍內(nèi)對該機(jī)構(gòu)程序有重大影響的算法決策系統(tǒng)發(fā)出行政傳票。這就確保了監(jiān)管機(jī)構(gòu)僅有權(quán)調(diào)查和審計屬于各機(jī)構(gòu)法定監(jiān)管職責(zé)范圍內(nèi)的算法決策系統(tǒng)，從而防止監(jiān)管過度，減少機(jī)構(gòu)間的監(jiān)管重疊。各機(jī)構(gòu)還需要向開發(fā)和/或部署算法決策系統(tǒng)的實體提供適當(dāng)?shù)耐ㄖ?；確保保護(hù)通過傳票獲得的任何私人數(shù)據(jù)；避免通過傳票程序或相關(guān)調(diào)查披露任何商業(yè)秘密或知識產(chǎn)權(quán)。

通過“關(guān)鍵算法系統(tǒng)分類”監(jiān)管算法決策系統(tǒng)

擬議的“關(guān)鍵算法系統(tǒng)分類”將是一個新的法律名稱，它將授權(quán)聯(lián)邦機(jī)構(gòu)制定和執(zhí)行針對符合條件的算法決策系統(tǒng)的規(guī)則。通過聯(lián)邦規(guī)則制定程序，所覆蓋的機(jī)構(gòu)必須證明某類算法決策系統(tǒng)符合“關(guān)鍵算法系統(tǒng)分類”的法律標(biāo)準(zhǔn)，這樣才能制定和執(zhí)行該類“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)商業(yè)使用標(biāo)準(zhǔn)。“關(guān)鍵算法系統(tǒng)分類”無意擴(kuò)大聯(lián)邦監(jiān)管范圍，而是為監(jiān)管機(jī)構(gòu)提供足夠的法律權(quán)力和監(jiān)管工具，以監(jiān)督在其現(xiàn)有國會授權(quán)范圍內(nèi)使用的算法決策系統(tǒng)。

通過聯(lián)邦規(guī)則制定程序，機(jī)構(gòu)需要證明某類算法決策系統(tǒng)符合與危害風(fēng)險、影響程度和現(xiàn)有機(jī)構(gòu)權(quán)力范圍有關(guān)的三項標(biāo)準(zhǔn)，才能將“關(guān)鍵算法系統(tǒng)分類”適用于該類算法決策系統(tǒng)。

1.對獲得醫(yī)療保健、經(jīng)濟(jì)機(jī)會或基本服務(wù)造成損害的風(fēng)險：監(jiān)管機(jī)構(gòu)必須證明，該算法決策系統(tǒng)類別可能會對醫(yī)療服務(wù)的獲取造成風(fēng)險，包括通過醫(yī)療服務(wù)的提供、審批、計費和保險；對平等機(jī)會造成風(fēng)險，包括公平獲得教育、住房、信貸、就業(yè)、晉升和其他機(jī)會；或?qū)﹃P(guān)鍵資源或服務(wù)的獲取造成風(fēng)險，如金融服務(wù)、安全服務(wù)、緊急服務(wù)或社會服務(wù)。

2. 影響范圍：監(jiān)管機(jī)構(gòu)必須證明，根據(jù)規(guī)?；蚋采w范圍，該算法決策系統(tǒng)類別（所有提供者的總和）影響了大量群體。

規(guī)模：所有已部署的某一類別的算法決策系統(tǒng)共同影響大量特定數(shù)量的居民；

覆蓋范圍：所有已部署的某一類別的算法決策系統(tǒng)對特定受影響的居民（如受保護(hù)階級或特定職業(yè)）中超過25%的群體產(chǎn)生了影響。

3. 授權(quán)范圍：監(jiān)管機(jī)構(gòu)必須證明，該類別算法決策系統(tǒng)所作出的決定或影響的程序已由國會授權(quán)的機(jī)構(gòu)進(jìn)行監(jiān)管。

監(jiān)管機(jī)構(gòu)將有權(quán)為“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)功能制定規(guī)則，以降低已確定的風(fēng)險，特別是與以下要素有關(guān)的風(fēng)險：

披露：將“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)使用情況告知受影響的人。

透明度和可解釋性：在個人和系統(tǒng)層面上告知受影響的人“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)特定結(jié)果的計算過程。

糾正不準(zhǔn)確的數(shù)據(jù)：使受影響者能夠查看和糾正作為“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)部分使用的輸入數(shù)據(jù)。

有效性和穩(wěn)健性：要求“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)在部署前和部署期間通過持續(xù)監(jiān)控達(dá)到性能量化標(biāo)準(zhǔn)，并接受相關(guān)測試和評估。

非歧視：要求“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)符合標(biāo)準(zhǔn)，不因任何受保護(hù)階層而產(chǎn)生歧視或不同的影響。

數(shù)據(jù)隱私保護(hù)：要求關(guān)鍵算法系統(tǒng)分類系統(tǒng)確保不會泄露或暴露敏感數(shù)據(jù)。

人工替代：要求“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)部署者在受影響者提出合理理由的情況下提供非算法的替代程序。

數(shù)據(jù)、代碼、模型和技術(shù)文檔的存儲：要求“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)開發(fā)者和部署者在規(guī)定期限內(nèi)保存與“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)相關(guān)的數(shù)據(jù)、代碼、模型和技術(shù)文檔。

監(jiān)管機(jī)構(gòu)不會默認(rèn)制定有關(guān)所有上述要素的規(guī)則，而是會選擇那些與減輕“關(guān)鍵算法系統(tǒng)分類”規(guī)則制定程序中確定的風(fēng)險相關(guān)的規(guī)則。監(jiān)管機(jī)構(gòu)將有權(quán)代表受影響者尋求法律補(bǔ)救或救濟(jì)，包括禁令、恢復(fù)原狀和民事處罰。機(jī)構(gòu)對“關(guān)鍵算法系統(tǒng)分類”的系統(tǒng)規(guī)則制定將遵守《行政程序法》中的正式規(guī)則制定要求，確保公眾知情，利益相關(guān)者能夠為新的“關(guān)鍵算法系統(tǒng)分類”法規(guī)做出貢獻(xiàn)并做好準(zhǔn)備。

行政傳喚權(quán)與“關(guān)鍵算法系統(tǒng)分類”規(guī)則制定權(quán)將相輔相成，使制定程序包括以下四個階段：

1. 監(jiān)管機(jī)構(gòu)發(fā)現(xiàn)并記錄與其法定權(quán)限相關(guān)且可能符合“關(guān)鍵算法系統(tǒng)分類”標(biāo)準(zhǔn)的算法決策系統(tǒng)類別。

2. 該機(jī)構(gòu)運(yùn)用其行政傳喚權(quán)，全面審查該類美國存托憑證在市場上的發(fā)展、部署和影響。

3. 如果確定符合“關(guān)鍵算法系統(tǒng)分類”標(biāo)準(zhǔn)，機(jī)構(gòu)將通過規(guī)則制定程序?qū)⑺惴Q策系統(tǒng)類別指定為“關(guān)鍵算法系統(tǒng)分類”，并利用系統(tǒng)審查為算法決策系統(tǒng)的開發(fā)和使用規(guī)則提供信息。

4. 該機(jī)構(gòu)繼續(xù)運(yùn)用行政傳喚權(quán)，監(jiān)測現(xiàn)已被指定為“關(guān)鍵算法系統(tǒng)分類”的算法決策系統(tǒng)的使用情況，評估更新相關(guān)規(guī)則的必要性，并在必要時通過訴訟確保合規(guī)。

三、“關(guān)鍵算法系統(tǒng)分類”方法的優(yōu)點

“關(guān)鍵算法系統(tǒng)分類”是一種管理算法的新方法，它通過使部門機(jī)構(gòu)能夠執(zhí)行算法審計（通過行政傳票），然后發(fā)布特定應(yīng)用法規(guī)（通過上述程序），全面解決了算法決策系統(tǒng)激增的問題。這使“關(guān)鍵算法系統(tǒng)分類”與其他擬議的AI立法有了顯著區(qū)別，因為它將使聯(lián)邦機(jī)構(gòu)能夠不斷適應(yīng)算法決策系統(tǒng)在其法律授權(quán)下的關(guān)鍵社會經(jīng)濟(jì)決策中日益增長的作用。

“關(guān)鍵算法系統(tǒng)分類”方法改善了幾種特定情況下的治理，包括消除合理算法監(jiān)管的實際障礙，澄清在現(xiàn)代算法決策系統(tǒng)激增之前寫入的法律授權(quán)中的不確定性，以及解決某些算法決策系統(tǒng)類別缺乏預(yù)先存在的監(jiān)督授權(quán)的問題，這些算法決策系統(tǒng)類別會影響關(guān)鍵社會經(jīng)濟(jì)決策。有些監(jiān)管機(jī)構(gòu)在管理替代性服務(wù)方面的授權(quán)有限，但卻面臨著替代性服務(wù)如何改變一個行業(yè)所帶來的實際挑戰(zhàn)。美國平等就業(yè)機(jī)會委員會就是這種情況，該委員會目前無法對供應(yīng)商開發(fā)和銷售歧視性算法決策系統(tǒng)的行為直接執(zhí)行反歧視法。同樣，美國算法信用評分供應(yīng)商在技術(shù)上也被排除在《平等信用機(jī)會法》之外，盡管它們對獲得信貸產(chǎn)生了巨大影響。一些主要的監(jiān)管機(jī)構(gòu)也缺乏足夠的行政傳喚權(quán)，無法對算法決策系統(tǒng)進(jìn)行系統(tǒng)的審查或?qū)徲嫛?/p>

此外，在一些領(lǐng)域，現(xiàn)有的監(jiān)管權(quán)力并沒有明確無誤地適用于美國存托憑證，即使它們與監(jiān)管領(lǐng)域有著千絲萬縷的聯(lián)系。“關(guān)鍵算法系統(tǒng)分類”將明確規(guī)定，聯(lián)邦機(jī)構(gòu)可以對影響聯(lián)邦就業(yè)歧視法、《職業(yè)安全與健康法》、《公平住房法》和其他民權(quán)立法的算法決策系統(tǒng)進(jìn)行監(jiān)管。最后，“關(guān)鍵算法系統(tǒng)分類”方法可以對一些目前不受監(jiān)管但符合“關(guān)鍵算法系統(tǒng)分類”標(biāo)準(zhǔn)的算法決策系統(tǒng)進(jìn)行算法監(jiān)督，如高等教育招生和定價的算法決策系統(tǒng)，可由教育部進(jìn)行監(jiān)管。

在填補(bǔ)這些重大空白的同時，“關(guān)鍵算法系統(tǒng)分類”也有意限制了范圍，解決了聯(lián)邦政府管理商業(yè)算法決策系統(tǒng)的能力不足，而這些商業(yè)算法決策系統(tǒng)會在很大程度上影響關(guān)鍵社會經(jīng)濟(jì)決策。通過依靠行政傳票和聯(lián)邦規(guī)則制定程序，“關(guān)鍵算法系統(tǒng)分類”使新的機(jī)構(gòu)權(quán)力建立在完善的法律監(jiān)管標(biāo)準(zhǔn)之上。因此，“關(guān)鍵算法系統(tǒng)分類”可被視為一種雖小卻有影響力的干預(yù)措施，可系統(tǒng)性地解決關(guān)鍵社會經(jīng)濟(jì)決策中算法決策系統(tǒng)所造成的危害。

與將類似的權(quán)力賦予一個新機(jī)構(gòu)或僅授權(quán)聯(lián)邦貿(mào)易委員會相比，“關(guān)鍵算法系統(tǒng)分類”允許監(jiān)管機(jī)構(gòu)對美國存托憑證進(jìn)行分布式管理，這是這種方法的一個關(guān)鍵優(yōu)勢。創(chuàng)建一個中央算法監(jiān)管機(jī)構(gòu)可能會導(dǎo)致兩個平行的監(jiān)管機(jī)制，一個是由監(jiān)管機(jī)構(gòu)管理的流程，另一個是由算法監(jiān)管機(jī)構(gòu)管理的美國存托憑證。這種平行結(jié)構(gòu)將不斷受到機(jī)構(gòu)間權(quán)力重疊和相互交織的挑戰(zhàn)，因為社會經(jīng)濟(jì)決策中的人工和算法是不可分割的。中央監(jiān)管機(jī)構(gòu)也缺乏現(xiàn)有部門機(jī)構(gòu)所需的領(lǐng)域知識。此外，隨著算法決策系統(tǒng)在關(guān)鍵社會經(jīng)濟(jì)決策中發(fā)揮越來越大的作用，中央監(jiān)管機(jī)構(gòu)的工作量將擴(kuò)大，而監(jiān)管機(jī)構(gòu)的工作量將縮小，從而造成長期的不平衡。雖然在數(shù)據(jù)隱私和在線平臺管理等領(lǐng)域需要考慮建立新的監(jiān)管機(jī)構(gòu)，但對于管理用于關(guān)鍵社會經(jīng)濟(jì)決策的美國存托憑證來說，“關(guān)鍵算法系統(tǒng)分類”方法是一個更好的解決方案。

“關(guān)鍵算法系統(tǒng)分類”方法對于確保美國在經(jīng)濟(jì)和技術(shù)方面繼續(xù)保持領(lǐng)先地位也有顯著優(yōu)勢。“關(guān)鍵算法系統(tǒng)分類”的影響程度要求將對正在開發(fā)新的算法決策系統(tǒng)的創(chuàng)新型小企業(yè)起到豁免作用。這是因為新類別的算法決策系統(tǒng)不會立即達(dá)到受影響人數(shù)的門檻。這將使初創(chuàng)企業(yè)能夠開發(fā)新類別的算法決策系統(tǒng)，同時確定必要的最佳實踐和保障措施。此外，“關(guān)鍵算法系統(tǒng)分類”標(biāo)準(zhǔn)還確保大多數(shù)算法決策系統(tǒng)（如想象室內(nèi)設(shè)計、提供電影推薦或幫助識別野生動物）不在監(jiān)管范圍內(nèi)。這樣做是恰當(dāng)?shù)模驗榇蠖鄶?shù)算法決策系統(tǒng)的社會影響還不足以要求政府進(jìn)行干預(yù)。

“關(guān)鍵算法系統(tǒng)分類”使監(jiān)管機(jī)構(gòu)能夠關(guān)注相對較少的算法決策系統(tǒng)供應(yīng)商。隨著越來越多的公司轉(zhuǎn)向由供應(yīng)商提供的算法決策系統(tǒng)（用于招聘、工人管理、醫(yī)療保健分配、教育機(jī)會等任務(wù)），對這些供應(yīng)商的監(jiān)管能夠使市場干擾達(dá)到最小，并使算法決策系統(tǒng)的功能得到顯著改善。要求這些算法決策系統(tǒng)具有準(zhǔn)確性、非歧視性和透明度，還能為從這些供應(yīng)商采購的公司提供質(zhì)量保證，從而提高算法決策系統(tǒng)市場的效率。

通過全面的算法監(jiān)管方法還將向世界其他國家發(fā)出一個強(qiáng)烈的信號：美國正在認(rèn)真對待算法風(fēng)險，其技術(shù)公司將受到負(fù)責(zé)任的管理?！瓣P(guān)鍵算法系統(tǒng)分類”方法將有助于確保美國不僅成為AI領(lǐng)域無可爭議的領(lǐng)導(dǎo)者，而且成為值得信賴AI領(lǐng)域的領(lǐng)導(dǎo)者，這一聲譽(yù)將在未來幾十年吸引大量的全球業(yè)務(wù)和投資。這一信息也將傳達(dá)到國內(nèi)，鼓勵國內(nèi)AI保障行業(yè)的進(jìn)一步發(fā)展，而這一行業(yè)有望成為其自身的重要市場。

“關(guān)鍵算法系統(tǒng)分類”的做法在國際貿(mào)易方面也有其意義?！瓣P(guān)鍵算法系統(tǒng)分類”允許極大的監(jiān)管靈活性，從而更好地與國際接軌。這一點對歐盟尤為重要，因為歐盟目前正在通過一項針對算法系統(tǒng)的全面監(jiān)管框架——《歐盟人工智能法案》。在美國存托憑證方面與歐盟保持高度一致，可確保這一重要貿(mào)易關(guān)系繼續(xù)發(fā)揮作用，同時還可通過共享市場監(jiān)督、分享最佳實踐以及通過國際標(biāo)準(zhǔn)機(jī)構(gòu)開展合作來加強(qiáng)監(jiān)管。

最后，“關(guān)鍵算法系統(tǒng)分類”方法是一種相對“面向未來”的干預(yù)措施，因為它能使聯(lián)邦機(jī)構(gòu)不斷適應(yīng)監(jiān)管機(jī)構(gòu)監(jiān)管領(lǐng)域內(nèi)不斷出現(xiàn)的算法決策系統(tǒng)。這種方法避免了美國國會建立并定期更新高風(fēng)險算法決策系統(tǒng)清單的需要。此外，這種方法還承認(rèn)，聯(lián)邦機(jī)構(gòu)最有資格根據(jù)其影響和危害風(fēng)險，確定哪些算法決策系統(tǒng)需要通過“關(guān)鍵算法系統(tǒng)分類”程序。

四、結(jié)論

通過監(jiān)管機(jī)構(gòu)和具體應(yīng)用規(guī)則的制定，實現(xiàn)對美國存托憑證的全面治理，“關(guān)鍵算法系統(tǒng)分類”方法是一種新穎且具有潛在影響力的方法。它得益于現(xiàn)有的治理機(jī)制，即行政傳喚權(quán)和聯(lián)邦規(guī)則制定程序，而無需設(shè)立新的機(jī)構(gòu)。此外，這種方法對其范圍有合理的限制，同時提供了一種在關(guān)鍵社會經(jīng)濟(jì)決策中管理算法決策系統(tǒng)的持久方法。

然而，“關(guān)鍵算法系統(tǒng)分類”方法也存在一些缺陷，如其規(guī)則制定本身具有追溯性，不能廣泛確保不符合“關(guān)鍵算法系統(tǒng)分類”條件的算法決策系統(tǒng)的權(quán)利，也不能解決聯(lián)邦機(jī)構(gòu)能力不足的問題。為解決這些局限性，“關(guān)鍵算法系統(tǒng)分類”可與基于權(quán)利的算法系統(tǒng)方法以及聯(lián)邦監(jiān)管機(jī)構(gòu)的額外資金相配合。最后，值得注意的是，“關(guān)鍵算法系統(tǒng)分類”方法試圖成為解決算法挑戰(zhàn)的通用方案，而算法挑戰(zhàn)在許多領(lǐng)域中都是高度多樣化和情景化的，這很可能導(dǎo)致實施效率低下。盡管存在這些缺陷，“關(guān)鍵算法系統(tǒng)分類”方法仍將是一項有意義的政策干預(yù)措施，可顯著解決大規(guī)模用于關(guān)鍵社會經(jīng)濟(jì)的算法決策系統(tǒng)激增的問題，這是算法治理核心挑戰(zhàn)，也是尚未解決的挑戰(zhàn)。