淺談人工智能的三個關(guān)鍵維度

人工智能研究機構(gòu)AI Now近期發(fā)布其《2023年度景觀報告：對抗科技力量》（2023 Landscape: Confronting Tech Power）。報告認(rèn)為，由于具備數(shù)據(jù)、計算能力和地緣政治優(yōu)勢，科技行業(yè)的權(quán)力集中成為人工智能政策面臨的一大緊迫挑戰(zhàn)。為此，圍繞ChatGPT、算法問責(zé)制、生物識別監(jiān)控、反壟斷等關(guān)鍵要素，AI Now提出了一系列可行的破解之策。

沒有大科技就沒有人工智能。

在過去的幾十年里，少數(shù)私人參與者積累了與國家相抗衡的權(quán)力和資源，同時開發(fā)和宣傳人工智能，將其融入關(guān)鍵社會基礎(chǔ)設(shè)施的建設(shè)當(dāng)中。如今，人工智能遍及求職、醫(yī)療、教育、商品流通、交通秩序等各行各業(yè)，越來越頻繁地影響著社會的發(fā)展軌跡。

與此同時，令人擔(dān)憂的問題開始浮出水面：例如技術(shù)并不全都依照規(guī)定方式運轉(zhuǎn)，且可能生成高錯誤率或歧視性的結(jié)果。人工智能的不透明性問題意味著我們可能無法完全了解和掌控這項技術(shù)。

究其原因，人工智能的核心屬性說明了問題：它從根本上依賴于僅由少數(shù)大型科技公司擁有和控制的資源。

三個關(guān)鍵維度

大型科技公司在人工智能領(lǐng)域的主導(dǎo)地位體現(xiàn)在三個關(guān)鍵維度：

1、數(shù)據(jù)優(yōu)勢：那些能夠獲得最廣泛、最深入行為數(shù)據(jù)的公司，在開發(fā)消費級人工智能產(chǎn)品方面占據(jù)主導(dǎo)。這反映在科技公司通過收購、合并擴大這種數(shù)據(jù)優(yōu)勢?？萍脊疽呀?jīng)積累了巨大的經(jīng)濟實力，這使它們能夠?qū)⒆约鹤鳛楹诵幕A(chǔ)設(shè)施嵌入健康、消費品、教育、信貸等許多行業(yè)。

2、計算能力優(yōu)勢：人工智能從根本上說是一個數(shù)據(jù)驅(qū)動的行業(yè)，嚴(yán)重依賴用于訓(xùn)練、調(diào)整和部署模型的計算能力。算力的高昂造價和芯片材料的依賴性意味著人工智能需要具備規(guī)模效率和高技能技術(shù)工人等條件，而只有少數(shù)公司才能真正構(gòu)建起人工智能系統(tǒng)的基礎(chǔ)云和計算資源。這意味著盡管“AI初創(chuàng)公司”比比皆是，但它們只能成為大型科技公司“船體上的藤壺”——因為大型科技公司會利用其對必要資源的控制來遏制中小企業(yè)發(fā)展。

3、地緣政治優(yōu)勢：當(dāng)前，人工智能系統(tǒng)不僅僅是商業(yè)產(chǎn)品，更是國家的戰(zhàn)略經(jīng)濟和安全資產(chǎn)，人工智能公司也成為這場地緣政治斗爭中的關(guān)鍵杠桿。

為什么是“大科技”？

本報告特別關(guān)注針對大型科技公司的政策干預(yù)?！按罂萍肌保˙ig Tech）一詞起源于2013年，現(xiàn)在通常用于指代Google、Apple、Facebook、Amazon和Microsoft（縮寫為GAFAM），有時還包括Uber或Twitter等公司。

這些大公司積累了強大的網(wǎng)絡(luò)效應(yīng)、數(shù)據(jù)和基礎(chǔ)設(shè)施資源。其經(jīng)濟實力使這些公司能夠在社交媒體、醫(yī)療保健、教育和跨媒體等各個領(lǐng)域鞏固優(yōu)勢地位。關(guān)注大型科技公司有利于對科技政策干預(yù)進(jìn)行把握，理由包括：

①　便于監(jiān)管機構(gòu)調(diào)查大型科技企業(yè)的侵入性數(shù)據(jù)監(jiān)視、對用戶自主權(quán)的干涉、壟斷以及歧視等重要問題。

②　大型科技企業(yè)對更廣泛的生態(tài)系統(tǒng)產(chǎn)生了一系列連鎖反應(yīng)，激勵甚至迫使其他公司加入進(jìn)來。例如，谷歌和Facebook采用行為廣告商業(yè)模式，推動商業(yè)監(jiān)控成為互聯(lián)網(wǎng)的商業(yè)模式之一。

③　整個科技行業(yè)和政府對大型科技公司的依賴與日俱增。這些公司的核心業(yè)務(wù)戰(zhàn)略是讓自己成為基礎(chǔ)設(shè)施，使自己成為技術(shù)生態(tài)系統(tǒng)中許多環(huán)節(jié)（如云計算、廣告、支付系統(tǒng)）不可或缺的環(huán)節(jié)。如果這些公司在運營過程中出現(xiàn)問題，則容易引發(fā)連鎖反應(yīng)。

戰(zhàn)略重點

基于上述背景，以下戰(zhàn)略優(yōu)先事項顯得尤為重要：

1、責(zé)任倒置：在危害發(fā)生時，應(yīng)當(dāng)讓公司證明他們沒有造成損害，而不是由公眾和監(jiān)管機構(gòu)在傷害發(fā)生后介入調(diào)查、識別和尋找解決方案。

2、打破政策領(lǐng)域之間的孤島，更好地解決一項政策議程的進(jìn)展對其他政策議程的影響，避免企業(yè)利用政策間的不一致來發(fā)揮自己的優(yōu)勢。

3、確定政策方法是否能夠有效監(jiān)管行業(yè)行為，并及時地調(diào)整戰(zhàn)略，防止科技企業(yè)逃避政府監(jiān)管。

4、超越對立法和政策的狹隘關(guān)注，接受基礎(chǔ)廣泛的變革理論。例如，可以利用股東提案讓大型科技企業(yè)對侵犯人權(quán)的行為負(fù)責(zé)。

行動之窗：AI監(jiān)管格局

圍繞人工智能政策的關(guān)鍵需求，報告從大規(guī)模AI模型、反競爭行為、算法問責(zé)制、數(shù)據(jù)最小化、科技和金融資本、生物識別監(jiān)控、國際數(shù)字貿(mào)易等方面闡述了未來AI的監(jiān)管策略。要點包括：

1、削弱科技公司的數(shù)據(jù)優(yōu)勢。

數(shù)據(jù)政策就是人工智能政策，為遏制公司的數(shù)據(jù)優(yōu)勢而采取措施是限制科技公司權(quán)力集中的關(guān)鍵。因此，報告建議：

①　制定公司收集或生成消費者數(shù)據(jù)的明確限制規(guī)則（也稱為數(shù)據(jù)最小化規(guī)則）。

②　在人工智能政策的制定過程中將隱私法和競爭法進(jìn)行有效銜接，避免公司利用這些規(guī)則的不適配來為自己謀取利益。

③　優(yōu)化監(jiān)管指南和執(zhí)法措施，對企業(yè)的數(shù)據(jù)優(yōu)勢整合行為進(jìn)行審查，使執(zhí)法者能夠在損害發(fā)生之前進(jìn)行干預(yù)，制止濫用數(shù)據(jù)的行為。

2、改革競爭執(zhí)法手段，降低科技行業(yè)的技術(shù)集中度。

①　遏制大型科技企業(yè)利用數(shù)據(jù)優(yōu)勢兼并其他公司，并在企業(yè)從事反競爭行為時對其進(jìn)行調(diào)查和處罰。

②　推進(jìn)反壟斷法案的進(jìn)程，為反壟斷執(zhí)法者提供更強大的工具來挑戰(zhàn)科技行業(yè)特有的濫用行為。

③　整合技術(shù)政策領(lǐng)域的競爭分析。確定互聯(lián)網(wǎng)平臺公司可能利用隱私措施鞏固自身優(yōu)勢的場景，分析云市場的過度集中如何對網(wǎng)絡(luò)安全產(chǎn)生連鎖影響（例如，2017年亞馬遜網(wǎng)絡(luò)服務(wù)公司的云服務(wù)器發(fā)生導(dǎo)流故障，導(dǎo)致多個醫(yī)療保健和醫(yī)院系統(tǒng)癱瘓）。

3、規(guī)范ChatGPT、BARD等大型模型。

①　從正在出臺的歐盟人工智能法案中吸取經(jīng)驗，防止“通用人工智能”出現(xiàn)監(jiān)管例外。警惕大型語言模型（LLM）和其他類似技術(shù)帶來的系統(tǒng)性風(fēng)險，傾注更多而不是更少的監(jiān)管審查。

②　強制保留技術(shù)文檔，從而確保這些模型的開發(fā)人員對數(shù)據(jù)和設(shè)計選擇負(fù)責(zé)。

③　貫徹競爭法，以遏制生成式人工智能的結(jié)構(gòu)依賴性、解決反競爭行為，同時對人工智能系統(tǒng)建立公共責(zé)任制，防止對消費者和正常市場競爭造成損害。

4、反對將審計作為人工智能的主要政策監(jiān)管方法。

①　越來越多的政策提倡對人工智能系統(tǒng)進(jìn)行審計。但審計無法應(yīng)對大型科技公司與公眾之間的權(quán)力失衡，可能進(jìn)一步鞏固科技行業(yè)的內(nèi)部權(quán)力，并且會分散對結(jié)構(gòu)性風(fēng)險的關(guān)注。

②　審計規(guī)則基于流程的性質(zhì)使它很容易被公司內(nèi)部化，淡化更為根本且重要的結(jié)構(gòu)性變革方法，阻礙“利益相關(guān)者提出基本原則問題的能力，并將道德因素（即使系統(tǒng)完美地執(zhí)行了任務(wù)，但是否代表該系統(tǒng)就是公正的？）從更根本的改革中排除出去。

③　因此，報告建議對有害人工智能施加強有力的結(jié)構(gòu)性改革措施，例如禁令、停業(yè)規(guī)則等。

5、防止生物識別監(jiān)控在智能汽車等新領(lǐng)域的無序擴展。

①　實踐證明，數(shù)據(jù)保護(hù)法在防止生物識別系統(tǒng)危害方面的監(jiān)管并不到位。在這種環(huán)境下，全面明令禁止企業(yè)在某些領(lǐng)域收集和使用數(shù)據(jù)應(yīng)當(dāng)是未來政策干預(yù)的關(guān)鍵。

②　汽車制造商正在與大型科技公司建立合作伙伴關(guān)系，從而實現(xiàn)與汽車硬件系統(tǒng)的深度集成。然而，當(dāng)下的生物識別實際應(yīng)用已經(jīng)蔓延到對情感、性格和意圖的推斷上。例如，用于跟蹤送貨司機的車內(nèi)監(jiān)控系統(tǒng)集成了情緒識別系統(tǒng)，聲稱可以監(jiān)控司機的“注意力”，并密切關(guān)注潛在的攻擊行為。該行為不僅可能不符合相稱性、公平性和透明度原則，還可能具有歧視性影響。

③　有鑒于此，歐盟人工智能法案已經(jīng)提出要明確禁止情感識別，并將其列為最高級別類別的“不可接受風(fēng)險”。另外，報告還建議應(yīng)該更嚴(yán)格地執(zhí)行數(shù)據(jù)最小化條款，以遏制虛擬現(xiàn)實和汽車等新領(lǐng)域中生物特征數(shù)據(jù)收集的擴展。

6、防止數(shù)字貿(mào)易協(xié)定削弱國家對算法問責(zé)制和競爭政策的監(jiān)管。

①　“數(shù)字貿(mào)易”規(guī)則可能會削弱數(shù)據(jù)隱私、算法問責(zé)制和科技行業(yè)競爭的監(jiān)管效果。貿(mào)易協(xié)定包括具有約束力的國際規(guī)則，這些規(guī)則限制了政府監(jiān)管商業(yè)公司的范圍。由于談判的保密性和相對不受公眾政治壓力的影響，它們已成為科技行業(yè)為爭取優(yōu)惠待遇而進(jìn)行激烈游說的焦點。

②　然而，貿(mào)易協(xié)定中的非歧視禁令規(guī)則不應(yīng)被視作大型科技公司免受國外競爭監(jiān)管的工具。報告認(rèn)為數(shù)字貿(mào)易協(xié)定樹立了一個危險的先例：科技行業(yè)現(xiàn)在把貿(mào)易協(xié)定視為一個舞臺，它們可以通過游說確立政策立場，從而形成對它們有利的規(guī)則。

③　另外，貿(mào)易協(xié)議中對源代碼和算法的保密規(guī)則不應(yīng)該被當(dāng)做削弱算法透明度的工具，監(jiān)管當(dāng)局應(yīng)當(dāng)對人工智能系統(tǒng)進(jìn)行更主動和持續(xù)的監(jiān)控。

編輯：黃飛

?