人工智能治理未來發(fā)展趨勢分析

日前，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，邀請中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)為課題支持，共同開展“2021 年度全球十大人工智能治理事件”遴選、評議，過程中得到了許多位行業(yè)權(quán)威專家和企業(yè)代表的大力支持。

通過此次梳理總結(jié)，力圖從喧嘩的輿論聲音以及理性的專家點評中透析出 AI 治理未來發(fā)展趨勢，研判 AI 在各領(lǐng)域、各場景應(yīng)用的新空間、新作為，使其可控可靠可信服務(wù)于人類對科技改善生活、增進福祉的美好愿景。

接下來我們將把各位專家針對具體事件的精彩點評陸續(xù)發(fā)布出來，與所有 AI 從業(yè)者和關(guān)注負責(zé)任 AI 發(fā)展的朋友共勉。

事件五、強化算法綜合治理，防范算法濫用風(fēng)險，用戶可選擇關(guān)閉算法推薦

案例描述

2021 年 9 月底，九部委印發(fā)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，要求防范算法濫用風(fēng)險，維護網(wǎng)絡(luò)空間傳播秩序、市場秩序和社會秩序。2021 年 8 月 27 日，國家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》向社會公開征求意見，提出應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項等內(nèi)容。

專家點評

張凌寒 北京科技大學(xué)法學(xué)院副教授、國家人工智能倫理與道德標(biāo)準(zhǔn)小組成員

2021 年堪稱中國算法治理元年。2021 年伊始算法進入監(jiān)管視野，監(jiān)管部門展開系列算法執(zhí)法活動。世界第一部系統(tǒng)性、全面性規(guī)制算法的法律文件《算法推薦管理規(guī)定》出臺實施。《指導(dǎo)意見》宣布我國將在三年內(nèi)建立起算法綜合治理體系。歐盟和美國在數(shù)據(jù)保護立法領(lǐng)域走在了中國之前，算法規(guī)制方面中國則當(dāng)仁不讓地開世界先河。我國的算法治理體系以信息安全、市場競爭秩序和消費者權(quán)益保護為指導(dǎo)思想，《算法推薦管理規(guī)定》則確立了算法提供服務(wù)者的算法全生命流程監(jiān)管責(zé)任，并構(gòu)建了用戶權(quán)益，尤其是未成年人、老年人和平臺勞工等社會弱勢群體的保護制度。2021 年的算法綜合治理活動與相關(guān)立法，使得我國率先建立了世界上最為完備的囊括數(shù)據(jù)安全、個人信息保護和算法安全的互聯(lián)網(wǎng)治理體系。

郭兵 浙江理工大學(xué)法政學(xué)院特聘副教授、杭州長三角大數(shù)據(jù)研究院副院長

當(dāng)前，算法推薦等技術(shù)已經(jīng)被廣泛應(yīng)用于電商平臺、新聞平臺、視聽平臺、社交平臺等諸多應(yīng)用場景中。算法推薦等技術(shù)為網(wǎng)絡(luò)用戶和網(wǎng)絡(luò)平臺帶來便利和經(jīng)濟利益的同時，也引發(fā)了一系列新的法律問題。如果平衡好算法推薦等技術(shù)的創(chuàng)新發(fā)展與安全風(fēng)險，成為了算法治理的一大難題。無論是已經(jīng)出臺的《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，還是正在制定中的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》都是應(yīng)對算法濫用風(fēng)險等難題的有益制度探索。

張軍平 復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授、博士生導(dǎo)師

由于存在人工智能算法上的偏見以及有意操縱大數(shù)據(jù)的采集，算法有可能會誤導(dǎo)公民的輿論傾向，甚至打壓競爭對手和侵害網(wǎng)民權(quán)益。因此，立法來杜絕這一事件，有利于公平化。

潘天群 南京大學(xué)哲學(xué)系教授、博導(dǎo)，南京大學(xué)科學(xué)技術(shù)與社會研究所所長

當(dāng)前人們被各種網(wǎng)絡(luò)信息所包裹，這些輿論、信息影響并控制人們的情緒、認(rèn)知與行為。然而，這些輿論、信息等的產(chǎn)生、放大已經(jīng)不是“自然”的，它們是被背后的人和組織通過技術(shù)手段所操縱，通過這種操縱，操縱人們的情緒、思維、行為，從而達到某種目的——無下限獲利、打壓競爭對手乃至實現(xiàn)某種政治目的。這種操縱已經(jīng)成了公害。該《意見》的出臺一定程度上能夠抑制信息的操控，但是這可能遠遠不夠。未來對網(wǎng)絡(luò)信息的治理任重道遠。

徐英瑾 復(fù)旦大學(xué)哲學(xué)學(xué)院教授、博導(dǎo)

近年來中國的互聯(lián)網(wǎng)技術(shù)的發(fā)展的一個特點，即以免費提供應(yīng)用軟件下載服務(wù)為交換，大量獲取網(wǎng)民的個人信息，而相關(guān)的互聯(lián)網(wǎng)公司又以相關(guān)信息為基礎(chǔ)，通過推送軟件的推送服務(wù)獲得更大的流量。這樣的做法所帶來的倫理上的負面效應(yīng)，便是加強了傳播學(xué)意義上的“信息繭房”效應(yīng)，使得廣大用戶無法從互聯(lián)網(wǎng)獲得全面客觀的信息。同時，這種做法也在客觀上威脅到了廣大用戶的隱私安全。國家網(wǎng)信辦的這一規(guī)定，使得廣大用戶能夠自主選擇不上傳自身的特定數(shù)據(jù)，以此保護網(wǎng)民的隱私。從倫理角度看，國家對于互聯(lián)網(wǎng)行業(yè)經(jīng)營方式的這一干預(yù)是十分必要的。同時，這也為國內(nèi)互聯(lián)網(wǎng)公司對于基于大數(shù)據(jù)技術(shù)的人工智能開發(fā)路線敲響了警鐘。

事件六、自動駕駛汽車 2021 年或?qū)⒃谟戏ɑ?/p>

案例描述

英國《衛(wèi)報》報道，英國將推行計劃，允許安裝自動車道保持系統(tǒng)(Alks)技術(shù)的新車型在沒有司機插手的情況下上路行駛。英國交通部長麥克萊恩(Rachel Maclean)表示，這是“英國安全使用自動駕駛車輛的一大進步，它使未來的出行更加綠色、便捷和可靠?！?/p>

專家點評

聶長海 南京大學(xué)計算機科學(xué)與技術(shù)系教授

這是人類邁出的一大步，必將推動這個領(lǐng)域的更大進步：除了道路等基礎(chǔ)設(shè)施建設(shè)、自動駕駛汽車能力等自動駕駛相關(guān)的技術(shù)的進步，以此為示范和契機，將會帶動更多的無人系統(tǒng)和自治系統(tǒng)的繁榮和發(fā)展。

寧陽 華北電力大學(xué)教授

自動駕駛汽車將在英國合法化，入選 2021 年全球十大人工智能治理事件，引起各方高度關(guān)注。這一方面標(biāo)志著自動駕駛技術(shù)越來越走向成熟，它可能使未來出行變得更加綠色、便捷和可靠，并將促使道路交通和商業(yè)保險等相關(guān)法規(guī)的重新修訂。但另一方面，也會帶來人們對于自動駕駛安全性的擔(dān)憂和喪失駕駛體驗感的顧慮，但不管對其作出何種評價，這無疑是一項嶄新的技術(shù)革命，自動駕駛市場前景廣闊，自動駕駛領(lǐng)域必將成為科技巨頭角逐的下一個行業(yè)藍海。

王飛躍 中國科學(xué)院自動化研究所復(fù)雜系統(tǒng)管理與控制國家重點實驗室主任、研究員

對于開放場景下的無人駕駛，歐美在法律制定、標(biāo)準(zhǔn)及政策等方面相比較中國更加靈活，而中國則因為對監(jiān)管、人權(quán)和安全更加看重，目前仍處于「道路測試」或者「試運營」階段。但在提升行業(yè)智能化水平等需求的推動下，在封閉或半封閉場景(如礦區(qū)、港口等)正在逐步落地?zé)o人駕駛，并已從技術(shù)上實現(xiàn)無安全員。

有人和無人駕駛的車輛共同上路面臨著工程復(fù)雜性和社會復(fù)雜性所帶來的巨大建模鴻溝。而通過平行駕駛，讓人工系統(tǒng)對真實世界車輛和道路建模，構(gòu)建軟件定義的車輛及車路系統(tǒng)，同時建立控制計算中心，對真實數(shù)據(jù)及虛擬數(shù)據(jù)進行聯(lián)合優(yōu)化，虛實結(jié)合的方式保證無人駕駛的安全性，加速無人駕駛的商業(yè)化和規(guī)?；涞?。

原文標(biāo)題：事件五、六專家觀點 | 2021年度全球十大人工智能治理事件

文章出處：【微信公眾號：曠視MEGVII】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯：湯梓紅