人工智能戰(zhàn)略解讀

　　摘要：人工智能是人類進入信息產業(yè)革命時代，達到的認識和改造客觀世界能力的高峰。人工智能的大規(guī)模應用與機器人技術發(fā)展的日新月異，將在未來帶給人類社會前所未有的巨大沖擊。聯合國作為全球最重要的國際組織，在2016 年最新發(fā)布的人工智能報告中，表達了其對于人工智能的關注；同時，為應對人工智能及機器人技術的發(fā)展帶來的各種問題，提出了全新的思考方式與解決路徑，這對世界各國的人工智能監(jiān)管具有重要的參考意義。

　　關鍵詞：人工智能；機器人技術；聯合國

　　1 引言在，不僅帶給人類新的機會與挑戰(zhàn)，同時還改變著人

　　近年來，自動化和智能化的機器人在現代社會的類的行為方式。

　　在聯合國內，雖然大部分關于自動化系統(tǒng)與人工

　　應用越來越廣泛。先進機器人的全球研發(fā)、部署、安

　　智能的討論主要圍繞在自動化武器系統(tǒng)，但是可以看

　　裝與使用，在引發(fā)公眾討論的同時，也鼓勵著政府監(jiān)

　　到聯合國正在對大眾化的人工智能系統(tǒng)應用產生濃厚

　　管的創(chuàng)新。例如，無人機不僅成為大眾消遣的工具，

　　的興趣。聯合國關于人工智能的若干附屬報告呼吁世

　　同時也在反恐戰(zhàn)爭中發(fā)揮著重要作用；自動化機器正

　　界各國采用全新的視角看待人工智能系統(tǒng)的未來監(jiān)管

　　在取代工廠中的體力勞動者，同時帶來了勞動力市場

　　以及它們在機器人和機器人技術上的應用。聯合國提

　　的革命；人形機器人不但被引進到學校，還用來在日

　　供了一種考察基于機器人物理形態(tài)下的人工智能系統(tǒng)

　　托機構中照顧老年人；輔助機器人技術還廣泛應用在

　　全新路徑，作為世界各國“國家中心”視角的有效補充。

　　醫(yī)療方案中，不管是在對自閉癥患者的心理治療還是

　　在復雜的重要的外科手術中，都能發(fā)現智能機器人的2 世界科學知識與技術倫理委員會關于機

　　身影。機器人在家庭、工作、社會公共層面的廣泛存器人倫理的初步草案報告

　　多第三方應用程序。然而由于移動應用程序良莠不成為移動智能終端越來越重要的問題，因此有必要

　　齊，有的應用程序利用智能終端的開放性，使用惡意建立移動應用軟件第三方認證簽名體系，確保簽名

　　代碼調用終端API，造成惡意行為，使得手機惡意軟信息真實可信，實現應用軟件可溯源，打造安全的移

　　件泛濫，給用戶甚至社會安全帶來了威脅。安全性動互聯網環(huán)境。（收稿日期：2017-01-18）

　?。痦椖俊埃夯ヂ摼W+”時代社會轉型和國家治理能力提升政策研究課題項目（SRHT2016001701）資助

　　·26·

　　專 家 視 點 《電信網技術》2017 年2 月第2 期

　　聯合國教科文組織（The United Nations Education， Scientific and Cultural Organization）與世界科學知識與技術倫理委員會（World Commission on the Ethics of

　　Scientific Knowledge and Technology）最新聯合發(fā)布的報告（2016 年）主要討論了機器人的制造和使用促進了人工智能的進步，以及這些進步所帶來的社會與倫理道德問題。盡管人工智能機器人通常被認為是人工智能系統(tǒng)的載體，事實上，人工智能機器人具有的身體移動功能和應用以及機器學習能力使得它們成為了自動化、智能化的電子實體。同樣的，自動化、智能化機器人不僅能夠勝任復雜的決策過程，還能通過復雜的算法進行實實在在的執(zhí)行活動。這些進化出的新能力，反過來，導致出現了新的倫理和法律問題。具體來說，主要包括以下4 個方面：

　?。?）自動化機器人的使用帶來的挑戰(zhàn) 2016 年，歐洲議會發(fā)布的關于人工智能和機器人

　　的報告，表達了其對于機器人將給人類帶來的風險的關注，包括安全、隱私、誠信、尊嚴、自主。為了應對這些風險，歐洲議會討論了未來可能面對的道德挑戰(zhàn)以及應對的監(jiān)管措施。聯合國教科文組織與世界科學知識與技術倫理委員會的報告（2015 年）列舉了以下可行的應對措施：

　　●數據和隱私保護?！駝?chuàng)新關于機器人與機器人制造者之間的責任分

　　擔機制?！耦A警機制的建立。

　　●對機器人在實際生活場景中的測試?！裨谏婕叭祟惖臋C器人研究中的知情同意權?！裰悄軝C器人的退出機制。●為應對自動機器人的廣泛應用將給人類教育和

　　就業(yè)帶來的巨大影響而建立全新的保險制度。（2）機器人技術與機械倫理學

　　關于機器人制造和部署的倫理道德問題，被視為“機械倫理學（Roboethics）”，用來處理人們發(fā)明和分配機器人的倫理道德問題，而不僅僅是機器的倫理學。聯合國教科文組織與世界科學知識與技術倫理委員會的報告（2015 年）認為，“機械倫理學”的大部分領域仍然處于沒有規(guī)范的狀態(tài)，一方面是因為政府無法跟飛速的科技發(fā)展相同步，另一方面是因為“機械倫理學”的復雜性和其無法預知的本質。這一問題對于常常與公眾直接接觸的機器人商業(yè)開發(fā)者和制造者來說尤其

　　麻煩，因為他們同樣沒有既定的倫理準則去遵守和執(zhí)行。聯合國在報告中記錄了各個國家在尋找機器人倫理道德準則的實踐中所采用的不同做法，例如韓國政府強制實施的機器人特許狀制度；日本對于機器人應用部署問題制定的管理方針，包括建立中心數據基地來儲存機器人對于人類造成傷害的事故報告。

　?。?）邁向新的責任分擔機制聯合國教科文組織與世界科學知識與技術倫理委

　　員會的報告（2015 年）探討了一個復雜的問題，即在制造一個機器人需要不同的專家和部門合作的情況下，誰該為機器人的某次操作失靈負有責任。在科學技術不斷進步和市場需求不斷增長，機器人的自由和自主性不斷增強的情況下，這個問題顯得尤為重要。報告認為，關于機器人倫理的考慮，不應該局限于某次事故或者失靈造成的人身損害，更應該包括智能機器人帶來的心理傷害，如機器人侵犯人的隱私、人因為機器人的類人行為而對其過分依賴等。報告提出了一個可行的解決辦法，即采取責任分擔的解決途徑，讓所有參與到機器人的發(fā)明、授權和分配過程中的人來分擔責任；另一個解決辦法就是讓智能機器人承擔責任，因為智能機器人確實擁有前所未有的自主性，并且擁有能夠獨立做出決策的能力。這兩種責任分擔方式展現了兩種極端，既無視了人類在科技發(fā)展過程中的固有偏見，也忽略了科技被居心叵測的使用者用做他途的可能性。因此，報告并沒有對機器人使用者應該承擔的責任給予充分的考慮。

　　為了尋找可能的法律解決途徑，聯合國的報告援引了阿薩羅（Asaro）提出的結論，即機器人以及機器人技術造成的傷害，很大一部分由民法中產生責任的相關法律調整，因為機器人一般被視為通常意義上的科技產品。從這個角度看，機器人造成的傷害很大一部分被歸責于機器人制造者和零售商的“過失”、“產品警告的缺失”、“沒有盡到合理的義務”。在阿薩羅看來，這種歸責制度會隨著機器人越來越自動化及智能化而逐漸被廢棄。然后，一個新的平衡機器人制造者、銷售者和最終使用者的責任分擔機制會被逐漸創(chuàng)造出來。

　　（4）決策可追溯的重要性聯合國的報告認為，在對機器人及機器人技術的

　　倫理與法律監(jiān)管中，一個至關重要的要素是可追溯性，可追溯性的確立才能讓機器人的行為及決策全程處于監(jiān)管之下?？勺匪菪缘闹匾员憩F在，它讓人類的監(jiān)