人工智能警告的描述

　　在***的一篇評論文章中，在去年的TED演講中，作家、Allen人工智能研究所CEO Oren Etzioni博士建議應該對阿西莫夫的機器人三定律進行更新。鑒于Elon Musk（和其他人）的警告引起廣泛的媒體關注，這些更新可能值得業(yè)界思考。

　　關于人工智能的警告

　　上個月，馬斯克等來自26個國家的人工智能專家共同致信聯合國，要求禁止開發(fā)和使用自主武器。除了馬斯克之后，簽署***的還包括DeepMind聯合創(chuàng)始人Mustaga Suleyman以及其他100多位機器人及人工智能公司的高管。他們寫道，人工智能技術已經足夠發(fā)達，未來數年內自主武器就可能出現在戰(zhàn)場上，國防工業(yè)的諸多專業(yè)人士表示，在繼火藥和核武器之后，自主武器將引發(fā)第三次戰(zhàn)爭革命。

　　***最近播出了另一個更大的政治警告：俄羅斯總統(tǒng)普京在對一群俄羅斯學生演講時，稱“人工智能不僅是俄羅斯的未來，也是整個人類的未來，誰成為這個領域的領導者，他也將成為世界的統(tǒng)治者。機遇和威脅巨大，但現在難以預測?！?/p>

　　阿西莫夫的機器人三定律

　　1942年，阿西莫夫在短篇小說“Runaround（環(huán)舞）” 中提出了機器人三定律：機器人不得傷害人類，或因不作為使人類受到傷害；除非違背第一定律，機器人必須服從人類的命令；除非違背第一及第二定律，機器人必須保護自己。

　　后來，阿西莫夫加入了一條新定律：第零定律，機器人不得傷害人類整體，或因不作為使人類整體受到傷害。

　　Etzioni的更新規(guī)則

　　在《***》的評論文章中，Etzioni提出了對阿西莫夫機器人三定律的修改建議：

　　人工智能系統(tǒng)必須遵守適用于其操作人員的所有法律條文；

　　人工智能系統(tǒng)必須明確表示它不是人類；

　　未經信息來源明確許可，人工智能系統(tǒng)不能保留或披露機密信息。

　　Etzioni提供的這些更新開始了一場討論，并引起聯合國發(fā)布了一本非科幻的機器人手冊，比2058年的科幻時代更早。這是一個可以規(guī)范而不是阻撓已經在發(fā)展的全球AI業(yè)務。