警告謹(jǐn)防“機(jī)器人殺手”？抵制韓人工智能武器實(shí)驗(yàn)室設(shè)立

全球超過50名人工智能研究人員4日聯(lián)名抵制韓國科學(xué)技術(shù)院設(shè)立人工智能武器實(shí)驗(yàn)室，警告謹(jǐn)防“機(jī)器人殺手”。

由澳大利亞新南威爾士大學(xué)人工智能教授托比·沃爾什發(fā)起，美國和日本等30個(gè)國家和地區(qū)的研究人員4日簽署一封公開信，敦促韓國科學(xué)技術(shù)院停止人工智能武器研發(fā)。

這些研究人員說，將拒絕訪問韓國科學(xué)技術(shù)院、接待對方訪客或與對方合作研究項(xiàng)目，直至這所韓國頂尖大學(xué)承諾放棄研發(fā)缺少“有效人工控制”的武器。

聯(lián)名信寫道：“自動武器一旦成熟，戰(zhàn)爭發(fā)展速度和規(guī)模將前所未有。它們可能會被***利用?！?/p>

韓國科學(xué)技術(shù)院與韓國十大財(cái)團(tuán)之一韓華集團(tuán)旗下韓華系統(tǒng)公司合作，于今年2月開設(shè)人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無人水下交通等領(lǐng)域的人工智能技術(shù)。

參與抵制的研究人員說，這處研發(fā)中心實(shí)際打算加入全球競爭，研發(fā)自動軍事武器?！绊n國科學(xué)技術(shù)院這樣的著名院校著眼于加速軍備競賽、研發(fā)武器，令人遺憾?！?/p>

聯(lián)合國關(guān)注

圍繞人工智能武器的爭議已促使聯(lián)合國采取行動。

包括美國特斯拉公司首席執(zhí)行官埃隆·馬斯克在內(nèi)的上百名科技界領(lǐng)袖和人工智能研究人員去年8月簽署聯(lián)名信，敦促聯(lián)合國遏制“機(jī)器人殺手”，以免為時(shí)過晚。

信中寫道，“機(jī)器人殺手”、即能致人斃命的自動武器會改變戰(zhàn)爭方式，使武力沖突“擴(kuò)大至前所未有的范圍”，甚至有可能“遠(yuǎn)超人們所能理解的程度”。

聯(lián)合國一個(gè)人工智能專家組去年11月啟動討論，以應(yīng)對人工智能武器對全球安全造成的挑戰(zhàn)。

聯(lián)合國123個(gè)成員國代表定于本月9日在瑞士日內(nèi)瓦就這一議題召開會議。

趨利避害

技術(shù)院4日迅速回應(yīng)遭遇抵制一事，強(qiáng)調(diào)“無意參與研發(fā)致命自動武器系統(tǒng)和‘機(jī)器人殺手’”。

韓國科學(xué)技術(shù)院校長申成澈（音譯）說，這所大學(xué)“顯然意識到”關(guān)于人工智能有違人類道德的擔(dān)憂。“我重申韓國科學(xué)技術(shù)院不會開展任何有違人類尊嚴(yán)的研究活動，包括研發(fā)缺少人工控制的自動武器?！?/p>

按這一學(xué)府的說法，新設(shè)研發(fā)中心將集中研究如何運(yùn)用人工智能命令和控制系統(tǒng)、導(dǎo)航大型無人潛水器、指導(dǎo)智能飛行訓(xùn)練以及追蹤識別目標(biāo)。

發(fā)起聯(lián)名抵制的人工智能教授沃爾什說，抵制行動已經(jīng)發(fā)揮作用，“韓國科學(xué)技術(shù)院作出兩大讓步：不會開發(fā)自動武器，以及保證有意義的人工控制”。至于是否取消抵制，需與其他簽署聯(lián)名信的科研人員共同決定。

沃爾什告訴路透社記者，機(jī)器人和人工智能技術(shù)實(shí)際可以在軍事領(lǐng)域發(fā)揮有利作用，比如完成掃雷等威脅人類安全的任務(wù)?！暗覀儾荒軐Q定生死的權(quán)力交給機(jī)器，這越過道德底線。