AI導(dǎo)航，殺人機(jī)器要出現(xiàn)？

委內(nèi)瑞拉總統(tǒng)馬杜羅演講中突現(xiàn)爆炸，士兵四散逃生

剛剛，委內(nèi)瑞拉總統(tǒng)在國(guó)民警衛(wèi)隊(duì)成立81周年慶祝儀式上發(fā)表講話時(shí)，突然遭到攜帶***的無(wú)人機(jī)襲擊，電視直播記錄下了全過(guò)程，原本整齊列隊(duì)的士兵像流水一樣四處狂奔?？偨y(tǒng)雖然沒(méi)受傷害，但至少有7人受傷。

就在不到一小時(shí)前，委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅（Nicolas Maduro）在面向數(shù)百名士兵發(fā)表講話時(shí)，一架搭載炸彈的無(wú)人機(jī)朝他飛去并且引爆，總統(tǒng)雖然沒(méi)有受傷，但目前至少有7人受到傷害。

委內(nèi)瑞拉國(guó)家電視臺(tái)直播記錄下了全部過(guò)程。

當(dāng)時(shí)，馬杜羅正在為慶祝委內(nèi)瑞拉國(guó)民警衛(wèi)隊(duì)成立81周年在廣場(chǎng)發(fā)表講話，他的面前是整齊列隊(duì)的閱兵隊(duì)伍。

在演講過(guò)程中，馬杜羅突然停了下來(lái)，朝上看去，明顯事有不對(duì)。

馬杜羅突然中止演講朝上看去，旁邊是他的夫人

之后，只聽(tīng)兩次爆炸巨響，原本整齊列陣的士兵，如流水般不顧一切狂奔逃生。

原本整齊列陣的士兵四散潰去

根據(jù)Twitter上分享的圖像顯示，馬杜羅周圍的軍官在護(hù)送他離開(kāi)現(xiàn)場(chǎng)時(shí)，似乎豎起了黑色的防彈屏障。

警衛(wèi)人員在馬杜羅周圍豎起黑色防彈屏障

護(hù)送馬杜羅離開(kāi)現(xiàn)場(chǎng)

委內(nèi)瑞拉新聞部長(zhǎng)豪爾赫·羅德里格茲（Jorge Rodriguez）隨后表示，總統(tǒng)沒(méi)有受到傷害，不過(guò)有7人受傷。

“下午5點(diǎn)41分正，我們聽(tīng)到幾聲爆炸聲，“羅德里格斯在事件發(fā)生幾分鐘后在面向委內(nèi)瑞拉全國(guó)播放的現(xiàn)場(chǎng)演講中說(shuō)道：“調(diào)查清楚地表明，這次襲擊來(lái)自攜帶爆炸物的無(wú)人機(jī)裝置?！?/p>

不過(guò)，爆炸現(xiàn)場(chǎng)的消防員對(duì)政府對(duì)此事件的理解提出了質(zhì)疑。

三名不愿透露姓名的地方當(dāng)局人士表示，事件實(shí)際上是在馬杜羅演講現(xiàn)場(chǎng)附近的公寓內(nèi)瓦斯爆炸。從建筑物的窗戶可以看到煙霧。

在馬杜羅發(fā)表講話的地方發(fā)生爆炸后，安全部隊(duì)檢查了一幢建筑物。一位官員說(shuō)，馬杜羅和他的妻子安然無(wú)恙，但有7人受傷。來(lái)源：Juan Barreto /法新社/蓋蒂圖片社

委內(nèi)瑞拉政府經(jīng)常指責(zé)反對(duì)派活動(dòng)人士策劃攻擊并推翻馬杜羅政府。

去年，委內(nèi)瑞拉幾乎每天都會(huì)發(fā)生抗議活動(dòng)。有一次，一名反對(duì)派警察（a rogue police officer）就在委內(nèi)瑞拉首都上空操控一架被盜的直升機(jī)，在幾座政府大樓內(nèi)投下了手榴彈。

襲擊發(fā)生后，委內(nèi)瑞拉社會(huì)黨高級(jí)領(lǐng)導(dǎo)人迪奧斯達(dá)多·卡貝洛（Diosdado Cabello）在Twitter發(fā)文將事件稱為“恐怖主義襲擊”，他說(shuō)：“右翼分子堅(jiān)持使用暴力占據(jù)他們無(wú)法用選票贏得的公共場(chǎng)所?！?/p>

根據(jù)新華社和環(huán)球網(wǎng)報(bào)道，委內(nèi)瑞拉內(nèi)政部之后證實(shí)，一架載有爆炸物的無(wú)人機(jī)，欲對(duì)總統(tǒng)馬杜羅展開(kāi)“暗殺行動(dòng)”，但最終失敗。馬杜羅沒(méi)有受傷并已離開(kāi)現(xiàn)場(chǎng)。據(jù)當(dāng)?shù)赜浾咭龇枪俜较⒎Q，該架無(wú)人機(jī)載有強(qiáng)力C4炸彈，在飛至總統(tǒng)講臺(tái)附近爆炸，導(dǎo)致多名軍人受傷。

AI導(dǎo)航，殺人機(jī)器要出現(xiàn)？

剛剛在委內(nèi)瑞拉發(fā)生的這一幕，不由得讓人想起了之前聯(lián)合國(guó)在特定常規(guī)武器公約會(huì)議上發(fā)布了一段“殺人機(jī)器人”視頻：

視頻中，類似殺人蜂的小型機(jī)器人通過(guò)面部識(shí)別系統(tǒng)辨別射殺對(duì)象，結(jié)合AI導(dǎo)航技術(shù)，飛入會(huì)場(chǎng)后躲過(guò)演講人的抓捕，發(fā)現(xiàn)目標(biāo)后迅速將其擊斃。

從具體的配置上看，這個(gè)機(jī)器人配有廣角攝像頭、戰(zhàn)術(shù)傳感器、面部識(shí)別技術(shù)，并且在其內(nèi)裝有3克***。

精準(zhǔn)打擊，足以穿透頭骨。

視頻最后還演示了一段飛行機(jī)器人集體攻擊人類的畫(huà)面，通過(guò)面部識(shí)別定位，輕易殺死了正在上課的一班學(xué)生。

美國(guó)政府在全球范圍內(nèi)使用升級(jí)的軍用無(wú)人機(jī)后，工程師和科學(xué)家們警告說(shuō)，自主機(jī)器很容易受到黑客的攻擊，它們可能被劫持，進(jìn)而攻擊無(wú)辜的人群；并且，它們不可避免地很容易就會(huì)被惡意攻擊者獲得，或者惡意攻擊者能夠自己制造這類武器。

同樣是無(wú)人機(jī)，劍橋研發(fā)“暴力檢測(cè)”系統(tǒng)精準(zhǔn)識(shí)別人群暴力

長(zhǎng)期以來(lái)，人工智能和武器控制專家一直在討論，哪些領(lǐng)域、產(chǎn)品特別應(yīng)該受到管制或禁止，以及如何執(zhí)行。

制作殺人機(jī)器人是機(jī)器人學(xué)家極力避免的事情，過(guò)度的渲染也會(huì)引發(fā)公眾對(duì)機(jī)器人不必要的恐懼。

實(shí)際上，同樣是基于無(wú)人機(jī)，來(lái)自英國(guó)劍橋大學(xué)、印度國(guó)家技術(shù)研究院和印度科學(xué)理工學(xué)院的研究人員，就研發(fā)了一款“暴力行為”檢測(cè)系統(tǒng)，能夠識(shí)別人群中踢打、刺傷或掐脖子等暴力動(dòng)作，準(zhǔn)確率達(dá)到85％以上。

研究人員稱，該系統(tǒng)可用于在馬拉松和音樂(lè)節(jié)等戶外活動(dòng)中通過(guò)無(wú)人機(jī)自動(dòng)發(fā)現(xiàn)暴力事件。研究論文發(fā)表了CVPR 2018上。

這種AI技術(shù)利用懸停式四軸飛行器上的攝像頭來(lái)檢測(cè)每個(gè)人的身體動(dòng)作。然后，當(dāng)系統(tǒng)識(shí)別出攻擊性的行為，如拳打、腳踢、刺殺、射擊、掐脖子等時(shí)，它就會(huì)發(fā)出警報(bào)。它不識(shí)別人臉——只是監(jiān)測(cè)人們之間可能的暴力行為。

AVI數(shù)據(jù)集中的暴力行為，包括掐脖子，拳打，腳踢，射擊和刺殺

研究人員表示，這個(gè)系統(tǒng)可以擴(kuò)展到自動(dòng)識(shí)別非法越境的人，在公共場(chǎng)所發(fā)現(xiàn)綁架事件，并在發(fā)現(xiàn)暴力行為時(shí)發(fā)出警報(bào)。他們希望這樣的自主間諜無(wú)人機(jī)可以幫助警察壓制犯罪，或幫助士兵在無(wú)辜群眾中找出敵人。

“執(zhí)法機(jī)構(gòu)已經(jīng)在使用空中監(jiān)視系統(tǒng)來(lái)監(jiān)視大面積的區(qū)域，”研究人員在他們的論文中寫道，“各國(guó)政府最近在戰(zhàn)區(qū)部署無(wú)人機(jī)來(lái)監(jiān)測(cè)敵人的行動(dòng)，監(jiān)視外國(guó)販毒組織，開(kāi)展邊境管制行動(dòng)以及在城市和農(nóng)村地區(qū)監(jiān)控犯罪活動(dòng)?！?/p>

“他們一般安排一名或多名士兵長(zhǎng)時(shí)間地操控這些無(wú)人機(jī)，這使得這些系統(tǒng)容易因人為疲勞而出錯(cuò)?！?/p>

可用于檢測(cè)公共區(qū)域或大型聚會(huì)中的暴力分子姿態(tài)估計(jì)pipeline

研究者提出的新模型分兩步工作。首先，特征金字塔網(wǎng)絡(luò)（一種卷積神經(jīng)網(wǎng)絡(luò)）從無(wú)人機(jī)拍攝的畫(huà)面中檢測(cè)到個(gè)人。然后，使用一個(gè)ScatterNet網(wǎng)絡(luò)來(lái)分析和確定圖像中每個(gè)人的姿勢(shì)。

身體的輪廓被分解為14個(gè)關(guān)鍵點(diǎn)

模型將身體的輪廓分解為14個(gè)關(guān)鍵點(diǎn)，計(jì)算出一個(gè)人的手臂、腿和臉的位置，以識(shí)別訓(xùn)練過(guò)程中指定的不同類型的暴力行為。

當(dāng)系統(tǒng)需要處理的人數(shù)更少時(shí)，準(zhǔn)確率最高。比如一張圖片上只有一個(gè)人，系統(tǒng)的準(zhǔn)確率為94.1%，但有5個(gè)人時(shí)，準(zhǔn)確率就降到了84%，10個(gè)人時(shí)準(zhǔn)確率降到79.8%。該論文的合作者Amarjot Singh說(shuō)：“準(zhǔn)確性下降主要是因?yàn)橄到y(tǒng)沒(méi)有檢測(cè)到其中的一些人。”

商業(yè)無(wú)人機(jī)襲擊造成的心理恐慌影響更大，人們更應(yīng)警惕自主武器

目前，“Slaughterbots”（《屠殺機(jī)器人》里面的情景在現(xiàn)實(shí)中并未出現(xiàn)，馬杜羅總統(tǒng)也沒(méi)有在這次無(wú)人機(jī)襲擊中受傷。

盡管商用無(wú)人機(jī)在全球各地都很容易買到，使用無(wú)人機(jī)襲擊的事件越來(lái)越多，但無(wú)人機(jī)能夠運(yùn)送的小型軍用彈藥會(huì)造成更多的心理傷害而不是物理傷害。

美國(guó)安全智庫(kù)Stratfor戰(zhàn)術(shù)分析副總裁、前美國(guó)國(guó)務(wù)院特工Scott Stewart不久前撰文認(rèn)為，受制于有效載荷等因素影響，如果使用武裝商用無(wú)人機(jī)攻擊大量人群，造成的心理影響可能傷害更大。

例如，無(wú)人機(jī)襲擊造成的恐慌引起的踩踏事件可能會(huì)造成比爆炸更多的傷害。因此，重要的是人們要意識(shí)到無(wú)人機(jī)威脅的極限，以免過(guò)度反應(yīng)并將攻擊的影響與踐踏傷害相乘。因?yàn)榇藭r(shí)的無(wú)人機(jī)在灌輸恐懼方面可能比造成實(shí)際的物理?yè)p害更為成功，從這個(gè)意義上講，無(wú)人機(jī)可被歸類為真正的恐怖主義武器。

不過(guò)，更應(yīng)注意的是AI在無(wú)人機(jī)上的應(yīng)用，這會(huì)讓無(wú)人機(jī)成為自主殺人武器。

“Slaughterbots”（《屠殺機(jī)器人》設(shè)想的場(chǎng)景、劍橋大學(xué)研究員Amarjot Singh做的無(wú)人機(jī)觀察暴力人群以及谷歌飽受爭(zhēng)議的Maven項(xiàng)目，都是將AI用于無(wú)人機(jī)，并且有的已經(jīng)成為自主殺人武器。

谷歌與國(guó)防部合作的Maven項(xiàng)目遭到員工反對(duì)

自主殺人武器是AI界一直予以抵制的范疇。上個(gè)月，馬斯克、哈薩比斯、泰格馬克等2000多名AI學(xué)者、企業(yè)領(lǐng)袖在斯德哥爾摩IJCAI上簽署宣言，誓言絕不將他們的技能用于開(kāi)發(fā)自主殺人機(jī)器。

今年4月，由于韓國(guó)KAIST大學(xué)與軍工企業(yè)“韓華 Systems”合作研發(fā)自主武器，遭到Hinton、Bengio、以及周志華教授等50多名學(xué)者聯(lián)名發(fā)公開(kāi)信抗議。

為何自主殺人武器會(huì)遭到AI專家們的反對(duì)？

周志華教授在接受新智元采訪時(shí)表示，自主武器和一般意義上的智能武器不是同一個(gè)概念，一般的智能武器，或者叫“智能化武器”，其實(shí)早就有了，例如自動(dòng)瞄準(zhǔn)裝置、導(dǎo)彈定位系統(tǒng)等等，但是最終做決定的都是人類。

而自主武器，是要把這個(gè)“決定權(quán)”交給機(jī)器，讓機(jī)器自己去決定是否進(jìn)行對(duì)人類的毀滅性打擊，這太危險(xiǎn)了。

自主武器有可能成為恐怖分子的武器。暴君和恐怖分子可以利用它們對(duì)付無(wú)辜的人群，他們不會(huì)理會(huì)任何的道德限制。如果打開(kāi)了這個(gè)潘多拉魔盒，將很難關(guān)閉。與過(guò)去禁用其他技術(shù)，例如禁用激光致盲武器（blinding lasers）一樣，我們可以簡(jiǎn)單地決定不開(kāi)發(fā)自主武器。

泰格馬克9月相約北京，AI WORLD關(guān)注機(jī)器智能與人類未來(lái)

在斯德哥爾摩IJCAI上簽署聯(lián)合宣言的發(fā)起人是未來(lái)生命研究所，這家機(jī)構(gòu)匯聚了8000多位全世界頂級(jí)的人工智能專家，成功地讓“人工智能安全性”研究迅速在全世界成為了一場(chǎng)轟轟烈烈的運(yùn)動(dòng)。

未來(lái)生命研究所的創(chuàng)始者泰格馬克是MIT物理系教授，著有年度AI巨著《生命3.0》一書(shū)，他在這本書(shū)里向世界展現(xiàn)了一種看待AI的新視角——AI也是一種生命，甚至是比人類更加先進(jìn)的生命形式。

泰格馬克教授

泰格馬克認(rèn)為，智能終將擺脫自然演化的束縛，成為自己命運(yùn)的主人。在不遠(yuǎn)的未來(lái)，在任何人類水平的通用人工智能在所有任務(wù)上趕超人類之前，人工智能可能會(huì)對(duì)一些問(wèn)題產(chǎn)生巨大影響，這些問(wèn)題包括我們?nèi)绾慰创约?、我們?cè)谌斯ぶ悄艿膸椭伦鍪裁础?/p>

今年9月20日，新智元AIWORLD2018大會(huì)有幸邀請(qǐng)到泰格馬克教授作為演講嘉賓，他將帶來(lái)對(duì)AI和生命的最新觀點(diǎn)，相信也定將給中國(guó)產(chǎn)業(yè)界帶來(lái)極大啟發(fā)，讓更多中國(guó)人思考自己的命運(yùn)，思考這個(gè)世界未來(lái)的命運(yùn)。