Alpha2 被攻擊成為可怕的破壞狂,小心身邊的“機(jī)器人”變“擊器人”

國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）發(fā)布《賽迪機(jī)器人3·15 ——小心身邊的“機(jī)器人”變“擊器人”》，通過(guò)研究主流公共服務(wù)機(jī)器人架構(gòu)設(shè)計(jì)安全隱患，并對(duì)抽測(cè)樣品進(jìn)行安全分析與攻擊測(cè)試，發(fā)現(xiàn)被測(cè)樣品普遍存在信息安全問(wèn)題。希望通過(guò)本報(bào)告引起各界對(duì)機(jī)器人信息安全問(wèn)題的關(guān)注，促進(jìn)機(jī)器人產(chǎn)品及系統(tǒng)信息安全水平整體提升，真正安全可靠服務(wù)于人類(lèi)。

背景

服務(wù)機(jī)器人應(yīng)用不斷拓展

根據(jù)機(jī)器人的應(yīng)用領(lǐng)域，國(guó)際機(jī)器人聯(lián)盟（International Federation of Robotics,IFR）將機(jī)器人分為工業(yè)機(jī)器人和服務(wù)機(jī)器人。其中，服務(wù)機(jī)器人是指除工業(yè)機(jī)器人之外的、用于非制造業(yè)并服務(wù)于人類(lèi)的各種先進(jìn)機(jī)器人，主要包括個(gè)人/家用機(jī)器人和專(zhuān)用服務(wù)機(jī)器人兩大類(lèi)。

服務(wù)機(jī)器人分類(lèi)（根據(jù)IFR）

隨著人口老齡化趨勢(shì)加快，勞動(dòng)人口縮減，人力成本上漲等問(wèn)題不斷出現(xiàn)，服務(wù)機(jī)器人的市場(chǎng)規(guī)模快速擴(kuò)大，應(yīng)用場(chǎng)景不斷拓展，應(yīng)用模式不斷豐富，機(jī)器人性能也在逐步提升，數(shù)字化、網(wǎng)絡(luò)化、智能化將成為服務(wù)機(jī)器人的重要發(fā)展方向，人工智能、區(qū)塊鏈、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等技術(shù)的迅猛發(fā)展，將與機(jī)器人產(chǎn)業(yè)進(jìn)一步深度融合，滲透到更多的生活場(chǎng)景。

機(jī)器人能否安全服務(wù)于人類(lèi)，是否會(huì)成為傷害人類(lèi)的兇手或泄密工具？請(qǐng)看以下幾個(gè)國(guó)外研究機(jī)構(gòu)公布的主流服務(wù)機(jī)器人信息安全漏洞案例。

案例一：IOActive發(fā)現(xiàn)Alpha2教育陪伴機(jī)器人漏洞

Alpha2教育陪伴機(jī)器人，利用其缺乏代碼簽名機(jī)制的漏洞，攻擊者可以輕松進(jìn)入系統(tǒng)、覆蓋權(quán)限并安裝惡意代碼，從而控制機(jī)器人使其操作工具損害周?chē)矬w。

Alpha2被攻擊成為可怕的破壞狂（用螺絲刀刺人手中的番茄）

案例二：Check Point安全軟件公司發(fā)現(xiàn)LG公司的Hom-bot智能掃地機(jī)器人漏洞

LG公司的Hom-bot智能掃地機(jī)器人，利用其遠(yuǎn)程登錄系統(tǒng)存在的加密漏洞，攻擊者可以獲得掃地機(jī)器人的控制權(quán)，劫持內(nèi)置攝像頭，監(jiān)視用戶(hù)的個(gè)人隱私。

Hom-bot掃地機(jī)器人被攻擊成為監(jiān)視住戶(hù)隱私的“間諜”

案例三：華盛頓大學(xué)仿生機(jī)器人實(shí)驗(yàn)室發(fā)現(xiàn)Raven Ⅱ手術(shù)機(jī)器人漏洞

RavenⅡ手術(shù)機(jī)器人，由于其遙操作端與執(zhí)行端的信號(hào)通過(guò)網(wǎng)絡(luò)非加密傳輸，利用中間人攻擊手段，可以干擾兩端之間的通訊，使得手術(shù)機(jī)器人最終失去控制，無(wú)法執(zhí)行醫(yī)生的正常操作，從而影響手術(shù)過(guò)程，給患者帶來(lái)極大的安全隱患。

RavenⅡ手術(shù)機(jī)器人被攻擊成為遠(yuǎn)程“索命”工具

在上述背景下，國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）選取目前具有代表性的，已經(jīng)廣泛應(yīng)用于酒店、餐廳、銀行、政務(wù)大廳等領(lǐng)域的公共服務(wù)機(jī)器人進(jìn)行信息安全研究及攻擊測(cè)試，通過(guò)揭示分析公共服務(wù)機(jī)器人信息安全問(wèn)題，引發(fā)全社會(huì)對(duì)機(jī)器人信息安全問(wèn)題的關(guān)注，讓機(jī)器人真正成為人類(lèi)的幫手。

研究

可能存在十大信息安全風(fēng)險(xiǎn)點(diǎn)

國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）研究此類(lèi)機(jī)器人的整體架構(gòu)設(shè)計(jì)，列出其可能存在的信息安全風(fēng)險(xiǎn)點(diǎn)：

公共服務(wù)機(jī)器人安全風(fēng)險(xiǎn)點(diǎn)

1

機(jī)器人專(zhuān)用控制系統(tǒng)漏洞。利用專(zhuān)用控制系統(tǒng)漏洞，攻擊者可以獲得控制系統(tǒng)權(quán)限，實(shí)現(xiàn)對(duì)機(jī)器人的非法控制，干擾機(jī)器人的正常運(yùn)動(dòng)。

2

傳感器安全風(fēng)險(xiǎn)。攻擊者可以對(duì)傳感器進(jìn)行干擾，使機(jī)器人的導(dǎo)航和避障功能失靈，影響機(jī)器人正常運(yùn)行。

3

接口API漏洞。攻擊者可以利用接口A(yíng)PI的漏洞，獲取、篡改、監(jiān)聽(tīng)機(jī)器人的語(yǔ)音信息；或入侵機(jī)器人操作系統(tǒng)，獲取系統(tǒng)權(quán)限，實(shí)現(xiàn)對(duì)機(jī)器人的劫持或敏感數(shù)據(jù)竊取。

4

Wifi通信安全風(fēng)險(xiǎn)。通訊數(shù)據(jù)未加密，攻擊者可攔截通信傳輸信號(hào)，嗅探、篡改、偽造數(shù)據(jù)包，非法控制機(jī)器人。

5

Android系統(tǒng)與應(yīng)用漏洞。攻擊者可以利用Android系統(tǒng)自身存在的漏洞，實(shí)現(xiàn)對(duì)操作系統(tǒng)權(quán)限的非法獲取。此外，由于開(kāi)發(fā)者經(jīng)常忽略的問(wèn)題，包括不當(dāng)?shù)纳矸?a target="_blank">認(rèn)證、信息未加密、密鑰未安全存儲(chǔ)、日志記錄和監(jiān)控不足等，也會(huì)給機(jī)器人帶來(lái)極大的風(fēng)險(xiǎn)隱患。

6

網(wǎng)絡(luò)攝像頭漏洞。攻擊者可通過(guò)對(duì)網(wǎng)絡(luò)攝像頭的劫持，竊取用戶(hù)隱私、商業(yè)機(jī)密。

7

USB傳輸安全風(fēng)險(xiǎn)。攻擊者可以通過(guò)USB接口植入惡意代碼，實(shí)現(xiàn)對(duì)機(jī)器人的非法控制、竊取核心數(shù)據(jù)；通過(guò)ADB調(diào)試端口，直接侵入機(jī)器人操作系統(tǒng)，非法獲得控制權(quán)限，實(shí)現(xiàn)對(duì)機(jī)器人的劫持。

8

串口通信安全風(fēng)險(xiǎn)。攻擊者可以通過(guò)串口非法接入機(jī)器人操作系統(tǒng)，進(jìn)而獲得系統(tǒng)權(quán)限，實(shí)現(xiàn)對(duì)機(jī)器人的非法控制。

9

總線(xiàn)通信安全風(fēng)險(xiǎn)。攻擊者可以通過(guò)訪(fǎng)問(wèn)總線(xiàn)接口，對(duì)數(shù)據(jù)進(jìn)行篡改和偽造，干擾機(jī)器人的運(yùn)動(dòng)。

10

2.4G網(wǎng)絡(luò)通信安全風(fēng)險(xiǎn)。攻擊者可以使用軟件無(wú)線(xiàn)電監(jiān)聽(tīng)、篡改數(shù)據(jù)，實(shí)現(xiàn)對(duì)機(jī)器人的劫持。

測(cè)試與試驗(yàn)

被測(cè)公共服務(wù)機(jī)器人均存漏洞

為驗(yàn)證目前公共服務(wù)機(jī)器人是否存在上述信息安全風(fēng)險(xiǎn)，國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）抽取主流公共服務(wù)機(jī)器人進(jìn)行測(cè)試與試驗(yàn)。（以下測(cè)試與試驗(yàn)結(jié)果僅對(duì)抽測(cè)樣品有效）

首先，我們通過(guò)對(duì)這類(lèi)機(jī)器人使用較多的操作系統(tǒng)版本進(jìn)行了內(nèi)核源代碼漏洞掃描。利用這些漏洞攻擊者可以獲取系統(tǒng)級(jí)訪(fǎng)問(wèn)，進(jìn)行攻擊。

機(jī)器人操作系統(tǒng)內(nèi)核源代碼漏洞抽測(cè)結(jié)果

隨后，國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）按照下圖的研究路徑，對(duì)機(jī)器人進(jìn)行安全分析和攻擊測(cè)試。

安全分析和攻擊測(cè)試路徑

試驗(yàn)結(jié)果表明

1、對(duì)機(jī)器人使用較多的操作系統(tǒng)版本進(jìn)行內(nèi)核源代碼漏洞掃描，存在多項(xiàng)緊急、高危甚至可提權(quán)漏洞，攻擊者可通過(guò)這些漏洞獲取系統(tǒng)級(jí)訪(fǎng)問(wèn)，進(jìn)行攻擊。

2、所有被測(cè)對(duì)象均采用未加密的明文方式傳輸數(shù)據(jù)，攻擊者可以輕易獲得數(shù)據(jù)報(bào)文格式，偽造或篡改控制報(bào)文。

3、部分被測(cè)對(duì)象內(nèi)置無(wú)線(xiàn)AP，利用其弱口令漏洞，可以獲得控制報(bào)文進(jìn)而實(shí)現(xiàn)非法控制。

4、部分被測(cè)機(jī)器人未隱藏其激光雷達(dá)傳感器自帶用于遠(yuǎn)程調(diào)試的AP，攻擊者可直接干擾傳感器數(shù)據(jù)。

5、部分被測(cè)機(jī)器人沒(méi)有身份校驗(yàn)機(jī)制，通過(guò)其開(kāi)放的端口可以獲取配置文件信息甚至可直接訪(fǎng)問(wèn)企業(yè)的管理后臺(tái)地址。

6、部分基于Windows平臺(tái)開(kāi)發(fā)的被測(cè)機(jī)器人，可直接進(jìn)入或通過(guò)未禁用或未做保護(hù)的接口進(jìn)入其Windows系統(tǒng)，并獲得源碼信息，且其控制指令未作代碼混淆，缺乏身份校驗(yàn)機(jī)制，攻擊者可以直接實(shí)現(xiàn)對(duì)機(jī)器人的劫持。

7、部分被測(cè)機(jī)器人沒(méi)有對(duì)使用者劃分權(quán)限，任何使用者都可通過(guò)人機(jī)交互界面進(jìn)入Android系統(tǒng)后臺(tái)并開(kāi)啟調(diào)試模式、安裝第三方應(yīng)用，獲取并利用系統(tǒng)關(guān)鍵資源等。

下面視頻展示了對(duì)機(jī)器人進(jìn)行安全分析和攻擊測(cè)試并實(shí)現(xiàn)非法控制的過(guò)程：

對(duì)機(jī)器人進(jìn)行安全分析和攻擊測(cè)試，實(shí)現(xiàn)非法控制

建議

重視安全隱患 提升信息安全水平

隨著服務(wù)機(jī)器人關(guān)鍵技術(shù)的不斷更新與發(fā)展，服務(wù)機(jī)器人將呈現(xiàn)智能化、普及化、社會(huì)化、多元化等特點(diǎn)，未來(lái)服務(wù)機(jī)器人會(huì)涉及到人們?nèi)粘Ｉ畹姆椒矫婷妗Ｅc此同時(shí)，服務(wù)機(jī)器人在信息安全方面可能會(huì)出現(xiàn)更多新的隱患或問(wèn)題，造成人員傷害或隱私泄露等。因此希望主管機(jī)構(gòu)、服務(wù)機(jī)器人研發(fā)企業(yè)、用戶(hù)以及研究和檢測(cè)機(jī)構(gòu)對(duì)機(jī)器人信息安全問(wèn)題引起重視。

國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）基于現(xiàn)有研究和測(cè)試試驗(yàn)結(jié)果提出以下幾點(diǎn)建議，以促進(jìn)機(jī)器人產(chǎn)品及系統(tǒng)信息安全水平整體提升，真正安全可靠服務(wù)于人類(lèi)。

1

加強(qiáng)信息安全防護(hù)技術(shù)研究，提升機(jī)器人產(chǎn)品信息安全防護(hù)能力，從根源解決機(jī)器人信息安全隱患。

2

加快建立機(jī)器人信息安全標(biāo)準(zhǔn)體系，開(kāi)展機(jī)器人產(chǎn)品信息安全檢測(cè)認(rèn)證及審查工作，定期對(duì)機(jī)器人生產(chǎn)企業(yè)及應(yīng)用企業(yè)開(kāi)展信息安全檢查。

3

建立國(guó)家機(jī)器人漏洞庫(kù)，發(fā)現(xiàn)收集機(jī)器人領(lǐng)域的信息安全漏洞，并對(duì)漏洞進(jìn)行解剖分析，向主管部門(mén)提交分析報(bào)告，為國(guó)產(chǎn)機(jī)器人生產(chǎn)及集成應(yīng)用企業(yè)提供安全測(cè)評(píng)和解決方案。

4

加強(qiáng)機(jī)器人信息安全宣傳、教育及培訓(xùn)活動(dòng)，增強(qiáng)全社會(huì)對(duì)機(jī)器人的信息安全防護(hù)意識(shí)，穩(wěn)步提升信息安全防護(hù)能力。

聲明

1. 本文所描述的信息安全問(wèn)題為目前服務(wù)機(jī)器人行業(yè)普遍存在的共性問(wèn)題，文中圖片所涉及公共服務(wù)機(jī)器人僅為展示示例，不具有針對(duì)性；

2. 除上述公共服務(wù)機(jī)器人外，應(yīng)用較為廣泛的工業(yè)機(jī)器人、物流機(jī)器人、醫(yī)療機(jī)器人、家用機(jī)器人、教育娛樂(lè)機(jī)器人、無(wú)人機(jī)等都可能存在信息安全風(fēng)險(xiǎn)及漏洞，國(guó)家機(jī)器人質(zhì)量監(jiān)督檢驗(yàn)中心（北京）會(huì)持續(xù)開(kāi)展機(jī)器人信息安全技術(shù)研究，關(guān)注并推動(dòng)信息安全標(biāo)準(zhǔn)體系建設(shè)、信息安全檢測(cè)認(rèn)證及審查制度建立，輔助提升我國(guó)機(jī)器人行業(yè)信息安全水平；

3. 感謝中科院軟件所和四維創(chuàng)智團(tuán)隊(duì)的支持。