騰訊科恩實驗室給特斯拉提前過了一個愚人節(jié),通過“欺騙”傳感器,使得特斯拉的Autopilot自動輔助駕駛系統(tǒng)(車輛:Model S 軟件版本:2018.6.1)產(chǎn)生誤判,最終發(fā)現(xiàn)了三個“漏洞”。
雨刷的視覺識別漏洞
特斯拉Autopilot系統(tǒng)借助圖像識別技術(shù),通過識別外部天氣狀況實現(xiàn)自動雨刷功能??贫鲗嶒炇依?a href="http://www.wenjunhu.com/tags/ai/" target="_blank">AI對抗樣本生成技術(shù)生成了特定圖像,并對特斯拉進行干擾,成功導(dǎo)致特斯拉Autopilot“受騙”,車輛雨刷啟動。
讓我看見你搖擺的雙手!
對此,特斯拉官方回復(fù)稱:這項研究是通過在電視上顯示一張圖像來進行干擾的,并非日常行車場景,況且這也不能算是安全問題。此外,《車主手冊》也明確提到,“自動雨刷功能目前處于測試階段,客戶可隨時手動控制雨刷。”
雖然雨刮器確實不影響日常行車安全,但特斯拉的圖像傳感器和圖像處理工具,除了應(yīng)用在“自動雨刷功能”外,還肩負(fù)著識別前方道路環(huán)境,跟車行駛等核心功能,如果利用這一“漏洞”生成其他特定圖像,是否會干擾到和與安全密切相關(guān)的核心功能呢?
而且特定的干擾圖像也是會出現(xiàn)在日常行車場景中的,例如不壞好意的人將干擾圖像貼在車尾?這樣一上路,整條Gai特斯拉的雨刮器,一個也別想休息,全給我搖起來!
吹個牛逼:整條街的特斯拉,見了我都得招手。
車道的視覺識別缺陷
特斯拉Autopilot系統(tǒng)通過識別道路交通標(biāo)線,可實現(xiàn)L2.5級的自動駕駛。科恩實驗室通過在路面部署干擾信息后,導(dǎo)致車輛經(jīng)過時對車道線做出錯誤判斷,致使車輛駛?cè)敕聪蜍嚨馈?/p>
請勿模仿!
對此,特斯拉官方回復(fù)稱:演示中,研究人員調(diào)整了車輛周圍的物理環(huán)境(比如在道路上放置膠帶),使汽車在使用自動駕駛儀時表現(xiàn)不同??紤]到司機可以隨時接管方向盤或剎車輕松地覆蓋自動駕駛儀,而且應(yīng)該隨時準(zhǔn)備這樣做,所以這不是一個現(xiàn)實世界的問題?!?/p>
首先這個問題在現(xiàn)實生活中有一定概率出現(xiàn),例如一坨鳥屎,是否會導(dǎo)致一輛特斯拉失控,奔向別人的道?自動駕駛普及之后,對道路標(biāo)線等環(huán)境的監(jiān)管,需要更加嚴(yán)格,不法分子通過惡意改變道路標(biāo)識,便可造成嚴(yán)重的社會治安問題,想想非??膳?。
作死網(wǎng)友用橘子破解特斯拉的方向盤感應(yīng),從而“解放雙手”
正如特斯拉官方回復(fù)的那樣,現(xiàn)階段人類駕駛員不能盲目自信“自動駕駛”,時刻注視前方道路環(huán)境才是對自己人身安全負(fù)責(zé)的表現(xiàn)。
遙控器操控車輛行駛
最重磅的來了,利用已知漏洞,科恩實驗室獲取了Autopilot的控制權(quán),并通過實驗證明,即使車主沒有主動開啟Autopilot系統(tǒng),“黑客”也可以通過游戲手柄對車輛行駛方向進行操控。
什么極品飛車、塵埃、GTA5......都弱爆了好么!這才是游戲手柄的終極使用形態(tài)。
“白帽子”們在越過幾個保護系統(tǒng)之后,編寫了一個應(yīng)用程序,該程序可將Autopilot系統(tǒng)與游戲手柄相連,越過車內(nèi)方向盤、油門等駕駛員的人工操作,直接接管汽車的控制權(quán)。但是此攻擊具有一定的局限性:當(dāng)車輛處于停止?fàn)顟B(tài)(P檔),或是在巡航控制下高速行駛時,可以完全接管該車;剛剛從R檔換到D檔的汽車,只有滿足時速為8km/h時,才能被遠(yuǎn)程控制。
對此,特斯拉官方回應(yīng)是:“這個漏洞特斯拉通過2017年的一次更新已經(jīng)修復(fù),隨后在2018年又進行了一次全面的更新,這兩次更新都是我們在科恩實驗室向我們報告這項研究之前發(fā)布的。在特斯拉車主上路行駛的這么多年里,官方從未接到任何客戶反饋此類問題”
騰訊是特斯拉的第五大股東,科恩實驗室的“攻擊”并非“本是同根生,相煎何太急”,而是通過發(fā)現(xiàn)漏洞促進特斯拉技術(shù)上的完善,除了此次“攻擊”,科恩實驗室此前還多次通過“遠(yuǎn)程無物理接觸”成功入侵特斯拉汽車,特斯拉官方也根據(jù)科恩實驗室的反饋做了系統(tǒng)上的更新,還在官網(wǎng)公布對科恩實驗室的感謝信??偟貋碚f,網(wǎng)絡(luò)安全是智能網(wǎng)聯(lián)汽車發(fā)展所面臨的重要課題,但愿“白帽子”們總能在“黑客”發(fā)起惡意進攻前,找到漏洞,把危險扼殺在搖籃里。
-
圖像識別
+關(guān)注
關(guān)注
9文章
520瀏覽量
38305 -
特斯拉
+關(guān)注
關(guān)注
66文章
6320瀏覽量
126665 -
視覺識別
+關(guān)注
關(guān)注
3文章
89瀏覽量
16769
原文標(biāo)題:聚焦| 游戲手柄控制特斯拉?愚人節(jié)前,有人給Model S開了個玩笑
文章出處:【微信號:e700_org,微信公眾號:汽車工程師】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論