“催眠”特斯拉,這樣瘋狂的事情,也許只有在世界頂級(jí)黑客會(huì)議DEF CON上才能看到。而且,沒錯(cuò),又是中國(guó)黑客干的。先來說說特斯拉輔助駕駛(AutoPilot)。這個(gè)讓埃隆·馬斯克引以為傲的系統(tǒng),已經(jīng)在全世界的特斯拉汽車上大規(guī)模應(yīng)用。這個(gè)系統(tǒng)可以實(shí)現(xiàn)自動(dòng)跟車,自動(dòng)轉(zhuǎn)向,甚至在堵車的時(shí)候,也可以自動(dòng)跟著前車反復(fù)啟停。
講真,輔助駕駛系統(tǒng)的可用性非常高。諸多特斯拉車主已經(jīng)嘗試過在早高峰把車開上北京的二環(huán),打開輔助駕駛,閉目養(yǎng)身半小時(shí)之后再切換成手動(dòng)模式駛離主路。
然而,可用性和可靠性在某些特殊的時(shí)刻,并不那么協(xié)調(diào)。
這輛特斯拉生前的最后一刻,正是開啟了輔助駕駛模式,據(jù)說,系統(tǒng)把橫在前方的純白色卡車識(shí)別為了遠(yuǎn)方的大樓或廣告牌。
而就在前兩天,中國(guó)特斯拉自動(dòng)駕駛的“首撞”也發(fā)生在北京北五環(huán)上。
頻發(fā)的撞車事故至少說明一點(diǎn),那就是輔助駕駛系統(tǒng)還有諸多設(shè)計(jì)缺陷。而來自中國(guó)的黑客們,用實(shí)際的攻擊測(cè)試,證明了輔助駕駛系統(tǒng)遠(yuǎn)不是“偶爾失靈”這么簡(jiǎn)單。稍不留意,它就可能被人利用,有計(jì)劃地發(fā)起各種“慘烈”的攻擊。
劉健皓,360汽車信息安全團(tuán)隊(duì)負(fù)責(zé)人,中國(guó)特斯拉破解第一人;閆琛,浙江大學(xué)博士,智能系統(tǒng)安全實(shí)驗(yàn)室成員,著名的汽車黑客。正是他們帶領(lǐng)團(tuán)隊(duì)全球首次用實(shí)車實(shí)現(xiàn)攻擊特斯拉自動(dòng)駕駛系統(tǒng)。
劉健皓詳細(xì)介紹了特斯拉輔助駕駛系統(tǒng)的工作原理。
汽車自動(dòng)駕駛系統(tǒng)所用到的所有傳感器,包括遠(yuǎn)距離雷達(dá)、超聲波傳感器、可見光傳感器、激光雷達(dá)。其測(cè)量范圍,精準(zhǔn)度和有效距離各有優(yōu)劣,一般組合使用。
特斯拉的眼睛:各類傳感器
輔助駕駛實(shí)現(xiàn)的首要一點(diǎn)就是:認(rèn)清周圍的環(huán)境。
為了實(shí)現(xiàn)這一點(diǎn),特斯拉選用了三種不同的“眼睛”:
特斯拉裝配的雷達(dá),頻率高達(dá)77GHz,這個(gè)超高頻段的技術(shù),曾經(jīng)作為美國(guó)軍方的保密技術(shù),禁止對(duì)華出售。兩顆雷達(dá)分別被安裝在特斯拉的前后,用以探測(cè)前后方遠(yuǎn)距離的障礙物,可以識(shí)別最遠(yuǎn)達(dá)到150米的障礙物。
超聲波傳感器:
特斯拉周身布滿12玫超聲波傳感器,用以感知車身周圍大概五米范圍的障礙物。
高清攝像頭:
這是特斯拉的諸多“眼睛”中唯一可以識(shí)別可見光的。攝像頭被放置在汽車前后,用以識(shí)別車道線和限速、禁行一類的道路標(biāo)志。
劉健皓說,輔助駕駛系統(tǒng)就是根據(jù)這些傳感器采集的數(shù)據(jù),通過自動(dòng)駕駛的算法,實(shí)現(xiàn)規(guī)劃路徑和自動(dòng)巡航等所有功能。
他和閆琛的攻擊思路非常清晰:只要黑掉這些傳感器,讓數(shù)據(jù)的錯(cuò)誤進(jìn)入系統(tǒng),就一定會(huì)產(chǎn)生嚴(yán)重攻擊效果。
通俗來說,就是“催眠”特斯拉。讓這部世界上最先進(jìn)的自動(dòng)駕駛汽車進(jìn)入可怕的“夢(mèng)魘”狀態(tài)。
圖片說明:特斯拉車身上所有傳感器的位置(藍(lán)色為毫米波雷達(dá),灰色為攝像頭,紅色為超聲波傳感器)
干掉超聲波傳感器
由于超聲波傳感器主要分布在車身周圍,而且主要用來判斷近距離物體的信息。所以在實(shí)際應(yīng)用中,它們的主要作用是感知附近有沒有障礙物向自己靠攏,從而向相反方向進(jìn)行規(guī)避。
閆琛:經(jīng)過逆向研究,我們發(fā)現(xiàn)特斯拉使用的超聲波傳感器發(fā)射的波長(zhǎng)為40Khz,而這種波長(zhǎng)的超聲波在現(xiàn)實(shí)世界里并不常見。例如搖動(dòng)鑰匙串或者大卡車制動(dòng)的時(shí)候,都會(huì)發(fā)出這樣的超聲波。
但是由于現(xiàn)實(shí)世界中的40Khz超聲波不會(huì)長(zhǎng)時(shí)間持續(xù),強(qiáng)度也沒有那么大,所以看樣子特斯拉并沒有認(rèn)真研究人造超聲波對(duì)輔助駕駛系統(tǒng)的影響。
噪音攻擊
他們于是嘗試對(duì)特斯拉的超聲波傳感器實(shí)行一種噪音攻擊(Jamming)。簡(jiǎn)單來說就是用更大的強(qiáng)度播放同樣波長(zhǎng)的噪音,這樣就會(huì)使得超聲波感應(yīng)器無法回收自己發(fā)出的信號(hào),從而沒有辦法測(cè)量周圍物體的舉例。
讓人驚奇的是,在這種情況下,特斯拉并沒有選擇提示用戶切換回手動(dòng)模式,反而繼續(xù)按照原速運(yùn)動(dòng)。此時(shí)如果有物體靠近特斯拉,即使發(fā)生碰撞,它都不會(huì)有任何反應(yīng)動(dòng)作。
欺騙攻擊
通過信號(hào)分析儀進(jìn)一步破解超聲波信號(hào),劉健皓和閆琛完全掌握了超聲波的結(jié)構(gòu),于是他們嘗試用信號(hào)發(fā)射裝置欺騙傳感器。
“實(shí)誠(chéng)”的特斯拉果然上當(dāng),會(huì)向決策系統(tǒng)傳遞虛假的信號(hào)。于是在空無一車的地下車庫(kù),居然啟動(dòng)了自動(dòng)跟車模式;
而當(dāng)劉健皓向特斯拉發(fā)出了前方近距離有障礙物的虛擬信號(hào)后,特斯拉猛然來了一個(gè)剎車。
肉包子打狗”攻擊
黑客們找來了超聲波吸附材料。超聲波信號(hào)碰到這種海綿狀材料,可謂肉包子打狗——有去無回。在試驗(yàn)中,無論什么兇險(xiǎn)的障礙物,只要籠罩超聲波吸附材料,在特斯拉眼中一律是一馬平川,不撞南墻死不回頭。
當(dāng)然,劉健皓也覺得目前的吸波材料過于厚重,在現(xiàn)實(shí)中用來攻擊有點(diǎn)搞笑。不過他說:“在未來如果實(shí)現(xiàn)材料的輕薄甚至透明,這種攻擊就會(huì)變得非常危險(xiǎn)了?!?/p>
干掉毫米波雷達(dá)
毫米波雷達(dá)是諸多特斯拉傳感器中,最為精密的一個(gè)了。77GHz的超高頻率已經(jīng)超出一般儀器可以解析的范圍,
閆琛告訴記者,單單是借來研究毫米波雷達(dá)的設(shè)備,就可以買三輛特斯拉。劉健皓甚至開玩笑說,借這臺(tái)設(shè)備是整個(gè)研究中的一個(gè)最大難點(diǎn)。
然而,有了分析設(shè)備,只是萬里長(zhǎng)征的第一步。對(duì)77GHz的超高頻信號(hào)進(jìn)行降頻之后的分析,也是一個(gè)非常艱難的過程。
對(duì)于毫米波雷達(dá),同樣可以實(shí)現(xiàn)噪音攻擊和欺騙攻擊。也就是說,可以讓特斯拉在高速行駛中,完全忽略前面的障礙物,也可以憑空讓特斯拉緊急制動(dòng)。
理論上來說,這樣的攻擊可以在幾十米開外進(jìn)行。就像用手槍射擊標(biāo)靶。不過毫米波發(fā)射器的波束比較集中,在實(shí)際攻擊中,要完美擊中汽車的雷達(dá),這需要非常好的精確度。“不過只要有足夠的資金購(gòu)買高級(jí)的設(shè)備,這些限制都不是問題。”閆琛說
干掉光學(xué)傳感器(高清攝像頭)
也許對(duì)于攝像頭的攻擊是唯一一種普通人都可以玩轉(zhuǎn)的攻擊。你只需要一個(gè)大功率手電,猛烈照射攝像頭,就會(huì)造成它的短暫致盲,這個(gè)特性和所有的攝像頭,以及人眼的原理都是一致的。
文章開頭提到的特斯拉撞擊卡車的案例,就是因?yàn)榭ㄜ囓噹椎靡粔m不染,導(dǎo)致攝像頭犯了“雪盲癥”,既無法找到前方的車道線和標(biāo)志,也無法判斷這個(gè)物體的真實(shí)屬性。所以才釀成車禍。(你可能要問先進(jìn)的毫米波雷達(dá)當(dāng)時(shí)在做神馬。沒錯(cuò),卡車太高了以至于雷達(dá)信號(hào)從車底完美躲過。)
當(dāng)然,特斯拉的攝像頭也支持紅外夜視,所以用紅外線手電照射攝像頭,同樣會(huì)導(dǎo)致它“失明”。
特斯拉怎么說
在此次DEF CON演講之前大約一個(gè)月,劉健皓和閆琛已經(jīng)把這組缺陷打包提交給了特斯拉。而特斯拉在兩周前專門和這個(gè)黑客團(tuán)隊(duì)進(jìn)行了一個(gè)小時(shí)的電話會(huì)議。
雖然最后的結(jié)論并不很振奮人心:特斯拉表示還要再花時(shí)間評(píng)估一下這些缺陷在實(shí)際情況中對(duì)于安全的威脅程度。
不過,劉健皓認(rèn)為這些缺陷非常值得引起注意:
從前的汽車傳感器只是作為人類駕駛的一個(gè)參考,并不直接影響駕駛的決策。而特斯拉的輔助駕駛系統(tǒng)讓傳感器直接接通了汽車的CAN總線,這意味著對(duì)于汽車的攻擊面從原來的總線攻擊和車聯(lián)網(wǎng)攻擊又?jǐn)U大到了傳感器攻擊。
而從現(xiàn)在的趨勢(shì)上來看,機(jī)器人的一個(gè)重要分支就是帶有圖像識(shí)別和人工智能的“汽車人”,對(duì)于能力越來越大的“汽車人”來說,這種攻擊所能造成的傷害會(huì)越來越大。
閆琛說:“面對(duì)可能性越來越高的攻擊,輔助駕駛系統(tǒng)并沒有對(duì)信號(hào)的異常檢測(cè)機(jī)制,這是一個(gè)巨大的隱患。例如如果洗頭膏檢測(cè)到信號(hào)異常,首要的行動(dòng)應(yīng)該是保證汽車安全,而不是什么都不做?!?/p>
有一點(diǎn)事實(shí)不容置疑,那就是輔助駕駛已經(jīng)改變了人們的駕駛風(fēng)格。人們對(duì)于機(jī)器的依賴只能加深,從不后退。而這種被人類信賴以至于托付生命安全的技術(shù),是難以承受諸多的缺陷的。當(dāng)人躺在車?yán)锼笥X的時(shí)候,他的特斯拉也同樣進(jìn)入了“夢(mèng)鄉(xiāng)”。這恐怕是對(duì)人類智慧最大的嘲諷。
劉健皓和閆琛對(duì)于特斯拉的破解,其實(shí)更像一次警示。我們把自己的感官托付給機(jī)器的那一瞬間,就要開始奮力阻止《黑客帝國(guó)》中所描繪的可怕結(jié)局。
評(píng)論
查看更多