自動駕駛被曝嚴(yán)重缺陷！國家973首席科學(xué)家呼吁：不要嘗試 L2以上功能

電子發(fā)燒友網(wǎng)報道（文/梁浩斌）去年8月，企業(yè)家林文欽駕駛開啟“自動駕駛功能”的蔚來ES8發(fā)生事故導(dǎo)致身亡，引起了大眾對于車企在“自動駕駛”宣傳上造成誤導(dǎo)的質(zhì)疑。使得在早期大肆宣傳“自動駕駛”的一些車企，都開始在宣傳用詞上有所收斂，比如小鵬已經(jīng)將原本官網(wǎng)上描述的“自動輔助駕駛系統(tǒng)”改成“智能輔助駕駛系統(tǒng)”。

當(dāng)然也有小部分頭鐵的企業(yè)依然將“自動駕駛”放在介紹頁最顯眼的地方，是誰在這里就不提了。目前大部分帶有輔助駕駛功能的車型，都是L2級別的系統(tǒng)，但按照普遍認(rèn)知中達(dá)到了“高度自動駕駛”程度的L4級系統(tǒng)，就真的安全嗎？

近日理想汽車CEO李想在微博發(fā)表了關(guān)于公司智能駕駛研發(fā)的成績單，復(fù)旦大學(xué)計算機(jī)科學(xué)技術(shù)學(xué)院副院長、國家 973 計劃項目首席科學(xué)家楊珉教授在看到了李想的微博后，回復(fù)并質(zhì)疑了當(dāng)前智能駕駛系統(tǒng)的安全性。
“說實話，我們安全研究人員覺得自動駕駛安全性沒有想象的那么香，我們最新研發(fā)的駕駛系統(tǒng)安全性測試平臺針對某L4級別系統(tǒng)測試后，小伙伴們紛紛倒吸一口零度以下涼氣，表示不要嘗試L2以上功能。”

在楊珉教授給出的例子中，演示了某L4級別無人駕駛汽車必然會發(fā)生碰撞的其中一個特定場景。 當(dāng)車輛在既定車道行駛，前方車輛突然有加塞動作時，車輛并未有減速動作，在此場景下必觸發(fā)碰撞。而如果是人類駕駛員遇到這種場景，一般會先在后面減速跟隨一段時間或閃爍大燈提醒前方車輛，確認(rèn)安全后再通過。

雖然按照事故定責(zé)案例來看，責(zé)任主要在變道車輛上，但對于自動駕駛而言這樣100%發(fā)生事故的場景顯然是一個重大安全缺陷。而且這并不是孤例，楊珉教授還透露，測試系統(tǒng)僅在一周內(nèi)就發(fā)現(xiàn)數(shù)百個碰撞的案例。難道自動駕駛真的是個偽命題？

智能駕駛系統(tǒng)盲區(qū)多

由于真實路況復(fù)雜，盡管目前的智能駕駛系統(tǒng)經(jīng)過多年的發(fā)展，有足夠的真實場景用于機(jī)器學(xué)習(xí)訓(xùn)練，但遇到個別特殊場景依然會出現(xiàn)無法識別的狀況。
比如在2020年7月，一輛特斯拉Model S在美國公路上開啟了Autopilot自動輔助駕駛系統(tǒng)時，無法識別前方白色的警車，在造成追尾的同時還波及到警車前方的一輛救護(hù)車。 白色似乎是特斯拉自動輔助駕駛系統(tǒng)的一個盲區(qū)。同樣在2020年，中國臺灣嘉義縣的一輛特斯拉Model 3在高速公路上開啟Autopilot自動輔助駕駛系統(tǒng)時，沒有識別到前方因事故側(cè)翻在路上的白色貨車，毫無減速地撞上去。而調(diào)查結(jié)果顯示，當(dāng)時系統(tǒng)將白色貨車錯誤識別成天空，因此并沒作出減速動作。

另一方面，因施工或其他情況導(dǎo)致路面劃線不清晰時，系統(tǒng)同樣容易出現(xiàn)誤判。（如上圖）
而上文楊珉教授給出的例子，其實現(xiàn)實中早已經(jīng)有類似事件發(fā)生。此前在深圳南坪，一輛Model 3在開啟Autopilot自動輔助駕駛系統(tǒng)的情況下，由于最右車道被封，在右前方行駛的比亞迪渣土車提早打了轉(zhuǎn)向燈，并向Model 3所在的車道變線。但Autopilot系統(tǒng)并沒有停下，反而加速跟上前車，最終發(fā)生碰撞。
不單是特斯拉，其他品牌的車型都出現(xiàn)過系統(tǒng)識別錯誤的事故。比如去年9月，一輛開啟了NGP（智能導(dǎo)航輔助駕駛）的小鵬P7，在高速公路上追尾了一輛空載的掛車。原因很可能是因為掛車底盤高度太低而出現(xiàn)誤判。
去年1月，在沈海高速上一輛蔚來ES8在開啟NIO Pilot自動輔助駕駛功能的時候，撞上了因輪胎問題在高速公路最內(nèi)側(cè)車道拋錨的五菱宏光。在車主提供的行車記錄視頻中可以看到，當(dāng)時的天氣狀況不太理想，雨勢較大。

當(dāng)然，以上事故中，司機(jī)分神是其中一個重要原因之一，不過類似事件的頻發(fā)，也反映出智能駕駛系統(tǒng)對于特定場景識別的盲區(qū)。

可能會有人認(rèn)為，這些車企的智能駕駛系統(tǒng)級別不高，一些自動駕駛公司的L4級別系統(tǒng)會有更好效果。確實，大多自動駕駛公司從一開始就往著完全自動駕駛的方向去研發(fā)，目前一些Robotaxi項目也開始落地，但從實際體驗上來看依然存在一些危險動作。
比如百度Apollo的L4自動駕駛，在某博主體驗的過程中，車輛在通過人行橫道時沒有明顯減速，從普通駕駛員的角度來看，有多次危險動作出現(xiàn)。

盡管現(xiàn)實中可能是小概率事件，但對于汽車而言，無論發(fā)生的概率有多少，只要有可能發(fā)生，都會直接關(guān)系到乘員的生命安全，這也是為何車規(guī)級產(chǎn)品要求的缺陷率要達(dá)到0PPM（百萬分之0）。

自動駕駛還能不能成？

去年8月，工信部發(fā)布了一份關(guān)于加強(qiáng)智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)及產(chǎn)品準(zhǔn)入管理的意見文件，其中最關(guān)鍵的一句話是：明確未經(jīng)審批，不得通過在線等軟件升級方式新增或更新汽車自動駕駛功能。

而在給汽車推送自動駕駛功能前，“應(yīng)當(dāng)確保汽車產(chǎn)品至少滿足系統(tǒng)失效識別與安全響應(yīng)、人機(jī)交互、數(shù)據(jù)記錄、過程保障和模擬仿真等測試驗證的要求?！边@意味著在監(jiān)管層面上，監(jiān)管部門已經(jīng)開始推進(jìn)車企“自動駕駛”功能安全性方面的審核。

但真的要實現(xiàn)純自動駕駛，可能不是某個車企依靠自己技術(shù)能夠做到的。在真實的交通場景中，車輛與車輛之間是互為黑盒子的關(guān)系，對于人類駕駛員而言，與其他駕駛員其實一直處于不斷互相判斷、互相試探的過程，在這個過程中的變數(shù)，不只是駕駛員對實時路面情況基于經(jīng)驗的判斷以及反應(yīng)速度，還有不同駕駛員的心理狀態(tài)。

這或許是目前業(yè)界對于完全自動駕駛誕生的時間節(jié)點(diǎn)并不樂觀的原因之一。因此，V2X一類的技術(shù)如今還難以大規(guī)模普及的情況下，純自動駕駛依然遙遙無期。

所以，未來要避免因智能駕駛功能而出現(xiàn)的事故，重點(diǎn)還是在于人類駕駛員，從技術(shù)的角度來看，DMS（駕駛員監(jiān)控系統(tǒng)）在未來的智能駕駛功能上將會處于更加重要的地位，通過判定更加敏感的DMS來及時提醒駕駛員，確保駕駛員保持對路面的專注。只是，這跟自動駕駛的初衷似乎又有點(diǎn)相違背了...

而對于目前自動駕駛的小概率缺陷，楊珉教授的這句話也引人深思：“時代的每一片雪花，落在每一個人身上都是一座大山。”