智能駕駛該考慮“防沉迷”了？

剛好十年前的2013年7月6日，一架韓亞航空波音777客機(jī)在抵達(dá)舊金山機(jī)場(chǎng)降落時(shí)發(fā)生事故，機(jī)尾提前觸地并解體脫落，造成3名中國(guó)乘客不幸遇難。

777一直是安全紀(jì)錄較好的機(jī)型之一，這起韓亞航空214號(hào)航班空難，也確實(shí)與波音沒(méi)太大關(guān)系，而主要?dú)w咎于機(jī)組的操作不當(dāng)。

空難調(diào)查結(jié)果令人震驚，盡管機(jī)長(zhǎng)有著近1萬(wàn)小時(shí)的飛行經(jīng)驗(yàn)，但手動(dòng)駕駛飛機(jī)著陸的次數(shù)卻屈指可數(shù)。韓亞航空甚至有規(guī)定鼓勵(lì)飛行員盡可能使用自動(dòng)系統(tǒng)，而很少訓(xùn)練手動(dòng)降落。

“如果把他的飛行總時(shí)長(zhǎng)減去自動(dòng)駕駛的時(shí)間，剩下的手動(dòng)飛行經(jīng)驗(yàn)可能只有幾百個(gè)小時(shí)?！?/p>

現(xiàn)代航空早已擁有了全自動(dòng)化的降落指引系統(tǒng)，機(jī)場(chǎng)設(shè)備發(fā)出信號(hào)，引導(dǎo)飛機(jī)全自動(dòng)下降并著陸。然而在空難發(fā)生時(shí)，舊金山機(jī)場(chǎng)的自動(dòng)降落指引系統(tǒng)剛好處于暫時(shí)停用的狀態(tài)。

于是韓亞214航班必須自主降落。由于缺乏手動(dòng)駕駛經(jīng)驗(yàn)，機(jī)組做出一系列混亂操作，無(wú)意之中切斷了飛機(jī)的自動(dòng)油門(mén)，徹底失去了自動(dòng)系統(tǒng)的保護(hù)。而當(dāng)他們意識(shí)到飛機(jī)此刻全由自己掌控時(shí)，為時(shí)已晚。

韓亞214空難是一起非常經(jīng)典的“自動(dòng)化依賴”事故，它至少揭示了三個(gè)重要問(wèn)題：

1.現(xiàn)代自動(dòng)化技術(shù)提高了安全性，但隨著自動(dòng)化程度提高、自動(dòng)化系統(tǒng)增多，各個(gè)自動(dòng)控制系統(tǒng)彼此之間的邏輯關(guān)系，可能會(huì)讓操作者更加難以理解記憶，難以判斷各系統(tǒng)所處的工作狀態(tài)（如是否正常）；

2.盡管概率很小，但在自動(dòng)化系統(tǒng)中，一旦某些可能并不起眼的組成部分遭遇特殊狀況，操作者的手動(dòng)技藝就可能會(huì)是事關(guān)生死的最后保障；

3.不同公司的自動(dòng)化體系、設(shè)計(jì)理念可能存在很大差異，A公司產(chǎn)品的資深操作者切換到B公司產(chǎn)品需要重新適應(yīng)（韓亞214機(jī)長(zhǎng)更熟悉空客的自動(dòng)駕駛，但事故發(fā)生時(shí)剛轉(zhuǎn)飛波音）。

就像“AutoPilot”這個(gè)代表性的名字就來(lái)自于航空業(yè)，汽車智能輔助駕駛的發(fā)展，也可能將要面對(duì)類似的隱患。

當(dāng)極小概率走向可能

以新勢(shì)力、自主品牌為代表，智能輔助駕駛正在步入NOA領(lǐng)航輔助時(shí)代，NOA成為新的兵家必爭(zhēng)之地。今天這些領(lǐng)航輔助系統(tǒng)已經(jīng)從高速走向城市，從依賴高精地圖漸漸走向“無(wú)圖”。

覆蓋范圍越來(lái)越廣，人為干預(yù)的需求也在減少。各家都會(huì)著重宣傳“低接管率”，媒體實(shí)測(cè)時(shí)一定會(huì)注意并強(qiáng)調(diào)“XXX公里零接管”。接管率越低越安全，儼然成了默認(rèn)的共識(shí)。

當(dāng)下優(yōu)秀的NOA功能，已經(jīng)可以做到平均百公里一次級(jí)別的低接管率。在實(shí)際使用中，高速路況不乏數(shù)百公里無(wú)接管請(qǐng)求的情況，即便更復(fù)雜的城區(qū)幾十公里無(wú)需人為干預(yù)也已成為可能。

當(dāng)NOA覆蓋區(qū)域擴(kuò)大到城區(qū)，當(dāng)現(xiàn)實(shí)中較為理想路況下的接管率可能極低，甚至還出現(xiàn)了“定制化”的通勤NOA（專門(mén)針對(duì)用戶高頻通勤路線訓(xùn)練、開(kāi)通和優(yōu)化），一種概率很小但已然存在的可能性出現(xiàn)了：

假想一位剛拿到駕照的駕駛員，每天僅固定來(lái)往于一條路況簡(jiǎn)單的NOA覆蓋路線上，他完全可以上車即開(kāi)啟NOA直到抵達(dá)目的地。如果不遭遇意外，幾年如一日，理論上他完全有可能從未手動(dòng)駕駛過(guò)車輛。

那么問(wèn)題來(lái)了，假如上述情況成立，這位合法駕駛員究竟算是一位有著幾年駕齡的老手，還是一位早已丟失了基本駕駛技能的“紙上司機(jī)”呢？

（當(dāng)然肯定會(huì)有朋友想到，生活中也有不少拿了駕照多年不開(kāi)車、早已失去駕駛能力卻具備合法駕駛員身份的人。但我們不能因?yàn)橐汛嬖诘牟缓侠?，而認(rèn)為另一種不合理就是合理的，駕考一旦通過(guò)便終身有效的合理性本就存疑。）

再進(jìn)一步，就個(gè)體而言，當(dāng)這樣一位駕駛員有一天突然需要駕車前往未覆蓋區(qū)域，當(dāng)領(lǐng)航輔助行駛中某個(gè)自動(dòng)駕駛的相關(guān)部件突然失效（哪怕只是按鈕掉了），當(dāng)天氣突然惡化到輔助駕駛無(wú)法繼續(xù)工作……

一旦突發(fā)意外狀況，哪怕只是簡(jiǎn)單而本來(lái)無(wú)關(guān)痛癢的小意外，我們是否可以認(rèn)為他有能力對(duì)情況做出判斷，以及有能力安全地手動(dòng)接管呢？

當(dāng)然，以上這些極端情況疊加的概率其實(shí)很小。既需要個(gè)體出行規(guī)律的特殊性（僅通勤于固定且理想的路線），需要客觀上的運(yùn)氣，還需要該NOA確實(shí)足夠成熟，真實(shí)生活中很難滿足讓駕駛者長(zhǎng)期無(wú)手動(dòng)駕駛和手動(dòng)接管機(jī)會(huì)的條件。

但是具體事例是否有可能、有多大可能、現(xiàn)在是否已可能發(fā)生并不重要，重要的是隨著成熟度進(jìn)步和覆蓋區(qū)擴(kuò)大，城市NOA已然讓這種極端情況從“完全不可能”走向了“有極小可能，且會(huì)越來(lái)越大”。

只提供高速NOA的時(shí)代，無(wú)論接管率再低，也不可能存在駕駛員上車即開(kāi)啟領(lǐng)航輔助的情況，除非他一輩子活在高速里。

但當(dāng)覆蓋到城市，即便只覆蓋了部分城區(qū)，也讓“始終僅活動(dòng)于覆蓋范圍內(nèi)”的極端個(gè)例有了可能性。隨著城區(qū)NOA范圍擴(kuò)大，通勤NOA的出現(xiàn)，這種極端或者說(shuō)理想情況將越來(lái)越成為現(xiàn)實(shí)可能。

絕大多數(shù)或者說(shuō)幾乎所有道路環(huán)境，都不大可能始終如一地給輔助駕駛一個(gè)干凈、簡(jiǎn)單、無(wú)意外的理想環(huán)境。但如果有極少數(shù)個(gè)體，永遠(yuǎn)只在理想交通環(huán)境出行，避開(kāi)了所有corner case，這并非不可想象。

當(dāng)下潛在的具體危險(xiǎn)也許還很小，但站在現(xiàn)在設(shè)想未來(lái)，作為一個(gè)可能的方向，隨著NOA覆蓋越來(lái)越大、接管率越來(lái)越低，今天看來(lái)?xiàng)l件苛刻的極小概率事件，將會(huì)越來(lái)越不再是極小概率。

除了“多年零接管、從未手動(dòng)駕駛”這種憑空設(shè)想出的極端絕對(duì)案例之外（盡管理論上已經(jīng)可能），用相對(duì)的眼光看問(wèn)題，隨著自動(dòng)化輔助技術(shù)的發(fā)展，手動(dòng)駕駛的機(jī)會(huì)大幅減少，駕駛員正確、安全接管車輛的能力將逐漸被打上一個(gè)問(wèn)號(hào)。

輔助駕駛系統(tǒng)的接管率再低，只要不是真正的零接管，并非真正意義上的全自動(dòng)駕駛，也終究要求駕駛者擁有手動(dòng)接管即手動(dòng)駕駛的能力。

駕駛者的駕駛能力，必須要能“覆蓋”輔助駕駛的能力范圍。一個(gè)從未手動(dòng)行駛過(guò)高速公路的人，很難信任他在NOA以120km/h行駛遭遇意外導(dǎo)致系統(tǒng)突然失效的時(shí)候，有能力及時(shí)接管車輛確保安全。

我們都是概率盲

今天人們普遍視低接管率為貴，就評(píng)價(jià)技術(shù)成熟度當(dāng)然有一定道理，卻不等同于實(shí)際使用中“更安全”。自動(dòng)化程度更高意味著技術(shù)優(yōu)越性，但個(gè)體不做任何準(zhǔn)備未必能將技術(shù)優(yōu)越性轉(zhuǎn)化為現(xiàn)實(shí)收益。

“能”的范圍擴(kuò)大，當(dāng)然會(huì)帶來(lái)安全性提升的前提基礎(chǔ)；但如果“能”的范圍擴(kuò)大之后，使用者開(kāi)始忽視小概率的“不能”，后果也可能適得其反。

在全自動(dòng)駕駛遙不可期的前提下，NOA這樣的高階輔助駕駛功能依然要求駕駛者全程準(zhǔn)備接管。于是盡管低接管率客觀上提供了更安全的基礎(chǔ)，實(shí)際中取決于使用者的認(rèn)知，卻未必能體現(xiàn)為更安全。

舉個(gè)例子就好理解，假如某NOA功能的平均接管率為每十公里一次時(shí)，駕駛員多半會(huì)全神貫注以便隨時(shí)應(yīng)對(duì)意外；而當(dāng)平均接管率達(dá)到每百公里一次時(shí)，駕駛者還會(huì)時(shí)刻保持警惕嗎？每五百公里一次時(shí)呢？

即便平均接管率低至每千公里一次，假如這一次發(fā)生時(shí)駕駛者未做好接管準(zhǔn)備，其危險(xiǎn)程度也并不會(huì)因?yàn)榻庸苈实投騻€(gè)折扣。

必須指出，所謂平均接管率并不等于“大致每xx公里就會(huì)出現(xiàn)一次接管請(qǐng)求”，平均≠均等。NOA請(qǐng)求人工接管是一種隨機(jī)事件，路面發(fā)生超出NOA能力的極端情況更是隨機(jī)事件，并無(wú)任何規(guī)律可言。

只有當(dāng)樣本數(shù)量無(wú)限大的時(shí)候，只有當(dāng)行駛里程無(wú)窮多的時(shí)候，才可以認(rèn)為每一時(shí)刻需要接管的概率是相等的——這顯然不可能。所以平均接管率“xx公里”只是一個(gè)事后總結(jié)的數(shù)據(jù)，與實(shí)際使用無(wú)關(guān)。

平均接管率每百公里一次的系統(tǒng)，可能行駛幾百公里也無(wú)需人為接管，也可能下一秒種就發(fā)出警報(bào)。這既取決于路況的客觀差異，也可能受意外狀況干擾，完全不可預(yù)測(cè)。

于是可以想象一種反直覺(jué)的現(xiàn)象：接管率低、高度成熟的NOA，對(duì)安全性的影響可能是提高，但同時(shí)也可能是降低。因?yàn)楦墒斓淖詣?dòng)化系統(tǒng)在提高客觀安全性的同時(shí)，也給了人們主觀安全意識(shí)降低的機(jī)會(huì)。

今天，各家NOA突然“掉線”、做出危險(xiǎn)動(dòng)作的案例，網(wǎng)絡(luò)上已不鮮見(jiàn)。如果說(shuō)在NOA還不算可靠，駕駛者還保有一定警惕性的今天，未能及時(shí)接管的風(fēng)險(xiǎn)已然存在，那么當(dāng)NOA更加成熟、接管頻率更低，是否會(huì)有更多駕駛者對(duì)它過(guò)度信任呢？

只要NOA一天沒(méi)有進(jìn)化和被認(rèn)定為全自動(dòng)駕駛系統(tǒng)，手動(dòng)干預(yù)接管的頻率再低，其可能性也不能被個(gè)體忽略：當(dāng)后果過(guò)于嚴(yán)重，即便群體概率只有萬(wàn)分之一，一旦落在個(gè)體身上卻會(huì)成為100%。

“人類從來(lái)不是擅長(zhǎng)概率的動(dòng)物”，在流行敘事中人們往往將“風(fēng)險(xiǎn)”理解成“危險(xiǎn)”，而實(shí)際上風(fēng)險(xiǎn)更準(zhǔn)確的定義是“未知、不可預(yù)測(cè)”，可預(yù)知的危險(xiǎn)往往便不是風(fēng)險(xiǎn)。

即便風(fēng)險(xiǎn)極小，但若其后果嚴(yán)重到令人無(wú)法承受，那么這一丁點(diǎn)風(fēng)險(xiǎn)也必須加倍重視。低接管率的宣傳很容易讓人們將目光放在“風(fēng)險(xiǎn)概率極小”，而忽視掉其后果的嚴(yán)重程度是否有所減輕（并沒(méi)有）。

所以我們可以理解，哪怕NOA進(jìn)化到平均接管率低至千公里、萬(wàn)公里一次，車企們也依舊不會(huì)僅僅因此便將其稱為自動(dòng)駕駛系統(tǒng)。否則哪怕只發(fā)生一次惡性事故，其后果也足以毀掉任何一家車企。

而今天已經(jīng)打出L3招牌的車企，比如奔馳對(duì)于自家L3系統(tǒng)的使用范圍限定和權(quán)責(zé)劃分極為明確和決絕。人家并非不知道國(guó)內(nèi)NOA有多大本事、群眾喜聞樂(lè)見(jiàn)什么，但L3終究是需要車企擔(dān)責(zé)，誰(shuí)疼誰(shuí)自己會(huì)知道。

首先只在部分高速路段且限定車速（目前60km/h以下），即便真的出現(xiàn)事故也很難超過(guò)其車輛被動(dòng)安全的承受能力范圍，進(jìn)而造成人員傷亡，能用錢解決的都不是問(wèn)題。

其次進(jìn)入L3之后，駕駛者無(wú)法發(fā)出任何駕駛指令，與輔助駕駛體系完全隔絕，保證不會(huì)出現(xiàn)駕駛者錯(cuò)誤干預(yù)影響安全，于是人車責(zé)任模糊不清難以劃分的情況。

領(lǐng)航輔助的應(yīng)用和成熟，一方面——在做好了風(fēng)險(xiǎn)提示和使用規(guī)范的前提下——當(dāng)然有效提升了駕駛舒適性和安全性；另一方面，隨著覆蓋范圍的擴(kuò)大、接管請(qǐng)求的減少，讓很多過(guò)去絕無(wú)可能的小概率情況有了可能性。

在過(guò)去，任何一位駕駛員只需適度的自主駕駛，便可以保持基本駕駛技能不丟失。而未來(lái)更精進(jìn)、更成熟、能力更強(qiáng)的NOA，可能會(huì)讓駕駛者在不知不覺(jué)中丟失或顯著降低其手動(dòng)駕駛與處理突發(fā)意外的能力。

那么對(duì)于那些NOA確實(shí)極為優(yōu)秀的車企，或許應(yīng)該考慮一定的“反沉迷”措施：如果能確認(rèn)駕駛員已連續(xù)使用輔助駕駛很長(zhǎng)時(shí)間（比如上萬(wàn)公里）且一直未出現(xiàn)手動(dòng)接管的極端情況下，強(qiáng)制該駕駛員必須手動(dòng)駕駛一定時(shí)間/里程。

當(dāng)然，這并不是一個(gè)有關(guān)具體細(xì)節(jié)的建議。一方面眼下討論實(shí)現(xiàn)細(xì)節(jié)也許還為時(shí)尚早，另一方面也存在著許多現(xiàn)實(shí)問(wèn)題，像是如何區(qū)分不同駕駛員是否涉及隱私問(wèn)題、如何得知駕駛者是否曾駕駛其他車輛等等。

完美防止任何一位駕駛者因智能輔助駕駛系統(tǒng)越來(lái)越低的接管率而“忘記”如何手動(dòng)駕駛車輛，也許現(xiàn)在看來(lái)既有點(diǎn)杞人憂天，也存在很多操作細(xì)節(jié)上的難題，但我們至少可以肯定這個(gè)方向并強(qiáng)化認(rèn)知：

在真正實(shí)現(xiàn)全自動(dòng)駕駛之前，不應(yīng)坐視任何智能輔助駕駛削弱人類駕駛者手動(dòng)接管能力的可能性不管。自動(dòng)系統(tǒng)在帶來(lái)安全的同時(shí)，也可能因過(guò)度依賴而帶來(lái)新的危險(xiǎn)，這種隱患伴隨人類已久，需要被注意到