波音737事故反思:自動(dòng)駕駛系統(tǒng)是否真的值得被信任?

2018年10月29日，一架載有189名乘客和機(jī)組人員的印尼獅航波音737 MAX 8客機(jī)，在起飛13分鐘后失聯(lián)，隨后被確認(rèn)在西爪哇附近海域墜毀，機(jī)上人員全部遇難。截止到目前，事故調(diào)查工作仍在進(jìn)行。

133天之后，2019年3月10日，埃塞俄比亞航空一架波音737Max 8航班從亞的斯亞貝巴起飛，6分鐘后墜毀。

機(jī)上載有149名乘客和8名機(jī)組人員，其中包含8名中國(guó)乘客，全部不幸遇難。

據(jù)報(bào)道，此次失事的是一架全新的波音飛機(jī)，四個(gè)月前才交付給該航空公司。初期調(diào)查結(jié)果表明，飛機(jī)的傳感器可能存在問(wèn)題，飛行控制計(jì)算機(jī)出現(xiàn)“數(shù)據(jù)錯(cuò)誤”。

而當(dāng)飛行員意識(shí)到這一數(shù)據(jù)錯(cuò)誤后，飛機(jī)沒(méi)有將控制權(quán)交回人類(lèi)，”人機(jī)“周旋許久，最終釀成了這一事故。

一起來(lái)看看事件經(jīng)過(guò)。

傳感器錯(cuò)誤數(shù)據(jù)釀成悲劇

一切要從波音公司最新推出的一套自動(dòng)防失速系統(tǒng)相關(guān)，該系統(tǒng)改變了波音737此前的設(shè)計(jì)，強(qiáng)調(diào)“數(shù)據(jù)搜集”和“自動(dòng)化”，簡(jiǎn)單來(lái)說(shuō)就是，波音公司在飛機(jī)探測(cè)迎角安裝了一系列傳感器。

高攻角傳感器(AOA) 可以在飛行時(shí)計(jì)算機(jī)翼在空中切割時(shí)產(chǎn)生的升力量。如果迎角太陡，升力會(huì)開(kāi)始減小，最終產(chǎn)生空氣動(dòng)力學(xué)失速，飛機(jī)無(wú)法繼續(xù)高空飛行。

波音公司為了應(yīng)付這一情況設(shè)計(jì)了一套自動(dòng)化“應(yīng)對(duì)措施”，一旦高公角傳感器收到“太陡”的迎角數(shù)據(jù)，安全系統(tǒng)會(huì)自動(dòng)給出“下壓力”，降低機(jī)頭，同時(shí)，作為警告，共軛控制器會(huì)劇烈震動(dòng)發(fā)出聲響。

一旦監(jiān)測(cè)到如果迎角探測(cè)器出了故障，MCAS就會(huì)在飛機(jī)正常飛行時(shí)候強(qiáng)行把飛機(jī)機(jī)頭往下壓，最后形成空難。

這是調(diào)查給出的印尼獅航墜海的原因。

很多人可能會(huì)困惑，那飛行員在做什么？飛機(jī)發(fā)生一系列不尋常信號(hào)后，飛行員為何沒(méi)有迅速采取補(bǔ)救措施呢？

據(jù)海外媒體WIRED報(bào)道，即便飛行員有補(bǔ)救，也無(wú)濟(jì)于事。

Flightradar24數(shù)據(jù)顯示（一個(gè)顯示飛行數(shù)據(jù)的應(yīng)用），獅行失事飛機(jī)起飛后曾經(jīng)有過(guò)突然下降的跡象，隨后又有拉升，之后消失在追蹤畫(huà)面中。也就是說(shuō)，飛行員在事故后曾進(jìn)行過(guò)手動(dòng)調(diào)節(jié)，但并沒(méi)有解除自動(dòng)控制系統(tǒng)的操控，機(jī)組與控制系統(tǒng)周旋許久，事故最終仍然沒(méi)有避免。

并且，不管是航空公司的管理層還是飛行員都不知道飛機(jī)上居然還裝了這樣一套系統(tǒng)。因此，飛行員基本沒(méi)有為應(yīng)對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)做好準(zhǔn)備。沒(méi)有經(jīng)過(guò)嚴(yán)格訓(xùn)練的飛行員，在最關(guān)鍵的幾分鐘里處理不當(dāng)，最終很容易造成飛機(jī)墜毀。

但獅行事故后，波音仍然堅(jiān)持737-MAX 8安全，僅向飛行員發(fā)布安全提醒，未有安排全線(xiàn)客機(jī)停飛維修。波音原定1月為有關(guān)自動(dòng)駕駛系統(tǒng)軟件進(jìn)行更新，但卻宣布因技術(shù)問(wèn)題等而推遲至4月。

獅航空難后，波音公司曾在推特發(fā)聲明稱(chēng)將對(duì)所有737機(jī)型進(jìn)行詳細(xì)盤(pán)查，網(wǎng)友評(píng)論“打臉”。

盡管最終調(diào)查結(jié)果還沒(méi)有出現(xiàn)，但是基于目前的數(shù)據(jù)，本次埃航失事飛機(jī)很有可能發(fā)生了和獅航一樣或者類(lèi)似的問(wèn)題，因?yàn)榕R山或者靠海復(fù)雜多變的氣候帶來(lái)對(duì)機(jī)載系統(tǒng)的嚴(yán)峻考驗(yàn)。

而此次出事的客機(jī)機(jī)型，在系統(tǒng)上很可能仍然存在相同問(wèn)題。

昨天下午，中國(guó)民航局發(fā)出通知，為確保中國(guó)民航飛行安全，要求國(guó)內(nèi)運(yùn)輸航空公司于2019年3月11日18時(shí)前暫停波音737-8飛機(jī)的商業(yè)運(yùn)行。

路透社報(bào)道截圖

這意味著，國(guó)內(nèi)航空公司所有的波音737-8必須全部停飛，此前由波音737-8執(zhí)飛的航班改換其他飛機(jī)，波音737-8何時(shí)恢復(fù)商業(yè)運(yùn)行有待民航局進(jìn)一步通知。

從飛機(jī)到飛行員，自動(dòng)化和人工操控如何平衡？

一年前，波音公司還是傳統(tǒng)企業(yè)數(shù)字化轉(zhuǎn)型的優(yōu)秀代表，其轉(zhuǎn)型進(jìn)展得到業(yè)界一致認(rèn)可。但短短半年時(shí)間，同是737 MAX 8客機(jī)卻遭遇兩次空難，并且，第一次的失事原因已明確為軟件設(shè)計(jì)缺陷。

737 MAX是波音歷史上銷(xiāo)售最快的機(jī)型，已經(jīng)累計(jì)獲得來(lái)自全世界92家客戶(hù)的4300多架訂單。737 MAX是在737的基礎(chǔ)上升級(jí)了發(fā)動(dòng)機(jī)和分離翼尖以實(shí)現(xiàn)更好的空氣動(dòng)力學(xué)性能。

波音于2017年5月開(kāi)始交付737 MAX，它的大客戶(hù)包括西南航空，美國(guó)航空，加拿大航空，印尼獅航和幾家中國(guó)航空公司。印尼獅航事故機(jī)型是787 MAX8，波音公司沒(méi)有表明其他787 MAX機(jī)型是否可能存在類(lèi)似的安全問(wèn)題。

之前，波音公司發(fā)出的公告并未要求檢查或更換傳感器或飛行控制計(jì)算機(jī)。更確切地說(shuō)，波音公司現(xiàn)在正在做的是告訴飛行員如果碰到這樣的情況應(yīng)該如何操作。正如它的公告所說(shuō)它在“指導(dǎo)航空公司如何培訓(xùn)機(jī)組人員在現(xiàn)有的條件下處理高攻角傳感器(AOA)數(shù)據(jù)錯(cuò)誤的情況?！?/p>

波音的回應(yīng)內(nèi)容基本上可以總結(jié)為：“回去重新學(xué)習(xí)！時(shí)刻告訴自己該做什么！”

但是這就意味著飛行員要無(wú)視儀器顯示的數(shù)據(jù)和機(jī)內(nèi)警報(bào)。Embry-Riddle航空大學(xué)航空科學(xué)教授Westbrooks告訴媒體：“最終的答案是設(shè)定一個(gè)確定的俯仰角和發(fā)動(dòng)機(jī)功率?！?/p>

這就需要飛行員花費(fèi)大量時(shí)間去辨別哪些數(shù)據(jù)是真實(shí)的，哪些是錯(cuò)誤的。

墜機(jī)事故調(diào)查正在進(jìn)行中，除了傳感器故障外，還可能存在其他問(wèn)題。 但事故還反應(yīng)出過(guò)度依賴(lài)自動(dòng)化系統(tǒng)的問(wèn)題。

教授Westbrooks稱(chēng)：“我們多年來(lái)一直在談?wù)擄w行員手持飛行技術(shù)的退化問(wèn)題?！?strong>由于常年依賴(lài)自動(dòng)化飛行系統(tǒng)，飛行機(jī)組人員在處理危急情況方面的培訓(xùn)不夠，更不用說(shuō)緊急情況。

數(shù)據(jù)和傳感器能給人類(lèi)更安全的世界嗎？

科幻片和各種自動(dòng)駕駛愿景都在為我們描繪一個(gè)更安全的世界：再也不會(huì)有注意力不集中、不遵守交通規(guī)則的人類(lèi)駕駛員，世界將再無(wú)“車(chē)禍”、“空難”。

但是，事實(shí)似乎并非如此。

另一個(gè)例子發(fā)生在2009年，法航447航班從里約熱內(nèi)盧飛往巴黎的過(guò)程中飛機(jī)空速傳感器結(jié)冰，導(dǎo)致自動(dòng)駕駛儀斷開(kāi)連接，機(jī)組人員試圖手持飛行，但最終失敗了，飛機(jī)撞向大西洋，造成228人死亡。

結(jié)合全球首例無(wú)人車(chē)致行人死亡事件，人類(lèi)如果對(duì)AI等自動(dòng)化設(shè)備過(guò)于信賴(lài)，在汽車(chē)等具有“智能化”的設(shè)備運(yùn)行的過(guò)程中會(huì)降低警惕性，而事故往往會(huì)發(fā)生在降低警惕性的一瞬間。

雖然現(xiàn)代汽車(chē)的自動(dòng)駕駛系統(tǒng)仍然處在很初級(jí)的階段，但在航空領(lǐng)域，自動(dòng)駕駛系統(tǒng)早已大行其道，飛機(jī)的自動(dòng)駕駛系統(tǒng)，會(huì)根據(jù)預(yù)先設(shè)定好的航路，全程駕駛飛機(jī)，甚至完成降落，飛行員反而成為了輔助存在。

當(dāng)前的自動(dòng)化功設(shè)備都具有自動(dòng)糾錯(cuò)，這原來(lái)是人類(lèi)操作的不完美的補(bǔ)充。但是，這種補(bǔ)充也許會(huì)演變成一種掩蓋。人類(lèi)如果長(zhǎng)期不去做一些事情，在某些方面會(huì)因?yàn)槭栌诰毩?xí)發(fā)生“退化”。

或許自動(dòng)化設(shè)備失靈很少發(fā)生，但是一旦發(fā)生卻比一些自然災(zāi)害更加來(lái)的致命。正如事后一些的猜測(cè)：飛行員技能熟練度無(wú)法判定哪些數(shù)據(jù)是真實(shí)的，哪些是錯(cuò)誤的；又或許飛行員在處理危急情況方面的培訓(xùn)不夠等等。這說(shuō)明一切人造設(shè)備出現(xiàn)問(wèn)題，原因總是在人的身上。

我們一直在討論的是如何促進(jìn)人工智能發(fā)展，甚至做到無(wú)人值守，但是，現(xiàn)在我們有必要嚴(yán)肅的討論一下他的負(fù)面影響了。

我們接下來(lái)該以怎樣的態(tài)度面對(duì)AI以及自動(dòng)化，以及如何把握好人機(jī)結(jié)合的這個(gè)度。這一切都是智能世界到來(lái)前，我們需要面對(duì)的難題。