自動(dòng)駕駛的疑點(diǎn)印證了科技的非理性繁榮

特斯拉 CEO 馬斯克對(duì)全自動(dòng)駕駛的短期實(shí)現(xiàn)，有著近乎瘋狂的執(zhí)念。最近，他又在第四季度財(cái)報(bào)的電話會(huì)議上表示，特斯拉汽車在今年年底前能實(shí)現(xiàn)全自動(dòng)駕駛，無(wú)需人類干預(yù)。

馬斯克還表示，特斯拉在高速公路上已經(jīng)可以實(shí)現(xiàn)全自動(dòng)駕駛。然而，早在 2015 年，馬斯克曾吹牛特斯拉有望在未來(lái)兩年擁有完全自動(dòng)駕駛技術(shù)。

數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的進(jìn)展讓不少創(chuàng)業(yè)公司「相信」（背后動(dòng)機(jī)各異）所謂的通用人工智能距離我們并不遙遠(yuǎn)，成功案例都被不當(dāng)夸大，由此衍生出很多不負(fù)責(zé)任的言論甚至不顧惜大眾利益（隱私、安全甚至生命）的舉措，比如自動(dòng)駕駛公司先推出軟件，卻沒(méi)有驗(yàn)證。

在這篇文章寫(xiě)于去年 8 月的文章中，作者 Vijay Kumar 以非常簡(jiǎn)練而又不失洞見(jiàn)的文字刻畫(huà)出當(dāng)前有關(guān) AI 種種「非理性繁榮」，并分析出導(dǎo)致這些現(xiàn)象的主要原因。

作者在文章最后指出，當(dāng)我們賦予物理系統(tǒng)智能，當(dāng)涉及社會(huì)大眾的信息和數(shù)據(jù)時(shí)，真正的核心問(wèn)題到底是什么。

Vijay Kumar 是誰(shuí)？他是美國(guó)賓夕法尼亞大學(xué)工程學(xué)院的 Nemirovsky Family 院長(zhǎng)，同時(shí)也任職于機(jī)械工程與應(yīng)用機(jī)械學(xué)系、計(jì)算機(jī)與信息科學(xué)系以及電子與系統(tǒng)工程系。

作為機(jī)器人與無(wú)人機(jī)領(lǐng)域的權(quán)威學(xué)者，Kumar 也是美國(guó)機(jī)械工程師學(xué)會(huì)會(huì)士、美國(guó)電氣和電子工程師協(xié)會(huì)會(huì)士、國(guó)家工程院會(huì)士。

我相信許多人還記得 1995 年的 Netscape IPO，以及四個(gè)月內(nèi)股價(jià)漲了五倍的情景。人們對(duì)技術(shù)及其影響的期望仍然很高。

而時(shí)任美聯(lián)儲(chǔ)主席的格林斯潘在美國(guó)企業(yè)研究所發(fā)表演講時(shí)，對(duì)市場(chǎng)和科技中的「非理性繁榮」提出了質(zhì)疑。

我相信，今天的科技領(lǐng)域也出現(xiàn)了類似的「非理性繁榮」。

用于癌癥篩查的革命性技術(shù)——僅刺破手指抽取千分之一的正常血量——真的可行嗎？

當(dāng)然，Theranos 讓每個(gè)人都相信這種革命性的進(jìn)步的可能性，不是因?yàn)榛瘜W(xué)領(lǐng)域的新技術(shù)，而是因?yàn)樗麄冮_(kāi)發(fā)了新的軟件和自動(dòng)化技術(shù)！

我們真的能用馬斯克 Boring 公司挖的地下通道取代洛杉磯的 800 萬(wàn)輛汽車嗎？

這種「自動(dòng)化」能讓我們以遠(yuǎn)低于正常的成本實(shí)現(xiàn)這種高速吊艙，其時(shí)速將達(dá)到 150 英里/小時(shí)，運(yùn)行費(fèi)用每次僅 1 美元——這就是 Boring 公司向洛杉磯市出售產(chǎn)品的廣告語(yǔ)。

數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的最新進(jìn)展，真的意味著通用人工智能即將到來(lái)嗎？這是今天許多創(chuàng)業(yè)公司所堅(jiān)信的。

實(shí)際上，統(tǒng)計(jì)機(jī)器學(xué)習(xí)已經(jīng)取得顯著進(jìn)步，尤其是在計(jì)算機(jī)視覺(jué)和語(yǔ)音識(shí)別等領(lǐng)域，因?yàn)榛A(chǔ)神經(jīng)網(wǎng)絡(luò)可以通過(guò)足夠大、有代表性的數(shù)據(jù)集進(jìn)行訓(xùn)練。

「足夠大」意味著什么？我們還不知道。我們也不知道何為有代表性的數(shù)據(jù)集，很多有趣的案例證明了深度學(xué)習(xí)「有效」。

但是，這些成功案例都被夸大了。

在我自己的機(jī)器人技術(shù)領(lǐng)域，自動(dòng)化十分具有挑戰(zhàn)性，特別是在操作和感知-動(dòng)作循環(huán)的任務(wù)中。然而，盡管說(shuō)的天花亂墜，但現(xiàn)在最好的機(jī)器人都不如一個(gè)三歲孩子靈活。

在無(wú)人駕駛領(lǐng)域，這種非理性繁榮無(wú)處不在。

沒(méi)有多少人知道，無(wú)人駕駛汽車的首次演示是在 20 世紀(jì) 80 年代后期，在慕尼黑聯(lián)邦國(guó)防軍大學(xué)和卡內(nèi)基梅隆大學(xué)進(jìn)行的。毫無(wú)疑問(wèn)，無(wú)人駕駛會(huì)產(chǎn)生巨大的社會(huì)、經(jīng)濟(jì)和環(huán)境影響。

在過(guò)去 30 年里，這一事實(shí)以及實(shí)現(xiàn)這一愿景的技術(shù)挑戰(zhàn)吸引了一群頂尖的科學(xué)和工程人才。然而，有一個(gè)歷史問(wèn)題我們都忽略了，因?yàn)槿甓嘉茨芙鉀Q的問(wèn)題不太可能吸引到大量的私人投資。

根據(jù)最近的預(yù)測(cè)，全自動(dòng)駕駛汽車即將問(wèn)市。奧迪和特斯拉幾年前承諾說(shuō)到 2018 年可實(shí)現(xiàn)完全自主。

優(yōu)步甚至承諾，2023 年能推出由清潔能源驅(qū)動(dòng)的汽車，盡管電池技術(shù)背后的基本物理和化學(xué)知識(shí)告訴我們事實(shí)并非如此。

當(dāng)工程師提出這類想法時(shí)，令人擔(dān)憂；當(dāng)企業(yè)家利用這些想法籌集巨額資金時(shí)，更令人擔(dān)憂。

然而，最大的問(wèn)題是在如何將自動(dòng)化軟件嵌入安全系統(tǒng)當(dāng)中。

測(cè)試與日志數(shù)據(jù)、以及保證不會(huì)產(chǎn)生不必要和不安全行為的軟件驗(yàn)證之間，存在差異。我們能否只因?yàn)榈讓榆浖呀?jīng)通過(guò)十億英里的數(shù)據(jù)測(cè)試，就宣稱無(wú)人駕駛車輛安全呢？

美國(guó)國(guó)家安全委員會(huì)的統(tǒng)計(jì)數(shù)據(jù)顯示，人類平均駕駛十億英里會(huì)導(dǎo)致 12.5 人死亡。十億英里的數(shù)據(jù)集不可能被視為「足夠大」，或「有代表性」，被用來(lái)訓(xùn)練軟件以防止人員死亡。

Uber-Waymo 的案件披露了一系列文件。

這些文件揭示了一種現(xiàn)象，它優(yōu)先發(fā)布了軟件，而沒(méi)有經(jīng)過(guò)測(cè)試和驗(yàn)證。對(duì)于可以后續(xù)修正的手機(jī)系統(tǒng)，這樣可以接受，但對(duì)于汽車軟件來(lái)說(shuō)，這完全不能接受。

這種非理性繁榮，可能源于五十年前摩爾預(yù)測(cè)的計(jì)算和存儲(chǔ)技術(shù)的指數(shù)增長(zhǎng)。

十多年前，智能手機(jī)、云計(jì)算和共享汽車似乎是科幻小說(shuō)的情景，3D 打印和 DNA 測(cè)序等技術(shù)也難于登天。而如今，這些正在成為事實(shí)。

指數(shù)增長(zhǎng)的事實(shí)滋生出一種外推（extrapolation）文化。

比如，最近 Alpha Go 和 Alpha Zero 在國(guó)際象棋等棋盤(pán)游戲中取得的進(jìn)步令人難以置信。

但不幸的是，我們由此外推出這樣的結(jié)論：征服這類通用智能，只是一個(gè)時(shí)間問(wèn)題。

至少有一個(gè)觀點(diǎn)認(rèn)為，盡管摩爾定律帶來(lái)了計(jì)算力指數(shù)增長(zhǎng)，事實(shí)上，我們?cè)谥悄芾斫夥矫?，并沒(méi)有取得重大進(jìn)展。

雖然計(jì)算機(jī)在國(guó)際象棋中取得了驚人的表現(xiàn)，但在過(guò)去 30 年里，國(guó)際象棋程序的 Elo 評(píng)級(jí)只是呈線性增長(zhǎng)而已。

如果我們能夠充分利用摩爾定律，那么，國(guó)際象棋程序的表現(xiàn)應(yīng)該比 30 年前好十億倍，而不是僅僅好 30 倍。

這表明，技術(shù)的指數(shù)增長(zhǎng)可能不適用于人工智能領(lǐng)域，更不用說(shuō)能源存儲(chǔ)、生物技術(shù)、自動(dòng)化和制造業(yè)了。

不幸的是，科技上的非理性繁榮還導(dǎo)致了一個(gè)更大的問(wèn)題——學(xué)術(shù)與產(chǎn)品欺詐，這是每個(gè)工程師和計(jì)算機(jī)科學(xué)家都要警惕的。

作為專業(yè)人士，我們有責(zé)任揭露這種學(xué)術(shù)不端的行為。

當(dāng)賦予物理系統(tǒng)智能時(shí)，驗(yàn)證、安全性和責(zé)任必須是核心問(wèn)題。

事實(shí)上，對(duì)于社會(huì)中的數(shù)據(jù)和信息，公平、問(wèn)責(zé)、透明度和道德問(wèn)題（fairness、accountability、transparency、ethics，F(xiàn)ATE）也需要被解決。

好在這些好風(fēng)氣在業(yè)界和學(xué)術(shù)界中正在逐漸形成。

作為教師，我們肩負(fù)著更大的責(zé)任，因?yàn)榧夹g(shù)不再僅限于計(jì)算機(jī)科學(xué)家或工程師。

事實(shí)上，技術(shù)現(xiàn)在已成為一門(mén)新興學(xué)科。但這門(mén)學(xué)科的關(guān)鍵是要闡明技術(shù)的邊界，并警惕外推帶來(lái)的真實(shí)危險(xiǎn)。

對(duì)于每個(gè)具有創(chuàng)造性的大學(xué)生，無(wú)論是物理方面還是軟件工具，都必須對(duì)問(wèn)責(zé)制，透明度和道德責(zé)任的基本問(wèn)題保持高度警惕。

重要的是，我們要解決技術(shù)中的 FATE，不僅要在數(shù)據(jù)科學(xué)的背景下，更要通過(guò)技術(shù)實(shí)踐的設(shè)計(jì)、綜合和簡(jiǎn)化。