Waymo用AutoML自動(dòng)生成機(jī)器學(xué)習(xí)模型

Waymo十周年之際，發(fā)布了自動(dòng)駕駛機(jī)器學(xué)習(xí)模型的構(gòu)建思路，原來(lái)很多內(nèi)部機(jī)器學(xué)習(xí)架構(gòu)是由 AutoML 完成的。這種自動(dòng)機(jī)器學(xué)習(xí)算法在激光雷達(dá)分割任務(wù)中，比人工創(chuàng)建的網(wǎng)絡(luò)質(zhì)量更高。在代理端到端搜索中，甚至發(fā)現(xiàn)了卷積、池化和反卷積操作的創(chuàng)造性組合，不禁讓人感嘆算法工程師要失業(yè)？

AutoML 全稱是 Automated Machine Learning，是2014年以來(lái)，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)領(lǐng)域最炙手可熱的領(lǐng)域之一。2017年5月，谷歌在I/O大會(huì)上推出基于TensorFlow 框架下的AutoML，它可以通過(guò)神經(jīng)網(wǎng)絡(luò)來(lái)設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)，節(jié)省人工設(shè)計(jì)的時(shí)間，其對(duì)專業(yè)知識(shí)的較低，讓非機(jī)器學(xué)習(xí)專家也能輕松上手。而在近日waymo十周年上曝光，其AutoML 已經(jīng)用來(lái)設(shè)計(jì)應(yīng)用于自動(dòng)駕駛上的機(jī)器學(xué)習(xí)算法。

在Waymo，機(jī)器學(xué)習(xí)幾乎應(yīng)用在自動(dòng)駕駛系統(tǒng)的每個(gè)角落。它可以幫助無(wú)人車感知周圍環(huán)境，了解世界，預(yù)測(cè)其他人的行為方式，并預(yù)測(cè)他們的下一步行動(dòng)。

以感知為例，Waymo的系統(tǒng)采用了神經(jīng)網(wǎng)絡(luò)的組合，使無(wú)人車能夠解讀傳感器數(shù)據(jù)、識(shí)別物體，并隨著時(shí)間的推移跟蹤它們，從而對(duì)周圍的世界有一個(gè)深入的了解。這些神經(jīng)網(wǎng)絡(luò)的創(chuàng)建通常是一項(xiàng)耗時(shí)的任務(wù)，優(yōu)化神經(jīng)網(wǎng)絡(luò)架構(gòu)以實(shí)現(xiàn)在自動(dòng)駕駛汽車上運(yùn)行所需的質(zhì)量和速度是一個(gè)復(fù)雜的微調(diào)過(guò)程，需要花費(fèi)工程師數(shù)月時(shí)間完成任務(wù)。

通過(guò)與谷歌AI大腦團(tuán)隊(duì)研究人員合作，應(yīng)用AutoML將前沿研究付諸實(shí)踐，以自動(dòng)生成神經(jīng)網(wǎng)絡(luò)。更重要的是，這些最先進(jìn)的神經(jīng)網(wǎng)絡(luò)比工程師手動(dòng)微調(diào)質(zhì)量更高和速度更快。

Waymo 為了將自動(dòng)駕駛技術(shù)應(yīng)用到不同的城市和環(huán)境中，需要以極快的速度優(yōu)化現(xiàn)有模型以適應(yīng)不同的場(chǎng)景。恰好 AutoML 能夠做到這一點(diǎn)，并高效，持續(xù)地提供大量的ML解決方案。

應(yīng)用現(xiàn)有的AutoML框架進(jìn)行遷移學(xué)習(xí)

Auto ML能否為汽車生成高質(zhì)量、低延遲的神經(jīng)網(wǎng)絡(luò)?

質(zhì)量往往是衡量一個(gè)神經(jīng)網(wǎng)絡(luò)產(chǎn)生的答案的準(zhǔn)確性的標(biāo)準(zhǔn)，延遲數(shù)據(jù)決定了神經(jīng)網(wǎng)絡(luò)提供答案的速度，也稱為推理時(shí)間。由于自動(dòng)駕駛是一項(xiàng)需要無(wú)人車快速做出決定以保證安全的系統(tǒng)，因此神經(jīng)網(wǎng)絡(luò)需要保證在低延遲下進(jìn)行。運(yùn)行在Waymo無(wú)人車上的大多數(shù)網(wǎng)絡(luò)，延遲都少于10毫秒，這比部署在數(shù)千臺(tái)服務(wù)器上的數(shù)據(jù)中心中的許多網(wǎng)絡(luò)都要快。

Google AI團(tuán)隊(duì)在2018年4月發(fā)表的論文（Learning Transferable Architectures for Scalable ImageRecognition）中，能夠自動(dòng)探索超過(guò)12,000種架構(gòu)來(lái)完成 CIFAR-10 數(shù)據(jù)集的經(jīng)典圖像識(shí)別任務(wù)，其中發(fā)現(xiàn)的自我創(chuàng)建的NAS單元比手工創(chuàng)建神經(jīng)網(wǎng)絡(luò)更好。將在CIFAR-10上學(xué)到的知識(shí)轉(zhuǎn)移到自動(dòng)駕駛?cè)蝿?wù)中，它可以很好的完成語(yǔ)義分割的任務(wù)，比如將LiDAR點(diǎn)云中的每個(gè)點(diǎn)標(biāo)識(shí)為汽車，行人，樹(shù)等。

NAS單元處理神經(jīng)網(wǎng)絡(luò)中前兩個(gè)層的輸入

通過(guò)構(gòu)建一種自動(dòng)搜索算法，在卷積網(wǎng)絡(luò)架構(gòu)（CNN）中探索數(shù)百種不同的NAS單元組合，進(jìn)行 LiDAR 分割任務(wù)訓(xùn)練和評(píng)估模型。如果采用人工微調(diào)，只能探索有限數(shù)量的架構(gòu)，但通過(guò)這種方法，自動(dòng)探索了數(shù)百個(gè)。

相比人工微調(diào)優(yōu)化神經(jīng)網(wǎng)絡(luò)，AutoML輸出的神經(jīng)網(wǎng)絡(luò)做到了低延遲、高質(zhì)量效果。

初步成功后，Waymo將相同的搜索算法應(yīng)用于另外兩個(gè)與交通車道檢測(cè)和定位相關(guān)的任務(wù)，遷移學(xué)習(xí)技術(shù)也適用于這些任務(wù)，最后能夠在無(wú)人車上部署三個(gè)新訓(xùn)練和改進(jìn)的神經(jīng)網(wǎng)絡(luò)。

端到端搜索：從頭開(kāi)始搜索新的架構(gòu)

發(fā)現(xiàn)AutoML巨大潛力后，Waymo開(kāi)始思考是否可以更進(jìn)一步、更廣泛地尋找能夠提供更好結(jié)果的全新架構(gòu)。不局限于NAS單元，可以更直接地找到延遲在限定范圍內(nèi)的架構(gòu)。

進(jìn)行端到端搜索往往需要手動(dòng)探索數(shù)千個(gè)架構(gòu)，需要大量的計(jì)算成本。找到單一架構(gòu)需要在多個(gè)GPU的計(jì)算機(jī)上訓(xùn)練好幾天，這意味著搜索單個(gè)任務(wù)需要數(shù)千天的計(jì)算時(shí)間。相反，通過(guò)設(shè)計(jì)一個(gè)代理任務(wù)：一個(gè)縮小的激光雷達(dá)分割任務(wù)，可以在幾個(gè)小時(shí)內(nèi)解決。

這就意味著需要找到一個(gè)與最初的細(xì)分任務(wù)足夠相似的代理任務(wù)。在確定代理任務(wù)上的架構(gòu)質(zhì)量與原始任務(wù)上的架構(gòu)質(zhì)量之間的良好相關(guān)性之前，對(duì)幾個(gè)代理任務(wù)設(shè)計(jì)進(jìn)行試驗(yàn)。然后，啟動(dòng)一個(gè)類似于AutoML論文的搜索，完成一個(gè)端到端代理搜索。這是這個(gè)概念第一次應(yīng)用在激光雷達(dá)數(shù)據(jù)上。

代理端到端搜索：在按比例縮小的代理任務(wù)中探索數(shù)千個(gè)架構(gòu)，將100個(gè)最佳應(yīng)用程序應(yīng)用于原始任務(wù)，驗(yàn)證并部署最佳的最佳體系結(jié)構(gòu)。

通過(guò)使用幾種搜索算法，優(yōu)化質(zhì)量和延遲。查看不同類型的CNN架構(gòu)并使用不同的搜索策略，如隨機(jī)搜索和強(qiáng)化學(xué)習(xí)，能夠?yàn)榇砣蝿?wù)探索10,000多種不同的架構(gòu)。通過(guò)使用代理任務(wù)，在Google TPU集群上花費(fèi)一年多的計(jì)算時(shí)間現(xiàn)在只需要兩周時(shí)間。在NAS單元之外，我們發(fā)現(xiàn)了比以前更好的神經(jīng)網(wǎng)路，它在相同的質(zhì)量下，神經(jīng)網(wǎng)絡(luò)的延遲降低20-30%；具有更高質(zhì)量的神經(jīng)網(wǎng)絡(luò)，錯(cuò)誤率降低8-10%，與以前的架構(gòu)具有相同的延遲。

左圖展示了在一組簡(jiǎn)單的架構(gòu)上隨機(jī)搜索發(fā)現(xiàn)的大約4000個(gè)架構(gòu)。每個(gè)點(diǎn)都是一個(gè)經(jīng)過(guò)訓(xùn)練和評(píng)估的架構(gòu)。實(shí)線表示不同推理時(shí)間約束下的最佳架構(gòu)，紅點(diǎn)表示用遷移學(xué)習(xí)構(gòu)建的網(wǎng)絡(luò)的延遲和性能。在這種隨機(jī)搜索中，網(wǎng)絡(luò)學(xué)習(xí)效果不如遷移學(xué)習(xí)。右圖中，黃色和藍(lán)色的點(diǎn)表示另外兩種搜索算法的結(jié)果。黃色的是對(duì)一組精致架構(gòu)的隨機(jī)搜索。藍(lán)色的那個(gè)使用了強(qiáng)化學(xué)習(xí)，探索了6000多個(gè)架構(gòu)。它產(chǎn)生了最好的結(jié)果。這兩個(gè)額外的搜索發(fā)現(xiàn)，該網(wǎng)絡(luò)明顯優(yōu)于遷移學(xué)習(xí)的網(wǎng)絡(luò)。

在搜索中發(fā)現(xiàn)的一些架構(gòu)采用了卷積、池化和反卷積操作的創(chuàng)造性組合，如下圖所示。這些架構(gòu)最終非常適合最初的激光雷達(dá)分割任務(wù)，并將部署在Waymo的自動(dòng)駕駛汽車上。

由代理端到端搜索發(fā)現(xiàn)的一種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

Waymo與Google AI合作，應(yīng)用 AutoML 在無(wú)人駕駛上的實(shí)踐僅僅是個(gè)開(kāi)始。對(duì)于激光雷達(dá)分割任務(wù)，傳輸學(xué)習(xí)和代理端到端搜索都提供了比人工創(chuàng)建更好的網(wǎng)絡(luò)，這些機(jī)制應(yīng)用到新的任務(wù)類型上，可以改善許多其他的神經(jīng)網(wǎng)絡(luò)。這一發(fā)展為未來(lái)的ML工作開(kāi)辟了新的道路，并提高了Waymo的自動(dòng)駕駛技術(shù)的性能和能力。

看到這里是不是覺(jué)得很興奮，自己費(fèi)盡心思搭的神經(jīng)網(wǎng)路，AutoML 只需很短的時(shí)間就能得出高質(zhì)量的網(wǎng)絡(luò)結(jié)構(gòu)。當(dāng)然，目前谷歌只開(kāi)源了輕量級(jí) AutoML 框架——AdaNet。