我們都知道最新的科研成果和實(shí)際商業(yè)應(yīng)用中使用的技術(shù)會(huì)有一定的距離。一面是高復(fù)雜度、特定(較簡(jiǎn)單一致)的輸入和直接量化的性能指標(biāo),另一面是資源成本的限制、為各種各樣情況考慮預(yù)案,以及評(píng)價(jià)標(biāo)準(zhǔn)要變成更高階、更綜合性的用戶(hù)滿(mǎn)意度、營(yíng)收等等。
所以實(shí)際上,即便整個(gè)計(jì)算機(jī)科學(xué)界、互聯(lián)網(wǎng)商業(yè)中大家一直對(duì)AI抱有熱情,我們能看到的使用了機(jī)器學(xué)習(xí)的商業(yè)化產(chǎn)品也并不多,高度集中在圖像處理、文本翻譯和語(yǔ)音識(shí)別幾類(lèi)任務(wù)中,具體使用的算法也往往并不是學(xué)術(shù)界內(nèi)認(rèn)為先進(jìn)的算法。
有網(wǎng)友觀察到了這樣的現(xiàn)象,在 Hacker News的問(wèn)答板塊提問(wèn)道:「學(xué)術(shù)界一直在不停地做出新的科研進(jìn)展,但是工業(yè)界好像并沒(méi)有選擇使用這些新鮮成果,包括膠囊網(wǎng)絡(luò)或者自動(dòng)網(wǎng)絡(luò)搜索方面的成果。所以說(shuō)前沿的科學(xué)技術(shù)研究和技術(shù)商業(yè)化之間就是注定有深深的鴻溝嗎?這些新研究出的模型都沒(méi)有什么可能快速商業(yè)化、變成產(chǎn)品嗎?」
曾在斯坦福大學(xué)與 UC伯克利大學(xué)學(xué)習(xí)計(jì)算機(jī)科學(xué)、在谷歌大腦團(tuán)隊(duì)實(shí)習(xí),如今身為全棧開(kāi)發(fā)工程師DennyBritz給出了一些自己的想法:
大多數(shù)科研成果帶來(lái)的提升比較有限,而新的技術(shù)要有能力帶來(lái)足夠大的提升才會(huì)被產(chǎn)業(yè)界吸收。99.9%的科研論文提出的技術(shù)都是帶來(lái)優(yōu)化指標(biāo)(評(píng)價(jià)指標(biāo),比如準(zhǔn)確率、ROCAUC、BLEU分?jǐn)?shù)等等)的小幅提升。然而表現(xiàn)提升的同時(shí)一般都伴隨著計(jì)算復(fù)雜度的提升、更高的訓(xùn)練成本、更低的模型穩(wěn)定性、代碼可維護(hù)性的挑戰(zhàn)等等。對(duì)于谷歌廣告詞搜索、谷歌翻譯之外的絕大多數(shù)企業(yè)的業(yè)務(wù)來(lái)說(shuō),只為了把某項(xiàng)優(yōu)化指標(biāo)的數(shù)字提升一點(diǎn)點(diǎn)就增加許多成本是根本劃不來(lái)的。使用一個(gè)現(xiàn)成的、經(jīng)過(guò)時(shí)間考驗(yàn)的簡(jiǎn)單、成熟、穩(wěn)定的模型要好得多,訓(xùn)練很快、維護(hù)簡(jiǎn)單。即便它們的跑分會(huì)低 1%。
學(xué)術(shù)研究一般都關(guān)心的是如何改進(jìn)模型,那么在研究中就不可以改變訓(xùn)練/測(cè)試數(shù)據(jù)。對(duì)于科研來(lái)說(shuō)這是理所當(dāng)然的,畢竟在同樣的數(shù)據(jù)上跑出來(lái)的結(jié)果才有可比性。但是在真實(shí)世界中,你可以自由地收集更多的訓(xùn)練數(shù)據(jù)、清理數(shù)據(jù)、選擇更有針對(duì)性的驗(yàn)證和測(cè)試數(shù)據(jù),等等。在大多數(shù)情況下,有更準(zhǔn)確的、更多的數(shù)據(jù)、更干凈的數(shù)據(jù),都要比換一個(gè)更強(qiáng)的模型效果更好。而且處理數(shù)據(jù)的事情也更好做,更有跡可循。所以對(duì)于產(chǎn)業(yè)界來(lái)說(shuō),他們把精力花在數(shù)據(jù)上通常更合適。
科研論文里使用的優(yōu)化指標(biāo)沒(méi)有什么能直接遷移到真實(shí)世界的商業(yè)指標(biāo)中的,而且同時(shí)有很多科研中的想法會(huì)過(guò)擬合到這些指標(biāo)和/或數(shù)據(jù)集上。比如,研究機(jī)器翻譯的論文都會(huì)優(yōu)化一個(gè)叫做「BLEU 分?jǐn)?shù)」的指標(biāo),但是真實(shí)的翻譯應(yīng)用中需要考慮的用戶(hù)滿(mǎn)意度和「用戶(hù)評(píng)分分?jǐn)?shù)」。這可就是學(xué)術(shù)科研很難優(yōu)化的了。類(lèi)似地,商業(yè)產(chǎn)品并不能直接把「ImageNet 圖像分類(lèi)準(zhǔn)確率」拿出來(lái)賣(mài),不僅模型在應(yīng)用場(chǎng)景中面對(duì)的圖像會(huì)與 ImageNet 數(shù)據(jù)集不同,用戶(hù)滿(mǎn)意度也并不直接對(duì)等于識(shí)別準(zhǔn)確率??蒲姓撐臅?huì)關(guān)心特定數(shù)據(jù)集上的特定指標(biāo)(因?yàn)檎撐木褪沁@樣評(píng)審的),但是一個(gè)模型在這個(gè)數(shù)據(jù)集上的這個(gè)指標(biāo)表現(xiàn)好,不一定它在別的數(shù)據(jù)集、別的指標(biāo)也有好的表現(xiàn)(即便數(shù)據(jù)集和指標(biāo)可能是類(lèi)似的)。實(shí)際上,即便是含有已知的錯(cuò)誤的數(shù)據(jù)集也會(huì)在科研研究中一直用下去,因?yàn)椴煌募夹g(shù)以前就是在這些數(shù)據(jù)集上比較的(雷鋒網(wǎng) AI 科技評(píng)論有篇舊文解析過(guò)ImageNet中錯(cuò)誤分類(lèi)的圖像)。而商業(yè)應(yīng)用里就不會(huì)發(fā)生這樣的事情。
對(duì)于這個(gè)問(wèn)題,你認(rèn)同提問(wèn)者的觀察嗎?你對(duì)這樣的現(xiàn)象有別的見(jiàn)解嗎?歡迎留言與我們討論。
-
互聯(lián)網(wǎng)
+關(guān)注
關(guān)注
54文章
11184瀏覽量
103781 -
計(jì)算機(jī)科學(xué)
+關(guān)注
關(guān)注
1文章
144瀏覽量
11392 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8438瀏覽量
133014
原文標(biāo)題:機(jī)器學(xué)習(xí)的最新研究成果很少轉(zhuǎn)化成商業(yè)產(chǎn)品,是真的嗎?
文章出處:【微信號(hào):worldofai,微信公眾號(hào):worldofai】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論