Kaggle創(chuàng)始人Goldbloom：我們是這樣做數(shù)據(jù)科學(xué)競賽的

不管是初學(xué)者還是大魔王，只要浸潤過數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)界，那么對于Kaggle一定不陌生。各路英豪在這個平臺上實(shí)戰(zhàn)練習(xí)、膜拜大神、打怪升級，用某個媒體人的一句話，“簡而言之，Kaggle 是玩數(shù)據(jù)、機(jī)器學(xué)習(xí)的開發(fā)者們展示功力、揚(yáng)名立萬的江湖?！?/p>

為什么有這么多的數(shù)據(jù)科學(xué)家會在Kaggle花這么多的時間？kaggle最著名的就是競賽了，那么具體的競賽怎么做呢？

1 月 19 日，作為Kaggle的由聯(lián)合創(chuàng)始人、首席執(zhí)行官Anthony Goldbloom在“全球新興科技峰會”中，回答了這兩個問題。

以下Anthony Goldbloom的最新演講，文摘菌做了有刪改的整理~

Kaggle聚集了大量的機(jī)器學(xué)習(xí)的專家以及大數(shù)據(jù)的專家最，截止到目前為止，差不多是有250萬人了，在演講的最開始，首先介紹一下我們在kaggle的工作。然后給大家說一下我們在kaggle學(xué)到的一些經(jīng)驗(yàn)。

具體的競賽怎么做

在Kaggle里面，我們做好幾項(xiàng)不同的工作，分別是：競賽、電腦的數(shù)據(jù)環(huán)境以及數(shù)據(jù)組的共享空間。

我們具體的競賽怎么做呢？首先就是有公司會在我們的網(wǎng)站上面提出一個問題，解決這個問題會有獎金。

有一些獎金還是非常高的。例如上圖，第一個是美國國土安全部，他們希望用算法能夠幫助識別是否有人攜帶了武器，或者是攜帶其他的一些禁帶品，他們希望這個算法更加的精準(zhǔn)一些。這非常重要，因?yàn)檫^篩率如果太低，就意味著效率會變的非常的低。所以，他們是希望能夠增加效率。

第二個是Zillow，Zillow其實(shí)就是在它的網(wǎng)站上面可以輸入自己地址，然后根據(jù)房子里面有多少的臥室，多大的房間，有多少個浴室等估算房子價值。

Zillow那個競賽，一開始他們可能和實(shí)際的房價是差了20%，然后呢，他們慢慢的調(diào)了一下算法，越來越接近正常價格。

更好的算法能夠幫助他們找到正常的價格。為了解決這個問題，他們愿意提供超過100萬美元做獎金。

其他的競賽項(xiàng)目，獎金就沒有這么多了，但是大家可以看得出來，越來越多的公司非常重視AI以及這樣的算法。

還有衛(wèi)星圖像的競賽，還有關(guān)于森林大火或者是森林減少率的圖像分析的大賽。

所以說，在kaggle里有各種各樣的問題，包括不同的行業(yè)、不同的方面，這里面非常有意思的一點(diǎn)，就是所有的問題，都可以用差不多的方法來進(jìn)行解決。當(dāng)我們有兩個數(shù)據(jù)集的時候，一個是訓(xùn)練集，一個是測試集，兩者是完全不同的。訓(xùn)練集可以看到結(jié)果，測試集看不到結(jié)果。

測試組將采用類似的數(shù)據(jù)，這樣的測試組可以幫助我們看一下算法是不是能夠達(dá)到我們的預(yù)期值。對比不同的算法結(jié)果，我們也會把不同結(jié)果的對比進(jìn)行公開。

對比提升算法準(zhǔn)確率

所以說大家可以看到，大家如果能夠把自己的結(jié)果進(jìn)行對比的話，會有更多的激勵，會把自己的算法調(diào)整的更好。

之前給大家說到的Zillow，一開始的準(zhǔn)確率還差15%，最后準(zhǔn)確率只差了5%。是不是5%就沒有辦法突破了，或者我們需要調(diào)整一些技術(shù)來彌補(bǔ)這5%。然后公司就會推出相關(guān)的競賽，找到到底是什么原因，有沒有辦法突破最后的界限。

現(xiàn)在很多的公司也非?？粗谹I，一方面幫助他們解決問題，另一方面幫助他們找到人才。我們每半年都會有競賽，我們和airbnb、Facebook聯(lián)合組織相關(guān)的競賽，幫他們找到相關(guān)的人才。

所以說，分享和學(xué)習(xí)是非常重要的，比如說你在競賽里面的排名是15名。通過公開你可以知道第一名到底怎么做的以及第一名用采用的技術(shù)。有了這些，你在下次競賽的時候就可以學(xué)習(xí)第一名所使用的技術(shù)了。

因?yàn)檫@里面有很多不同的人，這些人有可能是讀AI的博士，或者有其他的一些業(yè)余選手。但不管是什么人，他都可以在這上面展示自己。

現(xiàn)在中國已經(jīng)在社區(qū)里面規(guī)模排到第三了，第一是美國，第二大是印度。我們可以看到，有很多非常出色的競爭者都來自于中國。

Kaggle競賽解決實(shí)際問題

為什么人們會競賽，為什么公司會在kaggle網(wǎng)站上面放一些問題？

首先，競賽非常重要，雖然說所有的網(wǎng)站都是深度學(xué)習(xí)，深度學(xué)習(xí)其實(shí)是在整個AI當(dāng)中所使用的是比較小的數(shù)據(jù)組。

但對于這些問題來講，那些小的數(shù)據(jù)組能解決的問題，傳統(tǒng)的工具也可以幫助我們解決。但不管怎樣，我們一開始必須要從不同的方面進(jìn)行數(shù)據(jù)的探索，比如說我們會用數(shù)據(jù)繪制圖標(biāo)，所以說我們可以非常深入的了解數(shù)據(jù)。

在競賽里面，人們第二步就是假設(shè)，數(shù)據(jù)之間的假設(shè)，例如在預(yù)測車銷量的競賽中，最主要的是用算法預(yù)測哪一個車可能會賣的更好。

其中有一個非常重要的因素是顏色，我們有兩類：常規(guī)顏色以及非常規(guī)顏色。非常規(guī)顏色的車會比較好賣，因?yàn)楦鶕?jù)這個假設(shè)買二手車的人可能會更喜歡一些比較另類的車，并且更愛保養(yǎng)。

通過這樣的一種算法，我們也會進(jìn)行頭腦風(fēng)暴，可以幫助我們更好的搜集不同方式或者不同方向的數(shù)據(jù)。

另外，我們進(jìn)行調(diào)參，我們在進(jìn)行數(shù)據(jù)的設(shè)計(jì)之后，再次把數(shù)據(jù)放在一個數(shù)據(jù)庫當(dāng)中，再進(jìn)行分類、調(diào)參和模型融合。

其實(shí)，技術(shù)也是非常重要的，所謂的深度學(xué)習(xí)，也是競賽者經(jīng)常使用的技術(shù)。例如在圖像的識別當(dāng)中，經(jīng)常使用的卷積神經(jīng)網(wǎng)絡(luò)技術(shù)，比如說衛(wèi)星圖像還有醫(yī)學(xué)圖像、自動駕駛也經(jīng)常使用。

遷移學(xué)習(xí)解決小樣本問題

即便說是數(shù)據(jù)庫比較小的，但是我們做的還是非常的好，就是因?yàn)槲覀冇兴^的遷移學(xué)習(xí)，也就是說我們可以把一系列的學(xué)習(xí)成果轉(zhuǎn)移到其他更大范圍的規(guī)模上。

這個學(xué)習(xí)的結(jié)果得到了轉(zhuǎn)移之后，我們在進(jìn)行一些調(diào)參，即便是有一些比較小的原始的數(shù)據(jù)組，比如說對于醫(yī)學(xué)的圖像，最后這個建立的模型也還是非常準(zhǔn)確的，也可以幫助我們進(jìn)行更好的應(yīng)用。

另外，我們發(fā)現(xiàn)深度學(xué)習(xí)在其他的領(lǐng)域也做的更好，比如說現(xiàn)在我們的神經(jīng)網(wǎng)絡(luò)做的非常得的好，比如利用卷積神經(jīng)網(wǎng)絡(luò)分析醫(yī)療圖像，我們也是讓競賽者推斷這個圖片，去推斷這個人是不是有癲癇或者是有相關(guān)的一些病癥。

另外還有就是文本，因?yàn)槲谋居行蛄校粋€字之后又是一個字，所以說這也可通過神經(jīng)網(wǎng)絡(luò)進(jìn)行分析，所以說，我們在很多的問題解決方面，要判斷有哪些技術(shù)是可以應(yīng)用的，哪些技術(shù)是比較擅長的。

Kaggle競賽中最重要的特征

特征一：我們發(fā)現(xiàn)我們的這些競賽者都是非常有創(chuàng)造性的一群主體，競賽中有一些問題是需要對特征進(jìn)行相關(guān)的工程設(shè)計(jì)，所以說，在我們進(jìn)行神經(jīng)學(xué)習(xí)的時候，需要一些小辦法來尋求幫助，判斷看這個方法是不是管用，這個方法是不是能夠提高效率，從而能夠幫助我們把整體的效率提升。

特征二：我們競賽者都是非常的重視如何對自己的模型進(jìn)行測試的，大家建模之后會進(jìn)行測試，然后在進(jìn)行調(diào)參，進(jìn)行改進(jìn)......

在模型訓(xùn)練完成之后，進(jìn)入測試階段，做法是把用過的數(shù)據(jù)全部“扔掉”。然后用新的數(shù)據(jù)進(jìn)行檢驗(yàn)，也就是說我們要保證我們的算法不單單只是在原始數(shù)據(jù)上面可以做出準(zhǔn)確的預(yù)測，而且在全新的數(shù)據(jù)面也可以做同樣的結(jié)果。所以說，我們在進(jìn)行模型的測試的時候，整體的過程是非常嚴(yán)苛的。

特征三：大家的編程能力非常棒。版本的控制是非常重要的，其實(shí)對版本的控制就能夠意味著我們可以知道哪些版本更高效，哪些不能夠奏效，其實(shí)在軟件的這個領(lǐng)域當(dāng)中，很多的數(shù)據(jù)科學(xué)家以及機(jī)器學(xué)習(xí)的專家都會使用各種辦法來進(jìn)行管理，所以說他們就會知道自己在代碼在每個版本之間會有不同。

而且這也是非常重要的一個信息，讓他們知道到底哪個版本是能夠非常好的運(yùn)作，哪些不太好。