機(jī)器學(xué)習(xí)的隨機(jī)森林算法簡介

幾個月前，我在悉尼參加了一個會議。會上fast.ai向我介紹了一門在線機(jī)器學(xué)習(xí)課程，那時候我根本沒注意。這周在Kaggle競賽尋找提高分?jǐn)?shù)的方法時，我又遇到了這門課程。我決定試一試。

這是我從第一堂課中學(xué)到的東西，這是一個1小時17分鐘的視頻，介紹了隨機(jī)森林。

課的主題是隨機(jī)森林，杰里米(講師)提供了一些基本信息以及使用Jupyter Notebook的提示和技巧。

Jeremy談到的一些重要的事情是，數(shù)據(jù)科學(xué)并不等同于軟件工程。在數(shù)據(jù)科學(xué)中，我們做的是設(shè)計模型。雖然軟件工程有自己的一套實踐，但數(shù)據(jù)科學(xué)也有自己的一套最佳實踐。

模型構(gòu)建和原型設(shè)計需要一個交互的環(huán)境，是一個迭代的過程。我們建立一個模型。然后，我們采取措施來改善它。重復(fù)直到我們對結(jié)果滿意為止。

隨機(jī)森林

我聽說過“隨機(jī)森林”這個詞，我知道它是現(xiàn)有的機(jī)器學(xué)習(xí)技術(shù)之一，但是老實說，我從來沒有想過要去了解它。我一直熱衷于更多地了解深度學(xué)習(xí)技術(shù)。

從這次演講中，我了解到隨機(jī)森林確實很棒。

它就像一個通用的機(jī)器學(xué)習(xí)技術(shù)，既可以用于回歸，也可以用于分類。這意味著你可以使用隨機(jī)森林來預(yù)測股票價格以及對給定的醫(yī)療數(shù)據(jù)樣本進(jìn)行分類。

一般來說，隨機(jī)森林模型不會過擬合，即使它會，它也很容易防止過擬合。

對于隨機(jī)森林模型，不需要單獨(dú)的驗證集。

隨機(jī)森林只有一些統(tǒng)計假設(shè)。它也不假設(shè)你的數(shù)據(jù)是正態(tài)分布的，也不假設(shè)這些關(guān)系是線性的。

它只需要很少的特征工程。

因此，如果你是機(jī)器學(xué)習(xí)的新手，它可以是一個很好的起點。

其他概念

維數(shù)詛咒是一個概念，意思是你擁有的數(shù)據(jù)特征越多，數(shù)據(jù)點就會越分散。這意味著兩點之間的距離沒有意義。

Jeremy確信，在實踐中，情況并非如此，事實上，你的數(shù)據(jù)擁有的特征越多，對模型的訓(xùn)練效果就越好。

沒有免費(fèi)午餐定理是這樣一個概念:沒有一個模型可以完美地適用于任何類型的數(shù)據(jù)。

技巧和竅門

1.你可以在Jupyter Notebook中使用!來執(zhí)行bash命令，例如。

2.在Python 3.6中追加字符串的新方法。

3.不需要離開Jupyter notebook就可以查看python函數(shù)。在函數(shù)名前使用?獲取它的文檔。

4.如果你想閱讀源代碼，可以使用??在函數(shù)名稱前。

5.通過使用tofeather方法保存處理過的數(shù)據(jù)集，將數(shù)據(jù)集以存儲在RAM中的相同格式保存到磁盤。可以使用readfeather方法從保存的文件中讀取數(shù)據(jù)。注意，為了使用這些方法，你需要安feather-format庫。