卷積神經網絡（CNN）的運用與測試 - 全文

卷積神經網絡：聽起來像是生物與數學還有少量計算機科學的奇怪結合，但是這些網絡在計算機視覺領域已經造就了一些最有影響力的創(chuàng)新。2012年神經網絡開始嶄露頭角，那一年Alex Krizhevskyj在ImageNet競賽上（ImageNet可以算是競賽計算機視覺領域一年一度的“奧運會”競賽）將分類錯誤記錄從26%降低到15%，這在當時是一個相當驚人的進步。從那時起許多公司開始將深度學習應用在他們的核心服務上，如Facebook將神經網絡應用到他們的自動標注算法中，Google（谷歌）將其應用到圖片搜索里，Amazon（亞馬遜）將其應用到產品推薦服務，Pinterest將其應用到主頁個性化信息流中，Instagram也將深度學習應用到它們的圖像搜索架構中。然而最經典的，或者說最流行的神經網絡使用范例是將其用于圖像處理領域。提到圖像處理，本文主要介紹的是如何使用卷積神經網絡來進行圖像分類。
?

?

問題空間

圖像分類是將輸入圖像（貓、狗等）進行分類輸出或者將其分類成最能描述圖像特征的類別的任務。對于人類來說，認知是我們出生之后就學會的第一個技能，也是作為成年人來說非常自然和輕松的技能。我們可以毫不猶豫迅速識別出我們周圍的環(huán)境以及物體，當我們看到一張圖片或者觀察周遭環(huán)境時，大部分時間我們都能馬上對場景做出判斷并且給每個物體都打上標識，這些甚至都不需要刻意去觀察。這些技能能夠迅速識別其模式，從我們以前的經驗中做出推論，然后將其運用至不同的圖片或者環(huán)境中——這些都是我們與機器不同的地方。

輸入與輸出

當計算機看到一張圖片時（即輸入一張圖片），它所看到的是一系列的像素值。根據圖片的分辨率與大小，計算機將看到的是一個32×32×3的數字陣列（3指代的是RGB—顏色值）。我們稍微將一下這個，假設我們有一張480 x 480的JPG格式圖片，它的表達陣列即為480 x 480 x 3。這些數字中的每一個值都可以從0取到255，它描述了在這一點上的像素強度。這些數字雖然對于我們進行圖像分類時沒有任何意義，但其卻是計算機在圖像輸入時唯一獲取的數據。這個理念就是你給電腦指定相關數據排列，它將圖像是一個特定的類別的可能性進行輸出（如80—貓，15—狗，05—鳥等）。

我們希望電腦做什么

現(xiàn)在我們了解到問題是在輸入和輸出上，讓我們來考慮如何解決這個問題。我們希望電腦能做到的是在所有的給定圖像中分辨出不同的類別，它能找到那些“狗之所以是狗”或者“貓之所以是貓”的特性。這個就是在我們的頭腦中潛意識里進行認知識別的過程，當我們看到一張狗的圖像時，我們能夠將其分類因為圖像上有爪子或者四條腿等明顯的特征。以類似的方式計算機能夠進行圖像分類任務，通過尋找低層次的特征如邊緣和曲線，然后運用一系列的卷積層建立一個更抽象的概念。這是卷積神經網絡應用的一個總體概述，接下來我們來探討下細節(jié)。

生物聯(lián)系

首先要稍微普及下一點背景知識，當你第一次聽到卷積神經網絡這個詞時，你也許會想這是是不與神經科學或者生物學有關？恭喜你，猜對了一部分。卷積神經網絡的確從生物學上的視覺皮層得到啟發(fā)，視覺皮層有微小區(qū)域的細胞對于特定區(qū)域的視野是十分敏感的。

1962年，Hubel和 Wiesel發(fā)現(xiàn)大腦中的部分神經元只對一定的方向的邊緣做出回應。例如，當暴露在垂直邊緣或者一些當水平或對角線邊緣時，一些神經元才會做出回應。Hubel和 Wiesel發(fā)現(xiàn)，所有這些神經元都被架構在一個柱狀結構中，這樣的架構使它們能夠產生視覺感知。系統(tǒng)中的特定成員可以完成特定任務這種理念（神經細胞在視覺皮層中尋找特定的特征）也能很好地應用在機器學習上，這也是卷積神經網絡的基礎。

架構

對于卷曲神經網絡更詳細的介紹是將圖片通過一系列的卷積、非線性、池（采樣）、全連接層，然后得到一個輸出。正如我們前面所說的，輸出是一個類或者一個圖像類別的可能性概率?，F(xiàn)在，困難的部分是了解每一層的任務。

第一層—數學

卷積神經網絡的第一層是卷積層，第一件事是你要記住卷曲層的輸入時什么。像我們之前提到的，輸入的是一個32×32×3的系列像素值。解釋卷積層的最好方式是想象一個手電筒正在圖像的左上方進行照射，假設手電照射的區(qū)域是5 x 5的范圍。再想象下這個手電筒在輸入圖像的各個區(qū)域進行滑動。在機器學習術語中，這個手電筒叫做過濾器（有時候也稱為神經元或者核心），它照射著的區(qū)域被稱為接受場。這個過濾器也是一系列的數據（這些數據被稱為權重或者參數）。必須提到的是這個過濾器的深度必須是和輸入的深度相同（這樣才能保證數學正常工作），所以這個過濾器的尺寸是5×5×3?，F(xiàn)在，讓我們先拿第一個位置的過濾器為例。由于過濾器在輸入圖像上是滑動或卷積的，它是相乘的值在濾波器的原始圖像的像素值（又名計算元素的乘法），這些乘法全部相加（從數學上講，這將是75次乘法總和）。所以現(xiàn)在你有一個數字。請記住，這個數字只是當過濾器在圖像的左上角時才有代表性，現(xiàn)在我們在每一個位置上重復這個過程。（下一步將過濾器移動到右邊的1個單位，然后再向右移動1個單位，等等），每一個輸入層上獨特的位置都會產生一個數字。將過濾器滑動完所有位置的，你會發(fā)現(xiàn)剩下的是一個28×28×1的系列數字，我們稱之為激活圖或者特征圖。你得到一個28×28陣列的原因是有784個不同的位置，一個5×5的過濾器可以適配一個32×32的輸入圖像，這組784個數字可以被映射到一個28×28陣列。

目前我們使用兩個5 x 5 x 3的過濾器，我們的輸出量將是28×28×2。通過使用更多的過濾器，我們能夠更好地維持空間尺寸。在數學層面上來說，這些是在一個卷積層中進行的任務。

第一層—高階視角

讓我們從高階角度來談談這個卷積層的任務，這些過濾器中每個都可以被認為是特征標識符。當我說特征時，我說的是如直邊、簡單的顏色和曲線等。思考一下，所有的圖像都有同樣的最簡單的特征。我們的第一個過濾器是7×7×3，而且是一個曲線探測器。（在這一部分讓我們忽略一個事實，過濾器是3個單位深的，只考慮頂部過濾器的深度和圖像。）作為一個曲線檢測器，過濾器將有一個更高的數值且有曲線的形狀的像素結構（記住關于這些過濾器，我們考慮的只是數字）。

現(xiàn)在，讓我們回到數學可視化部分。當我們在輸入的左上角有了這種濾波器后，它會在哪個區(qū)域的過濾器和像素值之間計算乘積?，F(xiàn)在讓我們以一個我們要分類的圖像為例，把我們的過濾器放在左上角。

記住，我們需要做的是使用圖像中的原始像素值在過濾器中進行乘積。

基本上在輸入圖像中，如果有一個形狀是類似于這種濾波器的代表曲線，那么所有的乘積累加在一起會導致較大的值！現(xiàn)在讓我們看看當我們移動我們的過濾器時會發(fā)生什么。

檢測值竟然要低得多！這是因為在圖像中沒有任何部分響應曲線檢測過濾器。記住，這個卷積層的輸出是一個激活圖。因此，在簡單的情況下一個過濾器的卷積（如果該過濾器是一個曲線檢測器），激活圖將顯示其中大部分可能是在圖片中的曲線區(qū)域。在這個例子中，我們的28×28×1激活圖左上方的值將是6600，這種高值意味著很可能是在輸入中有某種曲線導致了過濾器的激活。因為沒有任何東西在輸入使過濾器激活（或更簡單地說，在該地區(qū)的原始圖像沒有一個曲線），其在我們的激活圖右上方的值將是0。記住，這僅僅只是一個過濾器。這個過濾器將檢測線向外和右邊的曲線，我們可以有其他的曲線向左或直接到邊緣的過濾器線條。過濾器越多，激活圖越深，我們從于輸入中獲取的信息也就越多。

聲明：在這一節(jié)中描述的過濾器是簡化的，其主要目的是描述在一個卷積過程中的數學過程。在下圖中你會看到一些對訓練過的網絡中第一個卷積層的過濾器的實際顯示示例，盡管如此，主要的論據仍然是相同的。

進一步深入網絡

現(xiàn)在展示一個傳統(tǒng)的卷積神經網絡結構，還有其他層在這些層之間穿插轉換。強烈建議那些有興趣的讀者去了解他們的功能和作用，但一般來說他們提供的非線性和尺寸留存有助于提高網絡的魯棒性，同時還能控制過度擬合。一個經典的卷積神經網絡架構看起來是這樣的：

然而，最后一層是非常重要的內容，不過我們將在后面提到。讓我們退后一步，回顧一下我們目前提到的東西。我們談到了第一個卷積層的過濾器被設計用來探測。他們檢測到低階的特征如邊緣和曲線。正如想象的那樣，為了預測圖像的類型，我們需要神經網絡能夠識別更高階的特征，如手、爪子、耳朵。讓我們考慮經過第一層卷積層后網絡的輸出是什么，這將是一個28×28×3的體量（假設我們使用三個5×5×3過濾器）。當穿過另一個卷積層時，卷積層的第一輸出成為第二卷積層的輸入，這有難以視覺化想象。當我們談論第一層時，輸入的只是原始圖像。然而，當我們談論第二個卷積層時，輸入是第一層的結果激活圖（S）。因此，每一層的輸入基本上是描述某些低階特征在原始圖像中的位置?，F(xiàn)在當你應用一組過濾器（通過第二卷積層），輸出將被激活且代表更高階的特征。這些特征的類型可能是半圓（曲線和直線邊緣的組合）或方形（幾個直邊的組合）。當通過網絡、更多的卷積層，可以激活地圖，代表更多和更復雜的特征。在神經網絡的結束，可能有一些激活的過濾器，表示其在圖像中看到手寫字跡或者粉紅色的物體時等等。另一個有趣的事情是當你在網絡往更深的地方探索時，過濾器開始有越來越大的接受場，這意味著他們能夠從一個更大的區(qū)域或者更多的原始輸入量接收信息。

全連接層

現(xiàn)在我們可以檢測到這些高階特征，錦上添花的是在神經網絡的末端連接一個全連接層。這層基本上將一個輸入量（無論輸出是卷積或ReLU或池層）和輸出一個N是程序選擇類別的N維向量，具體過程如下圖所示。這個全連接層的工作方式是，它著眼于前一層的輸出（代表高階特征的激活圖），并確定哪些功能是最相關特定的類。例如如果該程序預測，一些圖像是一只狗，它在激活圖中會有高的值，代表高階特征如一個爪子或4條腿等。類似地，如果該程序是預測一些圖像是鳥的功能，它在激活圖中會有高階值，代表高階特征如如翅膀或喙等。

訓練過程

訓練工程作為神經網絡的一個部分，我之前故意沒有提到，因為它有可能是最重要的一部分。閱讀時你可能會遇到有很多問題，例如第一個卷積層中過濾器如何知道尋找邊緣和曲線？全連接層如何知道激活圖在哪里？每一層的過濾器如何知道有什么樣的值？計算機能夠調整其過濾值（或權重）的方式是通過一個稱為反向傳播的訓練過程。

在我們介紹反向傳播之前，我們必須先回顧下談談神經網絡運行所需要的是什么。在我們出生的那一刻，我們的思想是全新的，我們不知道什么是貓，什么是鳥。類似地，在卷積神經網絡開始之前，權重或過濾器的值是隨機的，過濾器并不知道去尋找邊緣和曲線，在更高階的層過濾器不知道去尋找爪子和喙。然而當我們稍微大了一點之后，我們的父母和老師給我們展示了不同的圖片和圖像，并給了我們一個相應的標簽。給圖像以標簽這個想法既是卷積神經網絡（CNNs）的訓練過程。在講到它之前，讓我們稍微介紹下我們有一個訓練集，其中有成千上萬的狗，貓和鳥類的圖像，每一個圖像有一個標簽對應它是什么動物的圖片。

反向傳播可以分為4個不同的部分：前向傳播、損失計算、反向傳播、權重更新。在前向傳播的過程中，你需要一個數字陣列為32×32×3的訓練圖像，并將其傳遞通過整個網絡。在我們的第一個訓練例子中，所有的權重或過濾器的值被隨機初始化，輸出可能是類似[.1 .1 .1 .1 .1 .1 .1 .1 .1 .1]的東西，基本上是一個不能優(yōu)先考慮任何數字的輸出。目前權重的網絡是無法尋找那些低階的功能，因此也無法對分類可能性作出任何合理的結論。這就到了反向傳播中的損失計算部分。我們現(xiàn)在使用的是訓練數據，此數據有一個圖像和一個標簽。比方說，第一個輸入的訓練圖像是一個3，則該圖像的標簽將是[ 0 0 1 0 0 0 0 0 ]。損失計算可以按許多不同的方式定義，但常見的是MSE（均方差）—?倍（實際預測）的平方。

假設變量L等于這個值，正如你想象的，對于第一組訓練圖像來說損失將是非常高的?，F(xiàn)在，讓我們更直觀地來進行思考。我們想得到一個點的預測標簽（ConvNet的輸出）作為訓練相同的訓練標簽（這意味著我們的網絡預測正確）。為了實現(xiàn)則這個，我們要盡量減少我損失量。可視化在微積分上只是一個優(yōu)化問題，我們需要找出哪些輸入是（在我們的例子中的權重）最直接導致網絡的損失（或錯誤）所在。

這是一個dL／DW的數學等價，其中W是在一個特定層的權重?，F(xiàn)在我們要做的通過網絡是執(zhí)行一個反向傳播過程，檢測哪個權重損失最大并且尋找方法來調整它們使損失降低。一旦我們將這個計算過程進行完，就可以到最后一步—權重更新。把所有的過濾器的權重進行更新，使它們在梯度方向上進行改變。

學習速率是由程序員選擇的一個參數。一個高的學習率意味著更多步驟是在權重更新部分，因此它可能需要更少的時間為最佳的權重在模型上進行收斂。然而學習率太高，可能會導致跨越太大而不夠精準達到最佳點。

前向傳播、損失計算、反向傳播、參數更新的過程也稱為一個epoch。程序會對于每一個固定數量的epoch、每個訓練圖像重復這一過程。在最后一個訓練例子中完成了參數更新后，網絡應該都訓練的足夠好了，各層的權重也應該調參正確了。

測試

最后要來測試我們的卷積神經網絡是否工作，將不同的圖片和標簽集通過卷積神經網絡，將輸出結果與真實值進行對比，即可測試出其是否正常運行。

業(yè)界如何使用卷積神經網絡

數據，數據，數據。給一個卷積神經網絡的更多的訓練數據，可以做的更多的訓練迭代，也就能實現(xiàn)更多的權重更新，對神經網絡進行更好的調參。Facebook（還有Instagram）可以使用數以億計的用戶目前的所有照片，Pinterest可以使用在其網站上的500億的信息，谷歌可以使用搜索數據，亞馬遜可以使用每天數以百萬計的產品購買數據。

現(xiàn)在你知道他們是如何使用這些的魔法了，有興趣的話可以自己嘗試一下。