卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)和運(yùn)行原理

　　圖像特征的提取與分類一直是計(jì)算機(jī)強(qiáng)覺領(lǐng)域的一個(gè)基礎(chǔ)而重要的研究方向。卷積神經(jīng)網(wǎng)絡(luò)（ Convolutional Neural　Network，CNN）提供了一種端到端的學(xué)習(xí)模型，模型中的參數(shù)可以通過傳統(tǒng)的梯度下降方法進(jìn)行訓(xùn)練，經(jīng)過訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)能夠?qū)W習(xí)到圖像中的特征，并且完成對(duì)圖像特征的提取和分類。作為神經(jīng)網(wǎng)絡(luò)領(lǐng)域的一個(gè)重要研究分支，卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)在于其每一層的特征都由上一層的局部區(qū)域通過共享權(quán)值的卷積核激勵(lì)得到。這一特點(diǎn)使得卷積神經(jīng)網(wǎng)絡(luò)相比于其他神經(jīng)網(wǎng)絡(luò)方法更適合應(yīng)用于圖像特征的學(xué)習(xí)與表達(dá)。

　　早期的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)相對(duì)簡(jiǎn)單，如經(jīng)典的LeNet-5模型，主要應(yīng)用在手寫字符識(shí)別、圖像分類等一些相對(duì)單一的計(jì)算機(jī)視覺應(yīng)用領(lǐng)域中。隨著研究的不斷深入，卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)不斷優(yōu)化，其應(yīng)用領(lǐng)域也逐漸得到延伸。例如，卷積神經(jīng)網(wǎng)絡(luò)與深信度網(wǎng)絡(luò)（ Deep Belief Network，DBN）相結(jié)合產(chǎn)生的卷積深信度網(wǎng)絡(luò)（ Convolutional Deep Belief Network．CDBN）口1作為一種非監(jiān)督的生成模型，被成功地應(yīng)用于人臉特征提??；AlexNet在海量圖像分類領(lǐng)域取得了奕破性的成果；基于區(qū)域特征提取的R-CNN（ Regions with CNN）在目標(biāo)檢測(cè)領(lǐng)域取得了成功；全卷積網(wǎng)絡(luò)（ Fully Convolutional　Network，F(xiàn)CN）口1實(shí)現(xiàn)了端到端的圖像語義分割，并且在準(zhǔn)確率上大幅超越了傳統(tǒng)的語義分割算法。近年來，卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)研究仍然有著很高的熱度，一些具有優(yōu)秀性能的網(wǎng)絡(luò)結(jié)構(gòu)被提出哺。并且，隨著遷移學(xué)習(xí)理論在卷積神經(jīng)網(wǎng)絡(luò)上的成功應(yīng)用，卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域得到了進(jìn)一步的擴(kuò)展。卷積神經(jīng)網(wǎng)絡(luò)在各個(gè)領(lǐng)域不斷涌現(xiàn)出來的研究成果，使其成為了當(dāng)前最受關(guān)注的研究熱點(diǎn)之一。