0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能的起點:神經(jīng)網(wǎng)絡和深度學習

電子設計 ? 來源:互聯(lián)網(wǎng) ? 作者:佚名 ? 2018-06-15 09:36 ? 次閱讀

一、計算機和人相互依存

當今社會,計算機在我們的生活和工作中扮演著重要的角色,人類使用計算機幫助他們進行大量的計算,通過計算機讓每個人相互通信等等。但時代的進步讓我們對計算機的要求越來越高,人類希望它能夠從事越來越復雜的工作。乍看計算機進行計算以及通信工作的原理好像很復雜難懂,實際上計算機能夠進行這些工作是因為人們已經(jīng)給它設定好了程序,計算機只要按照這些程序規(guī)范執(zhí)行就好了,這是一種單向的工作模式,這種情況下,計算機是完全不會“思考”的,只知道按程序執(zhí)行指令,而我們卻想賦予計算機思考的能力,這便是人工智能的起點。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.1


我們希望計算機“思考”什么呢?比如,我們希望計算機能夠幫我們識別出圖片中動物是貓還是狗,幫我們對于圖片中存在各種物體做標識,幫我們翻譯一段文字,或者幫我們分析一段話或者一段句子中蘊含著說話人的什么情感等等。這些工作對人類而言非常簡單,甚至一個2,3歲的孩子也完全可以很好的分辨出一張圖片中的動物是貓還是狗,但這些對于計算機而已,卻是非常困難的,因為計算機不會“思考”,它不明白什么是狗,什么是貓,除非我們訓練它去認識狗和貓,這便是后來的機器學習。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.2

二、 我們的神經(jīng)細胞

要想計算機學會“思考”,首先來看看人類是如何思考的。

生命是神奇,美妙,復雜的,這種復雜程度不知道是計算機系統(tǒng)的多少倍,人類能夠思考并從事各種各樣的復雜的工作,是因為我們身體內(nèi)部微小的神經(jīng)細胞起著作用。

神經(jīng)細胞也叫神經(jīng)元,它的功能是接受某些形式的信號并對之做出反應,比如傳導興奮、處理并儲存信息以及發(fā)生細胞之間的聯(lián)結(jié)等。正因為神經(jīng)元的這些功能,才能使得人和動物能夠?qū)ν饨绛h(huán)境的變化做出反應。毋庸置疑,越高級的動物,神經(jīng)元的個數(shù)和神經(jīng)元之間的連接越復雜。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.3

神經(jīng)元由樹突、胞體、軸突、髓鞘、神經(jīng)末梢等組成。樹突接受信息,并轉(zhuǎn)換成電信號,軸突傳輸電信號及處理等,神經(jīng)末梢對信息進行反應。一個神經(jīng)元完成了一個簡單的信息接收,處理,輸出的基本動作。人工智能專家們就從這里得到啟發(fā),開始了人工智能模型——“神經(jīng)網(wǎng)絡”的研究。

三、人造神經(jīng)元

哲學告訴我們,世界上的萬物都是聯(lián)系的。生物學的神經(jīng)元啟發(fā)我們構(gòu)造了最簡單原始的“人造神經(jīng)元”。下圖中的圓就好比一個神經(jīng)元,它接受外部輸入,在圓內(nèi)進行簡單或復雜的處理后形成輸出,在神經(jīng)網(wǎng)絡中我們稱之為感知機。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.4


神經(jīng)元是人體神經(jīng)系統(tǒng)的基本結(jié)構(gòu)和功能單位,是無數(shù)個神經(jīng)元相連而成(如下圖1.1.5所示),這是一個非常復雜的網(wǎng)絡系統(tǒng)。神經(jīng)元間聯(lián)系方式是互相接觸,而不是細胞質(zhì)的互相溝通。接觸部位的結(jié)構(gòu)特化稱為突觸,通常是一個神經(jīng)元的軸突與另一個神經(jīng)元的樹突或胞體借突觸發(fā)生機能上的聯(lián)系,神經(jīng)沖動由一個神經(jīng)元通過突觸傳遞到另一個神經(jīng)元。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.5


同理,從人體神經(jīng)系統(tǒng)的構(gòu)成可以進一步創(chuàng)建更加復雜的人造神經(jīng)系統(tǒng),比如我們讓多個人造神經(jīng)元(感知機)相連接,便形成了人工智能里面聲稱的“神經(jīng)網(wǎng)絡”。如下圖所示,一個圓圈代表一個神經(jīng)元,黃色的第一層稱為輸入層,藍色的第二層稱為隱藏層,隱藏層可以有多層,綠色的第三層稱為輸出層。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.6


這僅僅是幾個神經(jīng)元相連構(gòu)成的簡單網(wǎng)絡,想想人類大腦1000億個神經(jīng)細胞錯綜復雜的關(guān)聯(lián)在一起,是何等的復雜和繁忙,它們不停在處理信號,發(fā)出信號,讓我們能夠思考和從事各種工作,如果換成上萬個人造神經(jīng)元相連,你覺得計算機可以做更加復雜的工作嗎,答案是肯定的。

四、由神經(jīng)元聯(lián)想到分類器

現(xiàn)在我們需要神經(jīng)元來幫我們處理一個信息,把10加侖(gallon)的汽油換成以升(L)為單位的汽油。對于加侖和升兩種單位,國際上有標準的換算比例,1加侖=3.785412升,我們可以用一個公式來表示,即G=3.78L或者y=3.78x,通過公式,我們可以簡單的換算就知道答案,這個難不到讀過初中的你。再仔細看看,y=3.78x不就是在坐標系中過原點的一條直線嗎?3.78是直線的斜率。

接著我們用神經(jīng)元來進行學習換算(忽略一下激活層),如下圖1.1.7,神經(jīng)元的輸入為x,我們給輸入x賦了一個權(quán)重α,最后經(jīng)過神經(jīng)元的計算,得到輸出y。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.7


在神經(jīng)元的計算中,最重要的一步是必須知道權(quán)值α,才能得到輸出y,怎么換算呢?首先,正真的值應該是37.8升,核心就是神經(jīng)元把正確答案37.8的和它預測的答案來對比著不斷學習改進!第一步,先像人一樣猜猜看,假設α=3,則神經(jīng)元預測值y′=30升。

“這與實際值有差異吧,誤差為37.8-30=7.8升;哦,我明白了!”神經(jīng)元繼續(xù)想著下一個計算。
“再計算一次我肯定能減小誤差,讓α=3.5吧”,這一次預測值為35升。
“第二次計算誤差為37.8?35=2.8升,哈哈誤差在不斷縮小,也許下一次計算就接近真實值了!”
“這次我讓α=4,哦,糟了,預測值為40升,與實際值的誤差為37.8?40=?2.2升,過了!”
“好吧,我知道怎么調(diào)整了......”

神經(jīng)元就這樣從誤差中不停的學習,最后輸出的值越來越接近真實值,這無疑是一次成功的訓練!

五、分類器

現(xiàn)在我們有兩堆豆子,豆子的特征如下表所示,我們想通過計算機預測一下哪一種是黃豆,哪一種是蠶豆。對于識別兩種不同種類的物體,人類眨巴眼就可以很容易的分辨出來,但計算機怎么分辨?是否有解決方案,答案是肯定的。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器表1.1.1


我們用坐標來直觀的可視化這些特征,如下圖1.1.8所示。兩種豆子的長寬分別落在一定值范圍內(nèi),他們有明顯的特征,分布在坐標中的不同區(qū)域。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.8


如果我們想分類這兩種豆子,最好的辦法是什么呢,當然是在中間劃一條線了!在線的上面是蠶豆,線的下面是黃豆,如下圖1.1.9所示。這樣的線在數(shù)學中是一條線性線段,在神經(jīng)網(wǎng)絡中被稱為分類器。只要計算機能給出一條最合理的分類線(最優(yōu)的分類器),那么計算機就完成了分類任務,也就意味著計算機可以認識豆子了!哈哈,居然這么簡單!

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.9


你或許會問,這種線太多了,比如下面圖1.1.10(a)就不是一個很好的分類器,它完全沒有把黃豆和蠶豆分開,圖(b)也未能把兩種豆子分開,或許圖(c)應該不錯,它把兩種豆子很明顯的分類開了,但圖(c)的分類器并不一定是最優(yōu)的分類器,一個分類器如何優(yōu)化,這取決于黃豆和蠶豆樣品輸入的特征值來刺激分類器進行不斷的優(yōu)化。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.10


怎么才能找到最優(yōu)的一條線呢?這正是分類器內(nèi)部需要做的工作,它通過一系列的計算,找出最優(yōu)的線性線段,也就是我們的最優(yōu)分類器。反觀我們的神經(jīng)系統(tǒng),人體神經(jīng)元也是通過樹突接收信號,在細胞質(zhì)中經(jīng)過處理后通過軸突傳到其他地方的,以上的人工神經(jīng)元換算加侖和升不就是這樣的嗎?

原來,神經(jīng)元和分類器如此類似!

But!這里強調(diào)一下,人體神經(jīng)系統(tǒng)中神經(jīng)元要收到信號,并不是馬上就傳導,而是要在信號刺激較達到一定閾值時候才開始處理信息并把信息傳導出去,而在人造神經(jīng)元中,信息的處理和傳播也是如此,這樣說來,神經(jīng)元并不僅僅就是第一節(jié)中圖1.1.4所示的一個圓圈,而是還有一層激活,信號達到一定閾值,激活層才能處理信息,并輸出。如下圖1.1.11所示。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.11


因此,如果把神經(jīng)元看成一個黑盒的話,這個黑盒應該包括了上圖中的第一個計算器和第二個激活層,而激活層中是些什么東東呢,下一節(jié)我們會詳細講到。

六、分類器解決所有二分類問題嗎

上面的線性分類器可以有效的進行二分類,在實際應用中我們也經(jīng)常使用到,但是這種分類器一定就很強大嗎,有沒有它完成不了的分類呢?當然,萬事萬物都有局限性,我們引入幾個邏輯門來闡明一下這種局限性。

我們曾經(jīng)在邏輯電路中學過與門,或門,與非門,或非門,異或門等幾種基本原件,如下圖1.1.12,這些原件組成的電路構(gòu)成了最早的計算機。雖然這些原件的名字聽起來太理工科了,但是我們可以換個方式來理解這些生硬的器件,比如,兒子想看動畫片,與門表示完成作業(yè)和吃完飯兩個條件均滿足才能看動畫片;或門表示,只要完成作業(yè)或者吃完飯兩個條件其中有一個滿足就可以看動畫片等等,對照表1.1.2,你可以更容易地去理解。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.12


繼續(xù)觀察這些邏輯門均有兩個輸入,一個輸出,輸入我們可以用1或0表示,輸出也可以用1或0表示,實際上計算機也就是通過0和1來處理信息的,計算機把0視為假,1視為真,并把0和1組成的一系列信息經(jīng)過處理,得到一個輸出?,F(xiàn)在,我們把這些邏輯門視為幾個邏輯函數(shù),這些函數(shù)的輸入輸出是什么關(guān)系呢,我們用下表1.1.2表示。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器表1.1.2


同時,我們把表格中前四個邏輯函數(shù)用坐標來觀察一下,規(guī)定同輸出且輸出為1的坐標用紅色表示,同輸出且輸出為0的坐標用綠色表示,如下圖1.1.13所示??梢钥吹?,所有相同的輸出均可以用一個分類器來進行分類,也意味著分類器均可以很好的學習,這是我們希望看到的,并且分類器也做得很好。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器 神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.13


緊接著我們看看最后一個邏輯函數(shù)——異或邏輯,糟糕!一個分類器根本沒辦法進行正確的分類,我們不希望看的事發(fā)生了,它無法解決這個有趣的問題,但我們希望計算機再智能一點,能夠幫助我們進行正確的分類。有解決方法嗎?仔細想想其實不難,再增加一個線性分類器怎么樣?如圖1.1.15所示,Yes!這達到了我們想要的效果。

在實際應用中,我們可能會遇到各種奇怪但有趣的問題,讓不同的分類器或者多個分類器一起工作,這是神經(jīng)網(wǎng)絡的核心思想。

神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.14 神經(jīng)網(wǎng)絡和深度學習之神經(jīng)元和分類器圖1.1.15

分類器的局限性好像與我們后續(xù)的神經(jīng)網(wǎng)絡關(guān)系不大,但事實并不是如此,因為神經(jīng)網(wǎng)絡的一個重要設計特征就來源于對這個局限性的了解。神經(jīng)網(wǎng)絡并不僅僅就是解決一些簡單的問題,實際問題會復雜很多,對于各種有趣的情況我們均討論一下,對于后續(xù)的深入學習會有很大的幫助。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經(jīng)網(wǎng)絡

    關(guān)注

    42

    文章

    4777

    瀏覽量

    100973
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47532

    瀏覽量

    239305
  • 深度學習
    +關(guān)注

    關(guān)注

    73

    文章

    5511

    瀏覽量

    121354
收藏 人收藏

    評論

    相關(guān)推薦

    人工神經(jīng)網(wǎng)絡的原理和多種神經(jīng)網(wǎng)絡架構(gòu)方法

    在上一篇文章中,我們介紹了傳統(tǒng)機器學習的基礎知識和多種算法。在本文中,我們會介紹人工神經(jīng)網(wǎng)絡的原理和多種神經(jīng)網(wǎng)絡架構(gòu)方法,供各位老師選擇。 01
    的頭像 發(fā)表于 01-09 10:24 ?190次閱讀
    <b class='flag-5'>人工</b><b class='flag-5'>神經(jīng)網(wǎng)絡</b>的原理和多種<b class='flag-5'>神經(jīng)網(wǎng)絡</b>架構(gòu)方法

    人工神經(jīng)網(wǎng)絡的案例分析

    人工神經(jīng)網(wǎng)絡(Artificial Neural Network, ANN)作為深度學習領(lǐng)域的重要分支,自20世紀80年代以來一直是人工智能
    的頭像 發(fā)表于 07-08 18:20 ?856次閱讀

    前饋神經(jīng)網(wǎng)絡的工作原理和應用

    前饋神經(jīng)網(wǎng)絡(Feedforward Neural Network, FNN),作為最基本且應用廣泛的一種人工神經(jīng)網(wǎng)絡模型,其工作原理和結(jié)構(gòu)對于理解深度
    的頭像 發(fā)表于 07-08 11:28 ?1852次閱讀

    深度神經(jīng)網(wǎng)絡與基本神經(jīng)網(wǎng)絡的區(qū)別

    在探討深度神經(jīng)網(wǎng)絡(Deep Neural Networks, DNNs)與基本神經(jīng)網(wǎng)絡(通常指傳統(tǒng)神經(jīng)網(wǎng)絡或前向神經(jīng)網(wǎng)絡)的區(qū)別時,我們需
    的頭像 發(fā)表于 07-04 13:20 ?1006次閱讀

    深度神經(jīng)網(wǎng)絡的設計方法

    深度神經(jīng)網(wǎng)絡(Deep Neural Networks, DNNs)作為人工智能領(lǐng)域的重要技術(shù)之一,通過模擬人腦神經(jīng)元之間的連接,實現(xiàn)了對復雜數(shù)據(jù)的自主
    的頭像 發(fā)表于 07-04 13:13 ?516次閱讀

    人工智能神經(jīng)網(wǎng)絡系統(tǒng)的特點

    人工智能神經(jīng)網(wǎng)絡系統(tǒng)是一種模擬人腦神經(jīng)網(wǎng)絡結(jié)構(gòu)和功能的計算模型,具有高度的自適應性、學習能力和泛化能力。本文將介紹人工智能
    的頭像 發(fā)表于 07-04 09:42 ?524次閱讀

    人工智能人工神經(jīng)網(wǎng)絡有什么區(qū)別

    人工智能是一門研究如何使計算機模擬人類智能行為的學科。它起源于20世紀40年代,當時計算機科學家們開始嘗試開發(fā)能夠模擬人類思維過程的計算機程序。人工智能的目標是通過計算機程序?qū)崿F(xiàn)對人類智能
    的頭像 發(fā)表于 07-04 09:39 ?1365次閱讀

    人工智能神經(jīng)網(wǎng)絡的結(jié)構(gòu)是什么

    人工智能神經(jīng)網(wǎng)絡是一種模擬人腦神經(jīng)網(wǎng)絡的計算模型,其結(jié)構(gòu)和功能非常復雜。 引言 人工智能神經(jīng)網(wǎng)絡是一種模擬人腦
    的頭像 發(fā)表于 07-04 09:37 ?639次閱讀

    人工智能神經(jīng)網(wǎng)絡芯片的介紹

    人工智能神經(jīng)網(wǎng)絡芯片是一類專門為深度學習神經(jīng)網(wǎng)絡算法設計的處理器。它們具有高性能、低功耗、可擴展等特點,廣泛應用于圖像識別、語音識別、自然
    的頭像 發(fā)表于 07-04 09:33 ?852次閱讀

    神經(jīng)網(wǎng)絡人工智能的關(guān)系是什么

    神經(jīng)網(wǎng)絡人工智能的關(guān)系是密不可分的。神經(jīng)網(wǎng)絡人工智能的一種重要實現(xiàn)方式,而人工智能則是神經(jīng)網(wǎng)絡
    的頭像 發(fā)表于 07-03 10:25 ?1235次閱讀

    深度學習與卷積神經(jīng)網(wǎng)絡的應用

    隨著人工智能技術(shù)的飛速發(fā)展,深度學習和卷積神經(jīng)網(wǎng)絡(Convolutional Neural Network, CNN)作為其中的重要分支,已經(jīng)在多個領(lǐng)域取得了顯著的應用成果。從圖像識
    的頭像 發(fā)表于 07-02 18:19 ?971次閱讀

    卷積神經(jīng)網(wǎng)絡和bp神經(jīng)網(wǎng)絡的區(qū)別

    化能力。隨著深度學習技術(shù)的不斷發(fā)展,神經(jīng)網(wǎng)絡已經(jīng)成為人工智能領(lǐng)域的重要技術(shù)之一。卷積神經(jīng)網(wǎng)絡和BP神經(jīng)
    的頭像 發(fā)表于 07-02 14:24 ?4535次閱讀

    深度神經(jīng)網(wǎng)絡模型cnn的基本概念、結(jié)構(gòu)及原理

    深度神經(jīng)網(wǎng)絡模型CNN(Convolutional Neural Network)是一種廣泛應用于圖像識別、視頻分析和自然語言處理等領(lǐng)域的深度學習模型。 引言
    的頭像 發(fā)表于 07-02 10:11 ?9860次閱讀

    人工神經(jīng)網(wǎng)絡的模型及其應用有哪些

    ,人工神經(jīng)網(wǎng)絡已經(jīng)發(fā)展成為機器學習人工智能領(lǐng)域的重要技術(shù)之一。本文將詳細介紹人工神經(jīng)網(wǎng)絡的模型
    的頭像 發(fā)表于 07-02 10:04 ?1146次閱讀

    神經(jīng)網(wǎng)絡人工智能的關(guān)系

    在快速發(fā)展的科技領(lǐng)域,人工智能(Artificial Intelligence, AI)和神經(jīng)網(wǎng)絡(Neural Networks)是兩個備受矚目的概念。它們之間的聯(lián)系緊密而復雜,共同推動了智能
    的頭像 發(fā)表于 07-01 14:23 ?951次閱讀