0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

機(jī)器學(xué)習(xí)心得總結(jié)

電子工程師 ? 來(lái)源:網(wǎng)絡(luò)整理 ? 作者:工程師姚遠(yuǎn)香 ? 2018-07-07 09:40 ? 次閱讀

接觸機(jī)器學(xué)習(xí)有一年了,是從上張敏老師的課開(kāi)始的。后來(lái)師兄推薦了一本《統(tǒng)計(jì)學(xué)習(xí)理論的本質(zhì)》,還記得第一印象覺(jué)得“統(tǒng)計(jì)”二字很奇怪。之后就漸漸習(xí)以為常了,接觸到的機(jī)器學(xué)習(xí)方法都是基于統(tǒng)計(jì)的,以至于統(tǒng)計(jì)學(xué)習(xí)與機(jī)器學(xué)習(xí)成了一個(gè)概念,以至于最近看了一些東西突然覺(jué)得自己長(zhǎng)見(jiàn)識(shí)了。

與統(tǒng)計(jì)(數(shù)字化)機(jī)器學(xué)習(xí)相對(duì)的,可以叫做符號(hào)(數(shù)學(xué)化、形式化)機(jī)器學(xué)習(xí):統(tǒng)計(jì)學(xué)習(xí)的質(zhì)料是數(shù)字,而它的質(zhì)料是符號(hào);統(tǒng)計(jì)學(xué)習(xí)學(xué)的是模型參數(shù),它學(xué)的是模型結(jié)構(gòu);統(tǒng)計(jì)學(xué)習(xí)的搜索空間是連續(xù)的,它的搜索空間是離散的。常聽(tīng)說(shuō)有基于統(tǒng)計(jì)與基于規(guī)則的區(qū)別,那么符號(hào)機(jī)器學(xué)習(xí)就是要自動(dòng)學(xué)習(xí)那些規(guī)則。如果說(shuō)統(tǒng)計(jì)機(jī)器學(xué)習(xí)是黑箱子,參數(shù)的意義難以解釋,目的只是能夠根據(jù)x輸出合理的y,那么符號(hào)機(jī)器學(xué)習(xí)的目標(biāo)就是能找出人能夠理解的對(duì)象的規(guī)律,讓人能夠直接增加對(duì)事物的認(rèn)識(shí)。

事實(shí)上唯一被保留下來(lái)的符號(hào)機(jī)器學(xué)習(xí)方法就是決策樹(shù)。他學(xué)習(xí)的就是一個(gè)離散表示的樹(shù)的結(jié)構(gòu),其分類(lèi)過(guò)程可以寫(xiě)成命題邏輯的形式,即其結(jié)果是符號(hào)的??梢钥吹揭?yàn)橥瑸闄C(jī)器學(xué)習(xí),所以也有過(guò)學(xué)習(xí)的現(xiàn)象,也有結(jié)構(gòu)風(fēng)險(xiǎn)的概念,也受著奧坎姆剃刀的審視。決策樹(shù)是自頂向下的,而符號(hào)學(xué)習(xí)中的AQ算法就是自低向上的,它期望用盡量少的規(guī)則覆蓋所有正例而不包括負(fù)例(可見(jiàn)其對(duì)噪音更敏感)。

既然有命題邏輯的學(xué)習(xí),就有謂詞邏輯的學(xué)習(xí)。FOIL系統(tǒng)是比較有名的。他可以根據(jù)某一個(gè)家族成員間滿足parent(x,y)的實(shí)例與滿足grandparent(x,y)的實(shí)例,學(xué)習(xí)到grandparent與parent這兩個(gè)謂詞形式上的關(guān)系,這樣的結(jié)果就是人類(lèi)可以理解的知識(shí)——“a是b的grandparent,就是指a是b父母的父母”。

還有個(gè)有趣的叫Bacon的系統(tǒng)。通過(guò)物理實(shí)驗(yàn)數(shù)據(jù),再次發(fā)現(xiàn)了理想氣體方程等物理定律。他與普通的回歸分析不同,因?yàn)槭孪人恢酪獢M合的是什么形式的曲線,方程的形式是他通過(guò)啟發(fā)式搜索得到的。

還有兩個(gè)理論叫粗糙集與概念格。他們的對(duì)象也是樣本與樣本的特征,目標(biāo)也是分類(lèi),跟統(tǒng)計(jì)機(jī)器學(xué)習(xí)完全一樣。他們也是要做“特征選擇”,分出哪些對(duì)分類(lèi)是必須的,哪些是可以用的,哪些是多余的。概念格有意思的地方是他給“概念”了一個(gè)形式化的定義,還包括“外延”與“內(nèi)涵”都形式化了,真是個(gè)模仿真實(shí)情況的模型玩具。之所以是玩具,因?yàn)榇植诩c概念格都太形式化了太漂亮了以至于更難與復(fù)雜的現(xiàn)實(shí)結(jié)合,比如用它來(lái)做人臉識(shí)別簡(jiǎn)直是噩夢(mèng)。不過(guò)我對(duì)他們的了解也不深入,需要更多的考察。

機(jī)器人腦識(shí)別沒(méi)聽(tīng)說(shuō)用基于規(guī)則推理的,做機(jī)器定理證明也沒(méi)聽(tīng)說(shuō)用基于統(tǒng)計(jì)的。他們一個(gè)是復(fù)雜的現(xiàn)實(shí)對(duì)象,一個(gè)是抽象的符號(hào)對(duì)象。而有趣的是自然語(yǔ)言是介于兩者之間的。

有人說(shuō)學(xué)計(jì)算機(jī)的去單獨(dú)搞生物信息學(xué)很難,必須要一個(gè)生物科班出身的給其專業(yè)知識(shí)方面的指導(dǎo),如同瞎子背瘸子。而計(jì)算語(yǔ)言學(xué)的語(yǔ)言學(xué)門(mén)檻很低,有計(jì)算機(jī)背景的很容易上手。我想符號(hào)學(xué)習(xí)對(duì)統(tǒng)計(jì)學(xué)習(xí)的啟示大概就是如此。如同目前的文本分類(lèi)、分詞的統(tǒng)計(jì)模型,都沒(méi)有使用一點(diǎn)語(yǔ)言學(xué)知識(shí)。svm,crf結(jié)構(gòu)沒(méi)有一點(diǎn)為應(yīng)對(duì)語(yǔ)言問(wèn)題而做出的專門(mén)的改動(dòng)。LDA是一個(gè)啟示,既然統(tǒng)計(jì)學(xué)習(xí)弱于結(jié)構(gòu),我們似乎就應(yīng)該考慮語(yǔ)言的本質(zhì)在模型結(jié)構(gòu)上下功夫,使其更適合語(yǔ)言問(wèn)題。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Driver IC和TFT學(xué)習(xí)心得

    Driver IC和TFT學(xué)習(xí)心得
    發(fā)表于 08-17 20:52

    嵌入式學(xué)習(xí)心得

    本帖最后由 eehome 于 2013-1-5 09:57 編輯 嵌入式學(xué)習(xí)心得
    發(fā)表于 08-20 10:22

    CAN總線學(xué)習(xí)心得--重要

    CAN總線學(xué)習(xí)心得--重要
    發(fā)表于 08-20 22:45

    寫(xiě)6周AD加強(qiáng)班學(xué)習(xí)心得 免費(fèi)領(lǐng)取鄭振宇原版書(shū)籍!

    鄭振宇A(yù)D PCB 6周強(qiáng)化班,第1周學(xué)習(xí)時(shí)間已經(jīng)差不多了,同學(xué)們學(xué)習(xí)得怎樣啦?在本周觀看視頻學(xué)習(xí)過(guò)程中,如果您有任何的學(xué)習(xí)心得體會(huì)、課程總結(jié)
    發(fā)表于 05-11 17:57

    FIFO_學(xué)習(xí)心得

    FIFO_學(xué)習(xí)心得。 FIFO_學(xué)習(xí)心得
    發(fā)表于 11-09 14:07 ?6次下載

    Driver_IC和TFT學(xué)習(xí)心得

    Driver IC和TFT學(xué)習(xí)心得 非常實(shí)用的資料
    發(fā)表于 01-12 15:40 ?0次下載

    現(xiàn)代控制理論學(xué)習(xí)心得

    現(xiàn)代控制理論學(xué)習(xí)心得
    發(fā)表于 12-20 22:18 ?0次下載

    PIC單片機(jī)的一些學(xué)習(xí)心得與總結(jié)

    PIC單片機(jī)的一些學(xué)習(xí)心得與總結(jié)
    發(fā)表于 01-14 12:33 ?12次下載

    嵌入式基礎(chǔ)學(xué)習(xí)心得

    以下是我的嵌入式基礎(chǔ)學(xué)習(xí)心得,講在嵌入式基礎(chǔ)學(xué)習(xí)和實(shí)踐階段,需要注意的一些東西節(jié)和一些習(xí)慣,希望看完我的嵌入式基礎(chǔ)學(xué)習(xí)心得,會(huì)對(duì)你的嵌入式基礎(chǔ)學(xué)習(xí)有一定的幫助。
    發(fā)表于 09-18 17:36 ?2次下載

    正則表達(dá)式學(xué)習(xí)心得

    正則表達(dá)式學(xué)習(xí)心得
    發(fā)表于 10-30 08:41 ?8次下載
    正則表達(dá)式<b class='flag-5'>學(xué)習(xí)心得</b>

    嵌入式系統(tǒng)開(kāi)發(fā)學(xué)習(xí)心得體會(huì)_經(jīng)驗(yàn)總結(jié)

    本文主要介紹的是嵌入式系統(tǒng)開(kāi)發(fā)學(xué)習(xí)心得體會(huì)及經(jīng)驗(yàn)總結(jié),首先介紹了嵌入式系統(tǒng)開(kāi)發(fā)的三大關(guān)鍵點(diǎn),其次推薦了嵌入式系統(tǒng)開(kāi)發(fā)必讀的書(shū)籍,最后介紹了學(xué)習(xí)嵌入式系統(tǒng)開(kāi)發(fā)的新的體會(huì)及經(jīng)驗(yàn)總結(jié)。
    的頭像 發(fā)表于 05-18 10:24 ?3.1w次閱讀

    ARM9入門(mén)學(xué)習(xí)心得分享

    本文首先介紹了ARM9的優(yōu)勢(shì)及特點(diǎn),其次闡述了ARM9要學(xué)的內(nèi)容匯總以及書(shū)籍推薦,最后介紹了ARM9入門(mén)學(xué)習(xí)心得。
    的頭像 發(fā)表于 05-18 17:15 ?7610次閱讀

    嵌入式學(xué)習(xí)心得

    嵌入式學(xué)習(xí)心得作為嵌入式初學(xué)者,我們應(yīng)注意鞏固C語(yǔ)言的基礎(chǔ),多看,多學(xué),多調(diào)試,多看現(xiàn)象,多找問(wèn)題,多記錄。正點(diǎn)原子有很多相關(guān)視屏教程添加鏈接描述...
    發(fā)表于 10-20 12:36 ?2次下載
    嵌入式<b class='flag-5'>學(xué)習(xí)心得</b>

    單片機(jī)學(xué)習(xí)心得

    單片機(jī)學(xué)習(xí)心得1今日學(xué)習(xí)目標(biāo):復(fù)習(xí)數(shù)碼管知識(shí),整理筆記,歸納總結(jié)。總結(jié):1、重新觀看教學(xué)視頻之后,感覺(jué)自己有一些些遺忘,發(fā)現(xiàn)自己剛學(xué)的知識(shí)掌握的并不深厚–處理辦法:平時(shí)有空多看幾遍視頻
    發(fā)表于 11-14 10:06 ?2次下載
    單片機(jī)<b class='flag-5'>學(xué)習(xí)心得</b>

    學(xué)習(xí)心得學(xué)習(xí)SDRAM課程體會(huì)

    最近,有機(jī)會(huì)學(xué)習(xí)了明德?lián)PSDRAM接口設(shè)計(jì)課程,將學(xué)習(xí)心得體會(huì),用圖文的形式簡(jiǎn)單地記錄了下來(lái)。
    的頭像 發(fā)表于 12-20 10:15 ?1204次閱讀
    【<b class='flag-5'>學(xué)習(xí)心得</b>】<b class='flag-5'>學(xué)習(xí)</b>SDRAM課程體會(huì)

    電子發(fā)燒友

    中國(guó)電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會(huì)員交流學(xué)習(xí)
    • 獲取您個(gè)性化的科技前沿技術(shù)信息
    • 參加活動(dòng)獲取豐厚的禮品