結(jié)合多新息理論的深度信念網(wǎng)絡(luò)改進(jìn)的算法

　　針對深度信念網(wǎng)絡(luò)（DBN）算法在采用反向傳播修正網(wǎng)絡(luò)的連接權(quán)值和偏置的過程中，容易產(chǎn)生梯度小、學(xué)習(xí)率低、誤差收斂速度慢等問題，提出一種結(jié)合多新息理論對標(biāo)準(zhǔn)DBN算法進(jìn)行改進(jìn)的算法，即多新息DBN（ MI-DBN）。MI-DBN算法是對標(biāo)準(zhǔn)DBN算法中反向傳播的過程重新建模，使得算法在原先只利用單個新息的情況下，擴展為能夠充分利用之前多個周期的新息，從而大幅提高誤差收斂速度。通過實驗對MI-DBN算法和其他分類算法進(jìn)行了數(shù)據(jù)集分類的比較，實驗結(jié)果表明，MI-DBN算法相較其他分類算法，其誤差收斂速度較快，而且最終對MNIST數(shù)據(jù)集和Caltechl01數(shù)據(jù)集的識別中誤差結(jié)果相對更小。
?