GMM-HMM語(yǔ)音識(shí)別原理詳解

　　本文簡(jiǎn)明講述GMM-HMM在語(yǔ)音識(shí)別上的原理，建模和測(cè)試過(guò)程。

　　1. 什么是Hidden Markov Model？

　　HMM要解決的三個(gè)問(wèn)題：

　　1） Likelihood

　　2） Decoding

　　3） Training

　　2. GMM是什么？怎樣用GMM求某一音素（phoneme）的概率？

　　3. GMM+HMM大法解決語(yǔ)音識(shí)別

　　3.1 識(shí)別

　　3.2 訓(xùn)練

　　3.2.1 Training the params of GMM

　　3.2.2 Training the params of HMM

　　====================================================================

　　1. 什么是Hidden Markov Model？

　　ANS：一個(gè)有隱節(jié)點(diǎn)（unobservable）和可見(jiàn)節(jié)點(diǎn)（visible）的馬爾科夫過(guò)程（見(jiàn)詳解）。

　　隱節(jié)點(diǎn)表示狀態(tài)，可見(jiàn)節(jié)點(diǎn)表示我們聽(tīng)到的語(yǔ)音或者看到的時(shí)序信號(hào)。

　　最開(kāi)始時(shí)，我們指定這個(gè)HMM的結(jié)構(gòu)，訓(xùn)練HMM模型時(shí)：給定n個(gè)時(shí)序信號(hào)y1...yT（訓(xùn)練樣本）， 用MLE（typically implemented in EM） 估計(jì)參數(shù)：

　　1. N個(gè)狀態(tài)的初始概率

　　2. 狀態(tài)轉(zhuǎn)移概率a

　　3. 輸出概率b

　　--------------

　　在語(yǔ)音處理中，一個(gè)word由若干phoneme（音素）組成；

　　每個(gè)HMM對(duì)應(yīng)于一個(gè)word或者音素（phoneme）

　　一個(gè)word表示成若干states，每個(gè)state表示為一個(gè)音素

　　用HMM需要解決3個(gè)問(wèn)題：

　　1） Likelihood： 一個(gè)HMM生成一串observation序列x的概率< the Forward algorithm>

　　其中，αt（sj）表示HMM在時(shí)刻t處于狀態(tài)j，且observation = {x1，。。.，xt}的概率

，

　　aij是狀態(tài)i到狀態(tài)j的轉(zhuǎn)移概率，

　　bj（xt）表示在狀態(tài)j的時(shí)候生成xt的概率，

　　2）Decoding： 給定一串observation序列x，找出最可能從屬的HMM狀態(tài)序列< the Viterbi algorithm>

　　在實(shí)際計(jì)算中會(huì)做剪枝，不是計(jì)算每個(gè)可能state序列的probability，而是用Viterbi approximation：

　　從時(shí)刻1：t，只記錄轉(zhuǎn)移概率最大的state和概率。

　　記Vt（si）為從時(shí)刻t-1的所有狀態(tài)轉(zhuǎn)移到時(shí)刻t時(shí)狀態(tài)為j的最大概率：

　　記為：從時(shí)刻t-1的哪個(gè)狀態(tài)轉(zhuǎn)移到時(shí)刻t時(shí)狀態(tài)為j的概率最大；

　　進(jìn)行Viterbi approximation過(guò)程如下：

　　然后根據(jù)記錄的最可能轉(zhuǎn)移狀態(tài)序列進(jìn)行回溯：

　　3）Training： 給定一個(gè)observation序列x，訓(xùn)練出HMM參數(shù)λ = {aij， bij} the EM （Forward-Backward） algorithm

　　這部分我們放到“3. GMM+HMM大法解決語(yǔ)音識(shí)別”中和GMM的training一起講

　　---------------------------------------------------------------------