神經(jīng)網(wǎng)絡(luò),深度學(xué)習(xí)
語音識別技術(shù)方便于長輩們?nèi)谌牒A繑?shù)據(jù)的互聯(lián)網(wǎng)時(shí)代,成為長輩們與外界交流的一大利器。不過,千萬不要認(rèn)為在未來人工智能時(shí)代中的語音識別僅僅是單純運(yùn)用到手機(jī)聊天中的識別錄入文字。語音識別技術(shù)隨著深度學(xué)習(xí)及高性能計(jì)算的不斷發(fā)展,正逐漸從實(shí)驗(yàn)室邁向工業(yè)領(lǐng)域。
語音識別簡史
1952年,美國AT&T貝爾實(shí)驗(yàn)室開發(fā)出了第一個(gè)基于電子計(jì)算機(jī)的語音識別系統(tǒng)Audrey,其可以識別10個(gè)英文數(shù)字,準(zhǔn)確率為98%;進(jìn)入60年代,語音識別領(lǐng)域的兩大突破是線性預(yù)測編碼,以及動態(tài)時(shí)間規(guī)整技術(shù);
在60年代后期,隱馬爾可夫模型被Leonard E. Baum等人提出,HMM的提出是語音識別歷史上的一個(gè)重大突破,使當(dāng)時(shí)語音識別的錯(cuò)誤率大大降低;李開復(fù)等人則在1988年第一次實(shí)現(xiàn)了基于HMM的大詞匯量語音識別系統(tǒng)Sphinx。
另一方面,早在上世紀(jì)80年代,人工神經(jīng)網(wǎng)絡(luò)已經(jīng)被引入語音識別。起初人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)多為簡單的多層感知機(jī),但受限于當(dāng)時(shí)的計(jì)算能力以及語音數(shù)據(jù)的稀少,人工神經(jīng)網(wǎng)絡(luò)并沒有在識別率上帶來很大的提升。
近年來,隨著計(jì)算能力的提升和語音數(shù)據(jù)的增加,神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于語音識別任務(wù)中。深度神經(jīng)網(wǎng)絡(luò)技術(shù)的出現(xiàn),也進(jìn)一步提高了大規(guī)模連續(xù)語音識別的性能,目前已經(jīng)成為學(xué)術(shù)界和工業(yè)界研究的熱點(diǎn)內(nèi)容之一。
語音識別的技術(shù)支持
目前,在語音識別領(lǐng)域廣泛采用的神經(jīng)網(wǎng)絡(luò)有時(shí)延神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)以及基于長短期記憶的RNN等。
通常將這些深度神經(jīng)網(wǎng)絡(luò)模型與HMM模型結(jié)合構(gòu)建完整的聲學(xué)模型,并結(jié)合語言模型等提升語音識別性能。
在語言模型方面,雖然傳統(tǒng)的N元模型一直是主流技術(shù),但基于神經(jīng)網(wǎng)絡(luò)的語言模型從2012年開始被較為廣泛的研究,如RNN-LM、LSTM-LM等。
鑒于基于神經(jīng)網(wǎng)絡(luò)的語言模型的計(jì)算量較大,一般先利用N元模型初始化,然后再用基于神經(jīng)網(wǎng)絡(luò)的語言模型重打分,即神經(jīng)網(wǎng)絡(luò)語言模型并不直接用于解碼,而是在基線系統(tǒng)解碼結(jié)果的基礎(chǔ)上進(jìn)行得分重估。
同時(shí),RNN-CTC的出現(xiàn)使得語音識別擺脫了傳統(tǒng)方法中聲學(xué)模型、語言模型、解碼器等模塊化的束縛,通過采用對輸入輸出序列直接建模的方法,只需訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)模型即可進(jìn)行識別,因此被稱為端到端語音識別。
端到端的模型可以解決傳統(tǒng)方法中各個(gè)模型訓(xùn)練目標(biāo)不一致的問題。另外,由于實(shí)際中可獲取的文本數(shù)據(jù)比語音數(shù)據(jù)多得多,所以往往還會用文本數(shù)據(jù)訓(xùn)練一個(gè)更好的語言模型,與CTC神經(jīng)網(wǎng)絡(luò)結(jié)合使用。
深度神經(jīng)網(wǎng)絡(luò)用于人工智能應(yīng)用的問題在于其實(shí)時(shí)率等性能指標(biāo)還需有待提高,但是端到端語音識別開辟了人工智能的一個(gè)新方向,而且訓(xùn)練的過程相對簡單,因此人工智能方向上的端到端識別將會是未來的技術(shù)趨勢之一。此外人工智能再進(jìn)一步改進(jìn)網(wǎng)絡(luò)結(jié)構(gòu)、改進(jìn)訓(xùn)練方法,逐步使人工智能性能達(dá)到工業(yè)水平和要求,進(jìn)入商用階段指日可待。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4785瀏覽量
101284 -
語音識別
+關(guān)注
關(guān)注
38文章
1746瀏覽量
113019 -
人工智能
+關(guān)注
關(guān)注
1797文章
47899瀏覽量
240918
發(fā)布評論請先 登錄
相關(guān)推薦
標(biāo)貝智能語音識別在智能會議場景中的落地案例
![標(biāo)貝<b class='flag-5'>智能</b><b class='flag-5'>語音</b><b class='flag-5'>識別在</b><b class='flag-5'>智能</b>會議場景中的落地案例](https://file1.elecfans.com/web2/M00/E6/CD/wKgaomZFbauAGHl1AAAzh3hGv1M833.png)
評論