0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從Satin到Lyra為什么微軟、谷歌都盯向音頻編解碼器?

LiveVideoStack ? 來源:LiveVideoStack ? 作者:LiveVideoStack ? 2021-05-24 15:36 ? 次閱讀

回顧今年的2月份,可以說是音頻編解碼器最為熱鬧的一個(gè)月。先是微軟宣布推出最新款由AI支持的音頻編解碼器——Satin。僅一周后,谷歌推出了用于語音壓縮的新型超低比特率音頻編解碼器——Lyra,并且Android版本已開源。在此,也非常感謝來自國(guó)內(nèi)音頻領(lǐng)域的知名業(yè)內(nèi)人士對(duì)本文發(fā)表評(píng)論及審校。

不難發(fā)現(xiàn),硅谷大佬們對(duì)音頻編解碼器的深度研發(fā)進(jìn)度已提上日程,對(duì)未來可應(yīng)用的場(chǎng)景讓人們充滿期待。值得注意的是這兩款音頻編解碼器都是基于AI的語音編碼,但它們又有各自不同的特點(diǎn)。

Satin:用于實(shí)時(shí)通信的AI音頻編解碼器 作為一款由人工智能驅(qū)動(dòng)的音頻編解碼器,Satin可以在網(wǎng)速6kbps時(shí)提供超寬頻段的語音,17kbps時(shí)提供全頻段的立體聲音樂,網(wǎng)速越高,質(zhì)量越高。

Satin旨在高丟包率下也提供良好的音頻質(zhì)量。此外,在冗余算法的改進(jìn)下,可以應(yīng)對(duì)突發(fā)丟包情況,提供更好的保護(hù)。以下是經(jīng)過改進(jìn)的彈性算法和Satin編解碼器的最終效果: SILK@6kbps,突發(fā)數(shù)據(jù)包丟失(附加6kbps的冗余) Satin@6kbps,突發(fā)數(shù)據(jù)包丟失,改進(jìn)的冗余算法(附加6kbps的冗余)

相對(duì)于Silk推出的超寬帶語音,12kHz的頻率,以24kHz的采樣率(在人類聲音超過12kHz的頻率時(shí),能量會(huì)迅速下降);Satin重新定義了超寬帶,以覆蓋16kHz的頻率,采樣率在32kHz,以提供更高的清晰度和穩(wěn)定性,而其高效的壓縮功能則可以實(shí)現(xiàn)6 kbps的超寬帶語音。

4f0e8eb2-bc62-11eb-bf61-12bb97331649.png

/ t /一詞在“ suit”一詞中的頻率分量。除了4 kHz的窄帶截止甚至8 kHz的寬帶截止以外,還有大量的能量。將能量保留在較高的頻譜分量中會(huì)導(dǎo)致聲音聽起來更加自然。 以下分別為在6kbps下,Silk窄帶和Satin超寬帶的音頻示例(建議使用耳機(jī)試聽): 為了保證在6kbps超寬帶下的語音質(zhì)量,Satin使用對(duì)語音產(chǎn)生、建模和心理聲學(xué)的深度理解來提取和編碼信號(hào)的稀疏表達(dá)。

為了進(jìn)一步降低所需的比特率,Satin只在較低的頻帶中編碼和傳輸某些參數(shù)。在解碼器上,Satin使用深層神經(jīng)網(wǎng)絡(luò)從接收到的低頻帶參數(shù)以及通過導(dǎo)線發(fā)送的最少量輔助信息中估計(jì)高頻帶參數(shù)。 雖然這種方法解決了在超低比特率下對(duì)使用超寬帶語音的最大挑戰(zhàn),但也帶來了計(jì)算復(fù)雜度的新挑戰(zhàn)。對(duì)此,微軟將重心放在對(duì)算法優(yōu)化和循環(huán)向量化等技術(shù)上,使計(jì)算復(fù)雜度降低40%,并保障能夠在所有用戶的設(shè)備上運(yùn)行。

4f31376e-bc62-11eb-bf61-12bb97331649.png

除此之外,微軟還關(guān)注到了關(guān)于Satin的丟包數(shù)據(jù)恢復(fù)能力。對(duì)此,Satin對(duì)每個(gè)數(shù)據(jù)包進(jìn)行獨(dú)立編碼,因此丟失一個(gè)數(shù)據(jù)包的效果不會(huì)影響后續(xù)數(shù)據(jù)包的質(zhì)量。編解碼器還被設(shè)計(jì)為有助于在內(nèi)部參數(shù)域中隱藏高質(zhì)量的丟包。這些功能可幫助Satin無縫處理隨機(jī)丟失,一次丟失一個(gè)或兩個(gè)數(shù)據(jù)包。

目前,Satin已被用于所有Teams和Skype兩方通話,并將很快用于Teams會(huì)議。目前,它以6-36 kbps的比特率范圍在寬帶語音模式下運(yùn)行,并且在不久的將來將擴(kuò)展為以48 kHz的最大采樣率支持全頻帶立體聲音樂。

Lyra:一款用于語音壓縮的新型超低比特率編解碼器 Lyra是由谷歌團(tuán)隊(duì)研發(fā)并已開源了Android版本。它所擁有的能力在于能在3kbps網(wǎng)絡(luò)帶寬下為用戶提供自然清晰的語音聊天,以及僅90ms延遲的情況下在從高端云服務(wù)器到中端智能手機(jī)的任何設(shè)備上運(yùn)行。(有關(guān)Lyra的詳細(xì)介紹請(qǐng)瀏覽:在3kbps的帶寬下還能清晰地語音聊天?)

對(duì)比Satin & Lyra:雖然這兩個(gè)音頻編解碼器都能夠在低比特率下進(jìn)行操作,并通過AI提供動(dòng)力,但它們有很大的不同。Lyra僅專注于窄帶,而Satin則致力于超寬帶。 另外,國(guó)內(nèi)音頻領(lǐng)域的知名業(yè)內(nèi)人士指出:“在AI Codec領(lǐng)域中,有兩種方式。一種是 end to end 也就是全AI,所以Lyra屬于全AI結(jié)構(gòu)

。而另一種是hybird結(jié)構(gòu),就是只有部分模塊才使用AI,因此Satin是hybird結(jié)構(gòu)。那么之所以現(xiàn)在才使用AI與音頻編解碼器結(jié)合,是因?yàn)樵谙嗤a率下,使用AI能夠大幅提升音頻質(zhì)量?!?/p>

相關(guān)鏈接: https://mp.weixin.qq.com/s/Y1wceNAuMO7X8Vq3NiJ_GQ https://techcommunity.microsoft.com/t5/microsoft-teams-blog/satin-microsoft-s-latest-ai-powered-audio-codec-for-real-time/ba-p/2141382 https://bloggeek.me/lyra-satin-webrtc-voice-codecs/

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 寬帶
    +關(guān)注

    關(guān)注

    4

    文章

    989

    瀏覽量

    60324
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    7030

    瀏覽量

    89039
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30896

    瀏覽量

    269110
  • 音頻編解碼器
    +關(guān)注

    關(guān)注

    4

    文章

    139

    瀏覽量

    55886

原文標(biāo)題:從Satin到Lyra 為何微軟、谷歌都盯向音頻編解碼器?

文章出處:【微信號(hào):livevideostack,微信公眾號(hào):LiveVideoStack】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    TLV320AIC28音頻編解碼器評(píng)估模塊

    電子發(fā)燒友網(wǎng)站提供《TLV320AIC28音頻編解碼器評(píng)估模塊.pdf》資料免費(fèi)下載
    發(fā)表于 12-20 16:02 ?0次下載
    TLV320AIC28<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>評(píng)估模塊

    TAS25xx編解碼器控制EVM手冊(cè)

    電子發(fā)燒友網(wǎng)站提供《TAS25xx編解碼器控制EVM手冊(cè).pdf》資料免費(fèi)下載
    發(fā)表于 12-10 14:14 ?0次下載
    TAS25xx<b class='flag-5'>編解碼器</b>控制EVM手冊(cè)

    替換ES8311,音頻編解碼器SC2601在行車記錄儀中的應(yīng)用

    替換ES8311,音頻編解碼器SC2601在行車記錄儀中的應(yīng)用
    的頭像 發(fā)表于 11-29 10:07 ?178次閱讀
    替換ES8311,<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>SC2601在行車記錄儀中的應(yīng)用

    配置I2S以編解碼器設(shè)備生成BCLK

    電子發(fā)燒友網(wǎng)站提供《配置I2S以編解碼器設(shè)備生成BCLK.pdf》資料免費(fèi)下載
    發(fā)表于 10-21 10:30 ?0次下載
    配置I2S以<b class='flag-5'>從</b><b class='flag-5'>編解碼器</b>設(shè)備生成BCLK

    TMS320F2833x與AIC23B立體聲音頻編解碼器的接口

    電子發(fā)燒友網(wǎng)站提供《TMS320F2833x與AIC23B立體聲音頻編解碼器的接口.pdf》資料免費(fèi)下載
    發(fā)表于 10-15 09:21 ?0次下載
    TMS320F2833x與AIC23B立體聲<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>的接口

    Linux上的編解碼器移植TMS320DM365預(yù)覽版

    電子發(fā)燒友網(wǎng)站提供《Linux上的編解碼器移植TMS320DM365預(yù)覽版.pdf》資料免費(fèi)下載
    發(fā)表于 10-14 10:53 ?0次下載
    Linux上的<b class='flag-5'>編解碼器</b>移植TMS320DM365預(yù)覽版

    TMS320DM365中的智能編解碼器功能

    電子發(fā)燒友網(wǎng)站提供《TMS320DM365中的智能編解碼器功能.pdf》資料免費(fèi)下載
    發(fā)表于 10-14 10:24 ?0次下載
    TMS320DM365中的智能<b class='flag-5'>編解碼器</b>功能

    音頻編解碼器和ADC中有哪些常見噪聲問題,如何幫助避免這些問題?

    音頻編解碼器和 ADC 中有哪些常見噪聲問題,如何幫助避免這些問題?
    發(fā)表于 10-10 08:09

    音頻編解碼器中的常見噪聲問題

    電子發(fā)燒友網(wǎng)站提供《音頻編解碼器中的常見噪聲問題.pdf》資料免費(fèi)下載
    發(fā)表于 10-09 10:19 ?0次下載
    <b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>中的常見噪聲問題

    帶你探索HiFi智能編解碼器的奇妙世界

    HiFi智能編解碼器就像是音頻世界的魔法師,它讓我們能聽到最真實(shí)、最動(dòng)人的聲音。無論是家庭音響、智能音箱,還是無線耳機(jī)和專業(yè)設(shè)備,這個(gè)小小的設(shè)備都能帶來巨大的音質(zhì)提升。讓我們一同期待,未來HiFi智能編解碼器為我們帶來的更多驚喜
    的頭像 發(fā)表于 07-18 17:20 ?798次閱讀
    帶你探索HiFi智能<b class='flag-5'>編解碼器</b>的奇妙世界

    音頻編解碼器AC'97電壓轉(zhuǎn)換收發(fā)數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《音頻編解碼器AC'97電壓轉(zhuǎn)換收發(fā)數(shù)據(jù)表.pdf》資料免費(fèi)下載
    發(fā)表于 05-28 10:52 ?0次下載
    <b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>AC'97電壓轉(zhuǎn)換收發(fā)<b class='flag-5'>器</b>數(shù)據(jù)表

    國(guó)產(chǎn)可編程振蕩在視頻編解碼器中的應(yīng)用,兼容SiTime

    國(guó)產(chǎn)可編程振蕩在視頻編解碼器中的應(yīng)用,兼容SiTime
    的頭像 發(fā)表于 04-17 09:39 ?1922次閱讀
    國(guó)產(chǎn)可編程振蕩<b class='flag-5'>器</b>在視頻<b class='flag-5'>編解碼器</b>中的應(yīng)用,兼容SiTime

    集成電源管理和音頻編解碼器TPS65950數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《集成電源管理和音頻編解碼器TPS65950數(shù)據(jù)表.pdf》資料免費(fèi)下載
    發(fā)表于 03-06 11:15 ?0次下載
    集成電源管理和<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>TPS65950數(shù)據(jù)表

    TPS65920和TPS65930集成電源管理/音頻編解碼器數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《TPS65920和TPS65930集成電源管理/音頻編解碼器數(shù)據(jù)表.pdf》資料免費(fèi)下載
    發(fā)表于 03-06 10:55 ?0次下載
    TPS65920和TPS65930集成電源管理/<b class='flag-5'>音頻</b><b class='flag-5'>編解碼器</b>數(shù)據(jù)表

    高性能立體聲編解碼器DA7400 數(shù)據(jù)表

    電子發(fā)燒友網(wǎng)站提供《高性能立體聲編解碼器DA7400 數(shù)據(jù)表.pdf》資料免費(fèi)下載
    發(fā)表于 02-20 10:11 ?1次下載
    高性能立體聲<b class='flag-5'>編解碼器</b>DA7400 數(shù)據(jù)表