字節(jié)跳動參與的海外研究成果入選Nature子刊

近日，Nature子刊Nature Neuroscience接收了一項由字節(jié)跳動海外技術團隊與新加坡國立大學等機構合作的研究成果。Nature Neuroscience是神經(jīng)生物學領域最頂級的刊物之一。

這項研究成果首次將AI元學習引入到神經(jīng)科學及醫(yī)療領域，在臨床應用方面具有巨大潛能。

字節(jié)跳動參與的研究成果入選了Nature子刊

這里的“元學習”，是指在沒有任何人為干預的場景下，機器能自發(fā)適應環(huán)境并且進化，學會處理遇到的新任務。

而“神經(jīng)科學”，用通俗的話來說，則是一種“腦科學”。腦成像技術是其中一個重要領域。它能夠直接觀察大腦在信息處理、應對刺激時的神經(jīng)化學變化，為疾病診斷和治療提供重要參照。

腦磁共振成像

理論上，基于腦成像的機器學習模型，可以預測個人意識、情緒等可觀測特征，這種特征就叫做表型。

訓練這些模型，往往需要大規(guī)模的數(shù)據(jù)。雖然現(xiàn)在已經(jīng)有英國生物銀行（UK Biobank）等大規(guī)模人類神經(jīng)科學數(shù)據(jù)集，但是在研究臨床人群或解決重點神經(jīng)科學的問題時，小規(guī)模數(shù)據(jù)樣本依舊是常態(tài)。

在數(shù)據(jù)量有限的情況下，科學家很難訓練出一個可靠的機器學習模型來預測個人的表型，這一狀況制約了個人精準醫(yī)療。

字節(jié)跳動技術團隊發(fā)現(xiàn)，小數(shù)據(jù)集當中的某些獨特表型，可能與大規(guī)模數(shù)據(jù)集當中的某些預先存在的特定表型相關?；谶@種相關性，團隊提出名為元匹配（meta-matching）的方法。

這一方法可以將在大規(guī)模腦成像數(shù)據(jù)集上所訓練的機器學習模型，遷移到一個小規(guī)模數(shù)據(jù)集上，從而訓練出更可靠的模型，以更準確地預測新的表型。

新方法在英國生物銀行（UK Biobank）和人類連接組計劃（Human Connectome Project）的數(shù)據(jù)集上進行了測評。

HCP數(shù)據(jù)集上的表型示例

結果顯示，新方法在這兩個數(shù)據(jù)集的評估中顯示出了有效性，且準確率顯著超過經(jīng)典的KRR方法。

在BioBank測試集上性能超過經(jīng)典的KRR

在HCP小規(guī)模新數(shù)據(jù)集上顯著超過KRR

這項研究由字節(jié)跳動智創(chuàng)基礎研究團隊參與完成。

字節(jié)跳動技術團隊在從計算機視覺到自然語言處理，再到機器人等前沿探索的多個領域，均有持續(xù)投入。

2021年7月，字節(jié)跳動技術團隊研發(fā)出了針對手機端720p/1080p 35fps以內(nèi)視頻的超低功耗超分辨率算法，為數(shù)億用戶帶來高清畫質(zhì)播放體驗。

2021年8月，字節(jié)跳動AI Lab的機器翻譯技術論文當選國際頂級學術會議ACL 2021年度“最佳論文”。這是ACL成立59年以來，中國科學家團隊第二次贏得最高獎項。

2021年11月，字節(jié)跳動、約翰霍普金斯大學等機構組成的聯(lián)合團隊提出iBOT。iBOT是一種視覺大模型無監(jiān)督預訓練方法，適用于計算機視覺領域，在十幾類任務和數(shù)據(jù)集上，均達到了業(yè)界當前最高水平。

技術推陳出新，字節(jié)跳動不止。