大模型對(duì)醫(yī)療健康細(xì)分領(lǐng)域有何影響？

IEEE J-BHI預(yù)訓(xùn)練大模型用于醫(yī)療健康領(lǐng)域最新綜述

本文對(duì)近期醫(yī)療健康領(lǐng)域中的大型人工智能模型進(jìn)行了全面回顧，涵蓋了大模型的背景和它們?cè)诮】?a target="_blank">信息學(xué)各個(gè)領(lǐng)域的應(yīng)用和機(jī)遇。文章還著重討論了在醫(yī)療健康環(huán)境中開發(fā)和部署大型人工智能模型所面臨的挑戰(zhàn)，并提供了建立可信大模型的開發(fā)建議。

近年來(lái), 人工智能大模型快速發(fā)展, 它們的參數(shù)量和所用于預(yù)訓(xùn)練的數(shù)據(jù)量已達(dá)到幾百上千億級(jí)別。經(jīng)預(yù)訓(xùn)練后, 這些大模型在各種下游任務(wù)中展現(xiàn)出強(qiáng)大的通才和泛化能力。ChatGPT就是一個(gè)典型例子, 它所展現(xiàn)出來(lái)的能力令人對(duì)大模型可以為醫(yī)療健康領(lǐng)域所帶來(lái)的轉(zhuǎn)變和機(jī)遇充滿憧憬。在深度學(xué)習(xí)時(shí)代, 生物醫(yī)學(xué)和健康領(lǐng)域的研究者們已經(jīng)意識(shí)到數(shù)據(jù)的重要性，在過(guò)去10年，多模態(tài)醫(yī)療健康數(shù)據(jù)規(guī)模持續(xù)擴(kuò)大, 這為大模型在健康相關(guān)領(lǐng)域中的開發(fā)，驗(yàn)證，和新的突破奠定了基礎(chǔ)。

本文首先回顧了大型人工智能模型的背景。根據(jù)預(yù)訓(xùn)練數(shù)據(jù)的模態(tài)類別，文章將大模型歸納為三類：1）大語(yǔ)言模型Large Language Model (LLM)；2）大視覺模型Large Vision Model (LVM)；3）大多模態(tài)模型Large Multi-modal Model (LMM)。并總結(jié)了大模型的四個(gè)主要特征。

圖1 大型人工智能模型的關(guān)鍵特征: 1) 參數(shù)量規(guī)模龐大，例如對(duì)于大語(yǔ)言模型 (LLM)，它們的參數(shù)量通?？蛇_(dá)幾百上千億甚至更多) ; 2) 訓(xùn)練數(shù)據(jù)規(guī)模龐大，例如對(duì)于大視覺模型 (LVM)，它們使用的訓(xùn)練數(shù)據(jù)量可能包含數(shù)十億的圖像 ; 3) 能夠處理多模態(tài)信息; 4) 可以適應(yīng)到不同下游任務(wù)，在各任務(wù)中展現(xiàn)優(yōu)異泛化能力，比如在zero-shot, one-shot, few-shot任務(wù)中。

文章隨后梳理討論了大模型可能帶去重大影響的7個(gè)醫(yī)療健康細(xì)分領(lǐng)域, 包括1) 生物信息學(xué); 2) 醫(yī)療診斷; 3) 醫(yī)學(xué)成像和視覺; 4) 醫(yī)療信息學(xué); 5) 醫(yī)學(xué)教育; 6) 公共衛(wèi)生 和7) 醫(yī)療機(jī)器人。同時(shí)整理了上述7個(gè)領(lǐng)域內(nèi)典型的大模型和以往專才模型在模型大小和特定任務(wù)上的性能比較。

圖2 大模型和以往專才模型在參數(shù)量和在不同任務(wù)上的性能比較。

文章也詳細(xì)列出了生物醫(yī)學(xué)和健康信息學(xué)中的大規(guī)模數(shù)據(jù)集，總結(jié)了現(xiàn)有主流數(shù)據(jù)集的規(guī)模，模態(tài)，對(duì)應(yīng)任務(wù)和是否開源等關(guān)鍵信息。

圖3. 生物醫(yī)學(xué)和健康信息學(xué)中的大規(guī)模數(shù)據(jù)集

從目前來(lái)看，雖然大型人工智能模型呈現(xiàn)出了非?？捎^的應(yīng)用前景，它們的發(fā)展和在生物醫(yī)學(xué)，臨床，醫(yī)療等領(lǐng)域的運(yùn)用還存在著諸多挑戰(zhàn)和潛在風(fēng)險(xiǎn)。文章也從數(shù)據(jù)，算法，可信度，隱私性，公平性，透明度，可解釋性，可持續(xù)性，規(guī)范等方面展開了討論。

圖4. 人工智能大模型在健康信息學(xué)中的未來(lái)發(fā)展方向

對(duì)于大模型在醫(yī)療健康領(lǐng)域中的未來(lái)方向，文章的討論主要集中在性能和責(zé)任兩方面。從性能方面來(lái)看，文章建議，第一應(yīng)該為健康信息學(xué)發(fā)展更好性能的人工智能大模型，比如，可以擴(kuò)大模型和數(shù)據(jù)集的規(guī)模，進(jìn)行多模態(tài)，多任務(wù)的預(yù)訓(xùn)練；第二，可以挖掘已有大型人工智能模型的潛力，比如通過(guò)prompt engineering, fine-tuning, linear probing等， 來(lái)進(jìn)一步探索它們尚未被人們知悉的能力，這些能力如果已經(jīng)被大模型掌握，僅僅是人們暫時(shí)未知，那挖掘它們可以為健康領(lǐng)域提供一種幾乎cost-free的解決方案。

除此之外，負(fù)責(zé)任的人工智能大模型對(duì)社會(huì)至關(guān)重要。文章提出開發(fā)和部署互補(bǔ)策略，以應(yīng)對(duì)大模型在可靠性、公平性、透明度等方面的挑戰(zhàn)。開發(fā)策略側(cè)重于學(xué)習(xí)負(fù)責(zé)任的大模型，而部署策略則強(qiáng)調(diào)負(fù)責(zé)任地使用大模型。

最后文章指出, 人工智能社區(qū)正在發(fā)生范式轉(zhuǎn)變, 這種范式也正逐步影響生物醫(yī)學(xué)和健康領(lǐng)域中人工智能模型的發(fā)展。新范式的目標(biāo)是在大規(guī)模的（多模態(tài)）數(shù)據(jù)集上學(xué)習(xí)一個(gè)通用的基礎(chǔ)模型, 涵蓋各種數(shù)據(jù)分布和學(xué)習(xí)任務(wù)。不同任務(wù)之間乃至不同數(shù)據(jù)模態(tài)之間的界限正在被打破。隨著通用智能和更多未知能力被挖掘和實(shí)現(xiàn), 相信大型人工智能模型將在未來(lái)更好協(xié)助而不是取代醫(yī)療專業(yè)人員和從業(yè)者。人機(jī)協(xié)作將無(wú)處不在。大型人工智能模型的發(fā)展將需要各領(lǐng)域?qū)＜抑g更緊密的合作, 以及逐步建立和完善相應(yīng)的大模型監(jiān)管機(jī)制。

編輯：黃飛