紐約大學與 NVIDIA 攜手開發(fā)能夠預測患者再入院概率的大型語言模型

刊登在《自然》（Nature）上的 AI 模型 NYUTron 已被部署到紐約大學朗格尼健康中心。

從醫(yī)院出院對病人來說是一座重要的里程碑，但有時這并不代表著他們已完全康復。在美國，有近 15% 的住院病人在首次出院后 30 天內再次入院，并且往往伴隨著病情惡化與對患者及院方來說都更高的住院費用。

紐約大學學術醫(yī)療中心——紐約大學朗格尼健康中心（NYU Langone Health）的研究人員與 NVIDIA 專家攜手開發(fā)了一個可預測病人 30 天內再入院風險以及其他臨床結果的大型語言模型（LLM）。

這個刊登在科學期刊《自然》（Nature）上的 NYUTron 模型被部署在該醫(yī)療系統(tǒng)的六座住院樓中。它能夠為醫(yī)生提供 AI 所驅動的洞察，幫助他們識別需要通過臨床干預的病人，以減少患者再入院概率。

紐約大學格羅斯曼醫(yī)學院放射學和神經(jīng)外科助理教授、NYUTron 的主要合作者 Eric Oermann 博士表示：“當你讓病人出院時，肯定不希望他們需要再回來，或者其實在當時就應該延長病人的住院時間。借助 AI 模型的分析，我們很快就能幫助臨床醫(yī)生預防或解決那些使病人面臨更高再入院風險的情況。”

到目前為止，該模型已被應用于紐約大學醫(yī)療系統(tǒng)中的 5 萬多名出院患者。它會通過電子郵件告知醫(yī)生再入院風險的預測。Oermann 的團隊接下來正計劃通過一項臨床試驗，測試依據(jù) NYUTron 的分析所采取的干預措施是否能夠降低再入院率。

應對短期再入院等風險

美國政府追蹤 30 日再入院率并以此作為醫(yī)院的護理質量指標。再入院率高的醫(yī)療機構會被處以罰款，這項制度能夠激勵醫(yī)院改進其出院流程。

新出院的病人可能會因為感染、過度使用抗生素、過早移除手術引流管等原因而需要再入院。如果這些風險因素能夠被更早地發(fā)現(xiàn)，醫(yī)生就可以通過調整治療計劃或延長病人留院觀察時間來進行干預。

Oermann 表示：“雖然自 20 世紀 80 年代以來就有了預測病人再入院的計算模型，但我們把它看作一項需要衛(wèi)生系統(tǒng)規(guī)模臨床文本語料庫的自然語言處理任務。我們使用電子健康記錄的非結構化數(shù)據(jù)訓練我們的 LLM，檢查它是否能夠捕捉到人們之前沒有考慮過的洞察?！?/p>

NYUTron 使用紐約大學朗格尼健康中心的 10 年健康記錄進行了預訓練。這些記錄由近 40 萬名病人超過 40 億字的臨床筆記組成。相比最先進的機器學習模型，該模型預測再入院的準確率提高了 10% 以上。

一旦該 LLM 為 30 天再入院的初始用例進行了訓練，該團隊就能在一周左右的時間里推出了其他四種預測算法，包括預測病人的住院時間、院內死亡的可能性以及病人保險理賠被拒的幾率。

Oermann 表示：“經(jīng)營一家醫(yī)院在某些方面就像管理一家酒店。能夠幫助醫(yī)院更高效運營的洞察意味著醫(yī)院能夠騰出更多床位并為更多病人提供更高質量的照護?！?/p>

從訓練到部署一個 LLM

NYUTron 是一個擁有數(shù)億參數(shù)的 LLM。它在一個由NVIDIA A100 Tensor Core GPU 組成的大型集群上使用 NVIDIA NeMo Megatron 框架訓練而成。

Oermann 表示：“如今，大部分關于語言模型的討論都圍繞著具有數(shù)十億參數(shù)的超大型通用模型，這些模型使用數(shù)百乃至數(shù)千個 GPU 在混亂的數(shù)據(jù)集上訓練而成。我們反其道而行之，使用在高度精煉的數(shù)據(jù)上訓練的中等規(guī)模的模型來完成特定醫(yī)療任務?！?/p>

為了優(yōu)化模型以便在現(xiàn)實醫(yī)院進行推理，該團隊開發(fā)了一個修改版的NVIDIA Triton 開源軟件，以便利用NVIDIA TensorRT 軟件開發(fā)工具套件簡化 AI 模型部署。

Oermann 表示：“像這樣的模型必須要高效運行才能被部署到實時醫(yī)療環(huán)境中。Triton 提供了你在一個推理框架中想要的一切，讓我們的模型能夠飛速運行?！?/p>

Oermann 的團隊發(fā)現(xiàn)，在對他們的 LLM 進行預訓練后，只需使用特定醫(yī)院的數(shù)據(jù)在現(xiàn)場進行微調就能大幅提高準確率，這個特點可以幫助其他醫(yī)療機構部署類似的模型。

他表示：“并不是所有醫(yī)院都擁有完全自主訓練一個大型語言模型所需要的資源，但他們可以采用像 NYUTron 這樣的預訓練模型，然后通過云端的 GPU 使用少量本地數(shù)據(jù)樣本對模型進行微調。這對于許多醫(yī)療機構來說都是可以做到的?！?/p>

如要進一步了解 NYUTron，請閱讀《自然》期刊中的論文。點擊“閱讀原文”，點播觀看 NVIDIA 與紐約大學的相關講座。