為什么說AI無法從本質上取代醫(yī)生？

8月30－31日，由中國高科技行業(yè)門戶OFweek維科網(wǎng)、高科會主辦，OFweek人工智能網(wǎng)、OFweek醫(yī)療科技網(wǎng)承辦的2018中國（上海）國際人工智能展覽會暨OFweek（第二屆）人工智能產業(yè)大會在上海跨國采購會展中心成功舉辦。

本次大會共匯集了人工智能領域的國際知名企業(yè)高層、行業(yè)資深專家、專家分析機構等數(shù)千位精英，用全新視角透析行業(yè)動態(tài)，解讀人工智能領域本年度海內外最值得關注的學術與研發(fā)進展。

在8月31日分論壇：AI＋醫(yī)療專場上，上海交通大學生物醫(yī)學工程學院特別研究員、博導錢曉華為現(xiàn)場觀眾帶來了《醫(yī)學影像信息系統(tǒng)：輔助檢測、診斷和探索》主題演講，從人工智能技術在醫(yī)學領域的發(fā)展現(xiàn)狀、人工智能以及醫(yī)學影像信息系統(tǒng)結合應用等多個角度進行了具體探討。

上海交通大學生物醫(yī)學工程學院特別研究員、博導錢曉華

錢曉華從多個角度說明了目前人工智能在醫(yī)療領域的技術應用和發(fā)展前景。錢曉華認為，人工智能技術的發(fā)展極大推動了醫(yī)療產業(yè)進步，但醫(yī)療人工智能在本質上不可能取代醫(yī)生，只能應用于醫(yī)療輔助領域。

演講中，錢曉華還提到了過去與美國醫(yī)生合作關于理解腦膠質瘤手術后真假進展問題的研究。在他看來，過去的醫(yī)生認為人工智能技術發(fā)展尚未成熟，且對于人們來說人工智能就是個黑匣子，其難以理解的知識和特征阻礙了人們醫(yī)療科技的進展。因此錢曉華的團隊就項目中的深度學習環(huán)節(jié)進行了特征可解釋性研究，將深度學習中的抽象特征解析成醫(yī)生能夠理解的知識和特征，醫(yī)生通過解釋過的知識和特征來判斷評估人工智能的診斷結果，以此推動人工智能技術在醫(yī)療領域的發(fā)展。

以下為錢曉華先生的現(xiàn)場演講內容，OFweek醫(yī)療科技網(wǎng)作了不改變原意的整理和編輯：

接下來由我給大家做一個報告，題目是《醫(yī)學影像信息系統(tǒng)：輔助檢測、診斷和探索》。首先，我認為醫(yī)療人工智能是不可能替代醫(yī)生的，只能應用在輔助領域。我簡單做個自我介紹，我在去年加入上海交大生物醫(yī)學工程學院，組建了自己的醫(yī)學影像處理團隊，目前初具規(guī)模，總共有七名研究生，合作的醫(yī)院也包括瑞金醫(yī)院、華山醫(yī)院六院、胸科醫(yī)院以及北京朝陽醫(yī)院。接下來我將從以下幾個方面展開今天的演講主題。

第一，是基于非增強型缺血性腦中風的早期檢測系統(tǒng)，工作的目標是對缺血性中風的早期預警和量化診斷。在科研上或者在后期的診斷中可以用多種模態(tài)核磁共振以及各種方式進行。但在早期檢查的過程中都是采用普通CT，比如一個病人去了急診科，不能未診斷就做核磁共振檢查，這個工作是基于臨床流程中的需求而進行的。這個工作已經展開了7、8年，目前的工作效果是當這個疑似區(qū)和周邊區(qū)域亦對比度大于5個CT值時，該系統(tǒng)的判斷準確率超過80％。

第二，介紹一下計算機輔助手術系統(tǒng)。以幼兒顱腦早閉癥為例，幼兒顱腦早閉癥的癥狀是孩子額頭部位像＂壽星＂一樣往上凸，這其實是幼兒的腦縫提前閉合，閉合之后會造成其顱內壓力升高，影響幼兒智力發(fā)育。治療方案很直接，把融合的縫直接切掉，然后塞入兩個彈簧。這個彈簧需要多大的彈力？要由醫(yī)生的經驗來決定，而這份經驗則來自以往的小白鼠實驗。在美國第一個發(fā)明這個手術的醫(yī)生曾經和我們合作過。他非常迫切的想解決這個問題，希望根據(jù)每個孩子的實際情況來定制個性化彈簧。

大家可以看到，這是一個典型的圖像處理、機器學習加上優(yōu)選分析的手術規(guī)劃系統(tǒng)。整個系統(tǒng)的難點以及關鍵點在于對腦殼腦縫的分割和提取及特征描述，這個是本項目的最大的難點。人眼是很輕松能看到腦縫，但是計算機不懂，因為腦縫本質上不存在。現(xiàn)在的深度學習依然無法解決這個問題。

這是非常有意思的一個問題，深度學習很多時候需要龐大的樣本量。很多疑難雜癥本身樣本量就少，而你又急需把這個工作客觀化，讓更多人學習這個系統(tǒng)，那么就需要傳統(tǒng)的方式或者其他的方式來完成這項工作。我們提出了一個解決方案：以前沒有人進行基于半球投影這項工作，如何將這個看似沒有的東西經過投影并在一個封閉區(qū)域進行分割和提取是最大的難點。而我們的解決方案在當時獲得了美國衛(wèi)生部250萬美元的科研基金支持。

第三個工作，是關于理解腦膠質瘤手術后真假進展問題。腦膠質瘤是一個惡性腫瘤，它的存活期只有18個月，關鍵問題在于該病癥容易復發(fā)。它的治療方式是先手術后放化療，放化療會帶來一個副作用即假復發(fā)。假復發(fā)在核磁共振上顯示的灰度增強區(qū)域會模擬真復發(fā)的變化形態(tài)。即使是專業(yè)的醫(yī)師也無法通過片子來判斷這個病人到底是真的腫瘤復發(fā)還是假復發(fā)。目前臨床上的一個標準是隨訪，隨訪通常需要花費六個月以上的時間，根據(jù)它的形態(tài)變化來判斷病人情況。而腦膠質瘤總共才活18個月，你花六個月以上時間去診斷，會嚴重影響到病人生活。

所以美國醫(yī)生就找到我們，希望縮短診斷時間。圍繞這個需求，我們展開以下三方面工作。第一個是基于圖像技術和人工智能技術來開發(fā)一個計算機輔助診斷系統(tǒng)，用以提高準確率和診斷效率；第二個是通過圖像和基因結合的方式來確定生物標記物，如此一來就能在手術完成后通過生物標記物盡早預測病人病況發(fā)展趨勢；第三個是探討一個新的分期方式。前幾年我們自主開發(fā)了一個字典學習系統(tǒng)做分割，它的準確率在80％至85％之間。這個系統(tǒng)關鍵不在于系統(tǒng)本身，而是字典學習的可理解化。當時醫(yī)生認為，人工智能技術再怎么先進，對人們來說不過是個黑匣子，不理解它的特征就不會使用。所以我們對此進行了特征可解釋性問題研究。這兩年我們通過深度學習的方式來做這個真假復發(fā)的診斷。圖中顯示的診斷系統(tǒng)準確率已經從80％多提高到90％以上。但這個我們仍然不放心。因為這個準確率的本質和內在邏輯與醫(yī)生的邏輯是不吻合的。所以現(xiàn)在我們做的工作重點在于揭開人工智能黑匣子，看這些抽象特征是否真的符合醫(yī)生的標準，才能判斷該系統(tǒng)是否可靠。

第二個工作是通過圖像和基因結合的方式來確定一個生物標記物。因為用相同的治療手段治療不同的病人會獲得不同的治療結果。我們認為這是不同的病人的基因組導致，因此要結合圖像技術和基因技術對基因進行標記，手術完成后可以通過基因檢測來預測這個病人病況發(fā)展趨勢。

第三個工作，我們把一家醫(yī)院腦膠質瘤真假復發(fā)臨床記錄進行了統(tǒng)計分析，可以發(fā)現(xiàn)真假復發(fā)兩類病人經過不同治療后生存時間沒有顯著差異。這說明兩個問題，第一點說明臨床上花六個月時間進行診斷是耽誤治療進度。第二點說明目前臨床診斷的標準是基于影像判斷，而影像的表象不一定真正能反映兩類病人的本質差異。所以我們提出把圖像技術和基因技術結合起來，構建兩年生存風險預測模型。根據(jù)該預測模型產生的兩年生存值，把病人區(qū)分為高低風險病患。這樣就可以知道臨床上的進一步的治療診斷走向。

接下來我簡單的介紹一下其他工作。首先是具有可理解性的深度學習模型研究。一個調制好的深度學習系統(tǒng)可以提供良好的診斷預測以及高度準確率，但其內在邏輯是否真完全吻合臨床標準卻不一定。

如圖所示，在整個過程中ROC值能達到99％，但是我們經過特征返還查看，發(fā)現(xiàn)這些抽象特征貢獻最大的區(qū)域基本不在主流部分，而是由噪聲特征貢獻了準確率。所以說深度學習系統(tǒng)和深度學習系統(tǒng)是不完全吻合的，其可靠性主要來自于模型的可理解性，將深度學習中的抽象特征解析成醫(yī)生能夠理解的知識和特征，醫(yī)生通過解釋過知識和特征判斷評估黑匣子的診斷結果，這就是我們的工作重點。另外，我們還研發(fā)了基于影像和基因組學的腦轉移瘤治療方案決策系統(tǒng)、胰腺癌（早期）智能診斷／預測系統(tǒng)。以上便是我今天帶來的演講內容，謝謝大家！