NVIDIA Clara Holoscan 助力微識(shí)醫(yī)療加速消化內(nèi)鏡 AI 應(yīng)用產(chǎn)品化

微識(shí)醫(yī)療通過(guò)采用 NVIDIA Clara Holoscan 平臺(tái)提供的 RDMA 等技術(shù)棧加速醫(yī)療影像的傳輸與處理過(guò)程，實(shí)現(xiàn)產(chǎn)品臨床使用的實(shí)時(shí)輔助診斷功能（每秒最高處理 240 幀圖像），大幅減少了產(chǎn)品在臨床應(yīng)用中的畫(huà)面延遲，極大提高了產(chǎn)品的實(shí)時(shí)性。

微識(shí)醫(yī)療是一家人工智能醫(yī)學(xué)影像科技初創(chuàng)公司，其利用深度學(xué)習(xí)和 NVIDIA AI 計(jì)算平臺(tái)，將醫(yī)學(xué)知識(shí)集成到靈活和可擴(kuò)展的數(shù)學(xué)模型中，旨在使用少量開(kāi)發(fā)樣本實(shí)現(xiàn) AI 臨床價(jià)值，為醫(yī)用光學(xué)影像領(lǐng)域提供改寫臨床指南級(jí)別的數(shù)字醫(yī)療創(chuàng)新，致力于在腸癌早篩的關(guān)鍵環(huán)節(jié)為臨床檢查提供最核心的幫助，創(chuàng)造 AI 的更高價(jià)值，為預(yù)防和監(jiān)測(cè)癌癥提供高效的智能輔助解決方案。

醫(yī)療影像深度學(xué)習(xí)推理過(guò)程需要處理海量的來(lái)自內(nèi)窺鏡的視頻數(shù)據(jù)，計(jì)算量大、實(shí)時(shí)性要求高。使用傳統(tǒng)的傳輸方法，內(nèi)窺鏡輸出的視頻數(shù)據(jù)首先經(jīng)由視頻采集卡捕獲并寫入系統(tǒng)內(nèi)存中，然后通過(guò) CPU 傳輸和 PCIE 總線連接到 GPU 的內(nèi)存。內(nèi)存的讀寫速率和 CPU 的性能成為制約視頻流傳輸效率的瓶頸，因而導(dǎo)致額外的傳輸延遲。手術(shù)視頻的需求要求內(nèi)窺鏡捕獲的圖像與投影到醫(yī)用顯示器上的圖像之間具有一致且可靠的低延遲，因而額外的傳輸延遲將嚴(yán)重影響客戶體驗(yàn)。與此同時(shí)，醫(yī)療應(yīng)用對(duì)于底層平臺(tái)的設(shè)計(jì)以及安全性有合規(guī)的要求，并且醫(yī)療設(shè)備的設(shè)計(jì)、生產(chǎn)和使用的周期都比較長(zhǎng)。因此選擇合適的技術(shù)平臺(tái)將為醫(yī)療企業(yè)的發(fā)展起到奠定基礎(chǔ)的作用。

基于以上挑戰(zhàn)，微識(shí)醫(yī)療選擇采用 NVIDIA Clara Holoscan 以及其搭載的 RDMA 等技術(shù)和支持服務(wù)來(lái)加速產(chǎn)品的開(kāi)發(fā)迭代。RDMA，即遠(yuǎn)程直接內(nèi)存訪問(wèn)，允許將視頻數(shù)據(jù)直接從視頻采集卡傳輸?shù)?GPU 內(nèi)存，這大大減少了 GPU 視頻處理的延遲及系統(tǒng)所需的 PCIE 帶寬，擺脫了對(duì) CPU 性能的依賴，同時(shí)由 GPU 進(jìn)行圖像的預(yù)處理過(guò)程，充分發(fā)揮了 GPU 并行計(jì)算的優(yōu)勢(shì)，降低了整個(gè)系統(tǒng)的延遲和功耗，使用后給業(yè)務(wù)帶來(lái)了巨大的支持和提升，具體體現(xiàn)在以下幾個(gè)方面：

1. 通過(guò)采用 RDMA 技術(shù)，以內(nèi)窺鏡常見(jiàn)的 1080i50 和 1080i60 視頻分辨率為例，視頻從采集卡到顯卡內(nèi)存的傳輸時(shí)間減少了 30%。

2. 由 NVIDIA GPU 代替 CPU 進(jìn)行圖像預(yù)處理，相比之前使用 CPU，圖像預(yù)處理的時(shí)間從 5ms 下降到 2ms。

3. 通過(guò)減少視頻傳輸和圖像預(yù)處理時(shí)間，使整個(gè)系統(tǒng)的畫(huà)面延遲從 25ms 降低到 16ms，極大得改善了用戶體驗(yàn)，滿足了臨床應(yīng)用的要求。

4. 通過(guò)在 NVIDIA Clara Holoscan 上直接布署 EndoScreener，省去了功耗巨大的 CPU 和體積龐大的風(fēng)冷系統(tǒng)，使醫(yī)用工作站的體積減小為原來(lái)的一半，功耗降低到原來(lái)的 75%。

5. Clara Holoscan 平臺(tái)所提供的 IEC60601，IEC62304 的預(yù)認(rèn)證，以及長(zhǎng)期的軟硬件支持可以讓企業(yè)有更穩(wěn)定和全球化的平臺(tái)開(kāi)發(fā) AI 應(yīng)用。

微識(shí)醫(yī)療結(jié)腸鏡計(jì)算機(jī)輔助檢測(cè)軟件 EndoScreener 通過(guò)搭載 NVIDIA Clara Holoscan 實(shí)現(xiàn)高效視頻處理，保證產(chǎn)品性能的優(yōu)效發(fā)揮。目前，通過(guò)若干高質(zhì)量臨床證據(jù)，EndoScreener 產(chǎn)品臨床效用和價(jià)值被數(shù)國(guó)臨床指南和共識(shí)認(rèn)可接受，成為國(guó)內(nèi)第一個(gè)消化內(nèi)鏡獲得醫(yī)療三類證的公司。微識(shí)醫(yī)療未來(lái)將更多基于 Clara Holoscan 平臺(tái)搭載的技術(shù)融入微識(shí)的產(chǎn)品中，提升產(chǎn)品的安全性和應(yīng)用的實(shí)時(shí)性。