利用NVIDIA GPU并行計算技術(shù)解決AI研究問題

由于冠狀病毒的存在， 2021 年韓國科學技術(shù)信息研究所（ KISTI ） GPU 黑客大賽在 KISTI NVIDIA 和 OpenACC 組織的專家導師指導下舉行。為了激發(fā)科學家加速 AI 研究或 HPC 代碼的可能性， hackathon 提供了利用 NVIDIA GPU并行計算技術(shù)解決研究問題和擴展專業(yè)知識的機會。

以面對面活動而聞名的虛擬黑客大會對與會者和主持人都提出了自己的挑戰(zhàn)。新的模式還需要兼顧由三個 HPC 和 AI 團隊、四個高等教育和研究團隊以及兩個行業(yè)團隊組成的多樣化團隊。

活動團隊發(fā)現(xiàn)以下配方有助于為參與者創(chuàng)造有意義的成功體驗：

指導

基于他們在特定領域或編程語言方面的專業(yè)知識，專門的導師與團隊一起進行指導，以設定目標，并考慮不同的方法。導師們合作解決團隊遇到的問題并排除障礙。每天的導師同步電話讓每個人都集中精力，朝著實現(xiàn)目標的最佳策略努力。

社交

每個人都知道，只工作不玩耍實際上會阻礙團隊的生產(chǎn)力。 hackathon 為參與者和導師提供了 TGIF 社交時間會議。使用 Metaverse Gather 城鎮(zhèn)空間，導師和團隊分享經(jīng)驗，為電池充電，并建立聯(lián)系，幫助他們在活動期間繼續(xù)前進。

資源和現(xiàn)場研討會

成功的另一個重要因素是為與會者提供專門的培訓和資源。例如， NVIDIA 深度學習培訓中心（ DLI ）的一位大使和導師介紹了一個涵蓋 CUDA C / C ++主題的研討會。其他導師提供了團隊專用的技術(shù)課程，重點是TRT和 NVIDIA Triton 、OpenACC和 NSight 系統(tǒng)的評測、并行計算和優(yōu)化。

努力工作是有回報的

延世大學的帕斯卡團隊正在開發(fā)一種熱流體解算器，該解算器可以有效地計算湍流的熱運動。在這次黑客大會上，團隊通過 OpenACC 和 cuFFT 庫將基于 CPU 的現(xiàn)有代碼轉(zhuǎn)換為多 GPU 環(huán)境。這使得最耗時的子程序之一的計算速度加快了 4 . 84 倍 RHS （右側(cè)，分步）。

來自 AmorePacific 化妝品公司的 Amore Opt 團隊致力于 GPU 優(yōu)化 DeepLabV3 +細分模型。通過應用他們對 TensorRT 推理優(yōu)化器和 NVIDIA Triton 推理服務器的了解，他們提高了推理速度，使推理速度提高了 26 倍。他們做到了這一點，同時保持人工智能模型的準確性，以便為未來的大規(guī)模客戶服務檢測皮膚問題。

首爾國立大學的 TFC 團隊參與了一個項目，以加速基于 CPU 的 Fortran 內(nèi)部流體計算代碼。通過在 KISTI 使用 NVIDIA GPU s ，團隊加速了耗時的三對角矩陣算法（ TDMA ）用于熱解算器和動量解算器，以及快速傅立葉變換（ FFT ）用于壓力解算器計算。他們在一臺 V100 GPU 上實現(xiàn)了 11.15 倍的速度。

NVIDIA Inception 成員 Nota 和杭陽大學合作，通過利用 NVIDIA GPU s 中的張量核進行 INT4 量化，優(yōu)化了 Nota 模型壓縮引擎。名為 NOTA-HYU 的團隊學會了使用 NVIDIA 分析工具 NSight 系統(tǒng)和 NSight 計算。然后，他們應用 NVIDIA 庫彎刀，通過 CUDA 優(yōu)化，使剩余塊的總體速度提高 1.85 倍。

關(guān)于作者

Solee Moon 是 NVIDIA 高等教育與研究（ HER ）和 NVIDIA 深度學習培訓中心（ DLI ）項目的企業(yè)營銷專家，專注于支持 AI 開發(fā)者社區(qū)的發(fā)展。在 NVIDIA 之前， Solee 曾在三星電子 CTR 擔任品牌營銷專家，執(zhí)行各種整合營銷傳播活動。

審核編輯：郭婷