為什么加速數(shù)據(jù)處理對各行各業(yè)的AI創(chuàng)新都至關(guān)重要

在各行各業(yè)，AI 正在用機(jī)器驅(qū)動的計(jì)算來推動創(chuàng)新。在金融領(lǐng)域，銀行正在使用 AI 更快地檢測欺詐行為并確保賬戶安全；電信公司正在使用 AI 優(yōu)化網(wǎng)絡(luò)以提供優(yōu)質(zhì)服務(wù)；科學(xué)家正在使用 AI 開發(fā)治療罕見病的新療法；公共事業(yè)正在使用 AI 建設(shè)更清潔、更可靠的能源網(wǎng)絡(luò)，汽車行業(yè)正在利用 AI 使自動駕駛汽車更安全、更便捷。

數(shù)據(jù)是各種大型 AI 用例的基礎(chǔ)。有效且精確的 AI 模型需要使用廣泛的數(shù)據(jù)集進(jìn)行訓(xùn)練。企業(yè)要想利用 AI 的力量，就必須建立一個(gè)數(shù)據(jù)流，從各種來源提取數(shù)據(jù)，并將其轉(zhuǎn)換成一致的格式并進(jìn)行有效存儲。

數(shù)據(jù)科學(xué)家通過多次實(shí)驗(yàn)完善數(shù)據(jù)集以微調(diào) AI 模型，從而在真實(shí)應(yīng)用中實(shí)現(xiàn)其最佳性能。從語音助手到個(gè)性化推薦系統(tǒng)，這些應(yīng)用都需要快速處理大量數(shù)據(jù)，以保障實(shí)時(shí)性能。

隨著 AI 模型變得越來越復(fù)雜，并開始處理文本、音頻、圖像和視頻等各類數(shù)據(jù)，滿足快速數(shù)據(jù)處理的需求變得更加關(guān)鍵。對于繼續(xù)依賴傳統(tǒng) CPU 計(jì)算的機(jī)構(gòu)而言，數(shù)據(jù)瓶頸、數(shù)據(jù)中心成本不斷攀升和算力不足阻礙了其創(chuàng)新發(fā)展和性能提升。

許多企業(yè)正轉(zhuǎn)向加速計(jì)算以將 AI 融入其業(yè)務(wù)運(yùn)營中。這種方法充分利用 GPU、專用硬件、軟件和并行計(jì)算技術(shù)，將計(jì)算性能提升最高達(dá) 150 倍，能效提升高達(dá) 42 倍。

各行各業(yè)的領(lǐng)先企業(yè)正在利用加速數(shù)據(jù)處理來實(shí)施其開創(chuàng)性的 AI 計(jì)劃。

金融機(jī)構(gòu)瞬間檢測到欺詐行為

由于需要對大量交易數(shù)據(jù)進(jìn)行快速分析，金融機(jī)構(gòu)在檢測欺詐方式時(shí)面臨巨大挑戰(zhàn)。此外，由于缺乏真實(shí)欺詐案例的標(biāo)記數(shù)據(jù)，也給 AI 模型的訓(xùn)練造成了困難。在處理與欺詐檢測相關(guān)的大量數(shù)據(jù)時(shí)，傳統(tǒng)的數(shù)據(jù)科學(xué)工作流缺乏所需的加速能力。這導(dǎo)致數(shù)據(jù)處理緩慢，阻礙了實(shí)時(shí)數(shù)據(jù)分析和欺詐檢測。

為了克服這些挑戰(zhàn)，每年處理超過 80 億筆交易的美國運(yùn)通使用加速計(jì)算來訓(xùn)練和部署長短期記憶（LSTM）模型。這些模型用于順序分析和異常檢測，并能夠適應(yīng)新數(shù)據(jù)和從中學(xué)習(xí)，是打擊欺詐的理想選擇。

利用 GPU 上的并行計(jì)算技術(shù)，美國運(yùn)通大幅加快了 LSTM 模型的訓(xùn)練速度。GPU 還使已經(jīng)投入使用的模型能夠處理大量交易數(shù)據(jù)，以進(jìn)行高性能的計(jì)算，從而實(shí)時(shí)檢測欺詐行為。

該系統(tǒng)可在低于兩毫秒的延遲中運(yùn)行，以更好地保護(hù)客戶和商家，與基于 CPU 的配置相比性能提高了 50 倍。通過將加速的 LSTM 深度神經(jīng)網(wǎng)絡(luò)與其現(xiàn)有方法相結(jié)合，美國運(yùn)通在特定領(lǐng)域的欺詐檢測準(zhǔn)確率提高了 6%。

金融公司還可以使用加速計(jì)算來降低數(shù)據(jù)處理成本。通過在 NVIDIA GPU 上運(yùn)行涉及大量數(shù)據(jù)的 Spark3 工作負(fù)載，PayPal 證實(shí)了其有望將大數(shù)據(jù)處理和 AI 應(yīng)用的云成本降低 70%。

通過更高效地處理數(shù)據(jù)，金融機(jī)構(gòu)可以實(shí)時(shí)檢測欺詐行為，從而在不干擾交易流的情況下更快決策，并將財(cái)務(wù)損失的風(fēng)險(xiǎn)降至最低。

電信公司簡化復(fù)雜的人員調(diào)派

電信公司的各項(xiàng)業(yè)務(wù)產(chǎn)生了海量數(shù)據(jù)，包括網(wǎng)絡(luò)設(shè)備、客戶交互、計(jì)費(fèi)系統(tǒng)以及網(wǎng)絡(luò)性能和維護(hù)。

每天處理數(shù)百 PB 數(shù)據(jù)的全國性網(wǎng)絡(luò)需要進(jìn)行復(fù)雜的技術(shù)人員調(diào)派，以確保服務(wù)。為了優(yōu)化技術(shù)人員調(diào)度，先進(jìn)的調(diào)派引擎需要執(zhí)行數(shù)萬億次計(jì)算，并充分考慮天氣、技術(shù)人員技能、客戶需求和車隊(duì)分布等因素。這些操作的成功取決于細(xì)致的數(shù)據(jù)準(zhǔn)備和充足的算力。

AT&T 擁有美國最大的現(xiàn)場調(diào)度服務(wù)團(tuán)隊(duì)之一。該公司正在通過 NVIDIA cuOpt 改善數(shù)據(jù)密集型人員調(diào)派，依靠啟發(fā)式、元啟發(fā)式和優(yōu)化來計(jì)算復(fù)雜的車輛調(diào)派問題。

在早期試驗(yàn)中，cuOpt 在 10 秒內(nèi)就提供了調(diào)派解決方案，將云計(jì)算成本降低了 90%，這使技術(shù)人員每天能夠完成更多的服務(wù)呼叫。NVIDIA RAPIDS是一套能夠加速數(shù)據(jù)科學(xué)和分析數(shù)據(jù)流的軟件庫，它進(jìn)一步加速了 cuOpt，使企業(yè)能夠集成 本地搜索啟發(fā)式算法和元啟發(fā)式算法（如 Tabu 搜索），以持續(xù)地優(yōu)化人員調(diào)派。

AT&T 正在采用 NVIDIA RAPIDS Accelerator for Apache Spark，以增強(qiáng)基于 Spark 的 AI 和數(shù)據(jù)流的性能。這有助于該公司從訓(xùn)練 AI 模型到保持網(wǎng)絡(luò)質(zhì)量，再到減少客戶流失和改進(jìn)欺詐檢測的運(yùn)營效率全方位提升。通過 RAPIDS 加速器，AT&T 正在減少目標(biāo)工作負(fù)載的云計(jì)算支出，同時(shí)實(shí)現(xiàn)更高的性能并減少碳排放量。

基于電信公司對提高運(yùn)營效率同時(shí)提供高質(zhì)量服務(wù)的需求，加速數(shù)據(jù)流的傳輸和處理將至關(guān)重要。

生物醫(yī)學(xué)研究人員縮短新藥研發(fā)時(shí)間

研究人員對人類基因組中大約 25000 個(gè)基因進(jìn)行了研究，以了解它們與疾病之間存在何種關(guān)系，這使得醫(yī)學(xué)數(shù)據(jù)和同行評審的研究論文數(shù)量激增。生物醫(yī)學(xué)研究人員依靠這些論文來縮小開發(fā)新療法的研究范圍。然而，對數(shù)量如此龐大且仍在不斷增加的相關(guān)研究進(jìn)行文獻(xiàn)綜述，已成為一項(xiàng)不可能完成的任務(wù)。

領(lǐng)先的制藥公司阿斯利康開發(fā)了一個(gè)生物學(xué)洞察知識圖譜（BIKG），從文獻(xiàn)綜述到篩選命中率評級、靶點(diǎn)識別等整個(gè)藥物發(fā)現(xiàn)過程為科學(xué)家提供幫助。該圖譜將公共和內(nèi)部數(shù)據(jù)庫與科學(xué)文獻(xiàn)中的信息進(jìn)行整合，模擬了 1000 萬至 10 億種復(fù)雜的生物關(guān)系。

BIKG 已被有效地用于基因排序，幫助科學(xué)家假設(shè)高潛力靶點(diǎn)以研發(fā)新療法。在今年的 NVIDIA GTC 上，阿斯利康團(tuán)隊(duì)介紹了一個(gè)項(xiàng)目，該項(xiàng)目成功識別了與肺癌治療耐藥性相關(guān)的基因。

為了縮小潛在基因的范圍，數(shù)據(jù)科學(xué)家和生物學(xué)研究人員共同定義了相關(guān)標(biāo)準(zhǔn)和基因特征，以確定理想的開發(fā)療法靶點(diǎn)。他們訓(xùn)練了一種機(jī)器學(xué)習(xí)算法，在 BIKG 數(shù)據(jù)庫中搜索具有文獻(xiàn)中提到的可治療基因的特征。通過利用 NVIDIA RAPIDS 來加快計(jì)算速度，該團(tuán)隊(duì)將初始基因庫從 3000 個(gè)減少到僅僅 40 個(gè)目標(biāo)基因，以前完成這項(xiàng)任務(wù)需要耗時(shí)幾個(gè)月，但現(xiàn)在只需要幾秒鐘。

通過用加速計(jì)算和 AI 助力藥物研發(fā)，制藥公司和研究人員最終可以利用醫(yī)學(xué)領(lǐng)域積累的大量數(shù)據(jù)，更快、更安全地開發(fā)新藥，幫助挽救生命。

公共事業(yè)公司創(chuàng)造清潔能源的未來

能源部門正大力推動碳中和能源轉(zhuǎn)型。在過去的 10 年里，隨著太陽能等可再生能源的使用成本大幅下降，清潔能源未來的實(shí)現(xiàn)取得了重大的進(jìn)展。

然而，在整合來自風(fēng)力發(fā)電廠、太陽能發(fā)電廠和家用電池的清潔能源時(shí)，電網(wǎng)管理面臨著新的復(fù)雜性考驗(yàn)。在能源基礎(chǔ)設(shè)施多元化并且需要雙向輸電的情況下，電網(wǎng)管理變得更加數(shù)據(jù)密集化。因此，現(xiàn)在需要新的智能電網(wǎng)來處理汽車充電的高壓充電區(qū)，此外還必須管理分布式儲能的可用性，并適應(yīng)整個(gè)電網(wǎng)的各種用電情況。

知名電網(wǎng)邊緣軟件公司 Utilidata 與 NVIDIA 合作，使用定制的 NVIDIA Jetson Orin 邊緣 AI 模塊，為電網(wǎng)邊緣開發(fā)了分布式 AI 平臺 Karman。這種嵌入電表的定制芯片和平臺將每個(gè)電表轉(zhuǎn)化為一個(gè)數(shù)據(jù)收集和控制終端，支持每秒處理數(shù)千個(gè)數(shù)據(jù)點(diǎn)。

Karman 處理來自電網(wǎng)邊緣電表的實(shí)時(shí)高分辨率數(shù)據(jù)。這使公共事業(yè)公司能夠在幾秒鐘內(nèi)（而不是幾分鐘或幾小時(shí)）詳細(xì)了解電網(wǎng)狀況，預(yù)測用電情況，并無縫整合分布式能源。此外，通過邊緣設(shè)備上的推理模型，電網(wǎng)運(yùn)營商可以預(yù)測并快速識別線路故障，以預(yù)測潛在的停電，并進(jìn)行預(yù)防性維護(hù)，從而提高電網(wǎng)的可靠性。

通過集成 AI 和加速數(shù)據(jù)分析，Karman 幫助公共事業(yè)公司將現(xiàn)有的基礎(chǔ)設(shè)施改造成高效的智能電網(wǎng)。這樣即可實(shí)現(xiàn)量身定制、本地化的電力分配，以滿足波動的用電需求，而無需大規(guī)模地升級實(shí)體基礎(chǔ)設(shè)施，從而實(shí)現(xiàn)更具成本效益的電網(wǎng)現(xiàn)代化。

汽車制造商使自動駕駛汽車

更安全、更便捷

汽車廠商正在努力實(shí)現(xiàn)全自動駕駛。為此，車輛必須能夠?qū)崟r(shí)檢測物體和進(jìn)行導(dǎo)航。這就需要高速的數(shù)據(jù)處理，包括將攝像頭、激光雷達(dá)、雷達(dá)和 GPS 的實(shí)時(shí)數(shù)據(jù)輸入 AI 模型，以做出導(dǎo)航?jīng)Q策，確保道路安全。

自動駕駛的推理工作流非常復(fù)雜，包括多個(gè) AI 模型以及必要的預(yù)處理和后處理步驟。傳統(tǒng)上，這些步驟是在客戶端使用 CPU 處理的。然而，這可能會導(dǎo)致處理速度出現(xiàn)重大瓶頸，對于快速處理等同于安全的應(yīng)用來說是不可接受的缺點(diǎn)。

為了提高自動駕駛工作流的效率，智能電動汽車制造商蔚來將 NVIDIA Triton 推理服務(wù)器集成到其推理工作流中。NVIDIA Triton 是一款開源、多框架的推理服務(wù)軟件。通過整合數(shù)據(jù)處理任務(wù)，蔚來在一些核心領(lǐng)域?qū)⒀訒r(shí)降低至原來的 1/6，并將總體數(shù)據(jù)吞吐量提高最多達(dá) 5 倍。

蔚來以 GPU 為中心的方法使更新和部署全新 AI 模型變得更容易，并無需對車輛進(jìn)行任何改動。此外，該公司還可以在同一組圖像上同時(shí)使用多個(gè) AI 模型，而無需通過網(wǎng)絡(luò)來回發(fā)送數(shù)據(jù)，從而節(jié)省了數(shù)據(jù)傳輸成本并提高了性能。

通過使用加速的數(shù)據(jù)處理，自動駕駛汽車軟件開發(fā)人員可確保他們能夠達(dá)到高性能標(biāo)準(zhǔn)，以避免交通事故，降低運(yùn)輸成本，從而助力用戶更好地出行。

零售商提升需求預(yù)測能力

在快節(jié)奏的零售環(huán)境中，快速處理和分析數(shù)據(jù)的能力對于調(diào)整庫存水平、個(gè)性化客戶互動和動態(tài)地優(yōu)化定價(jià)策略至關(guān)重要。零售商的規(guī)模越大，銷售的產(chǎn)品越多，其數(shù)據(jù)操作就越復(fù)雜，同時(shí)計(jì)算密集程度也更高。

世界上最大的零售商沃爾瑪通過使用加速計(jì)算，顯著地提高了對其 4500 個(gè)商店中 5 億種商品組合的預(yù)測準(zhǔn)確性。

隨著現(xiàn)有的計(jì)算環(huán)境開始出現(xiàn)無法完成工作或產(chǎn)生不準(zhǔn)確結(jié)果的問題，沃爾瑪?shù)臄?shù)據(jù)科學(xué)團(tuán)隊(duì)構(gòu)建了更強(qiáng)大的機(jī)器學(xué)習(xí)算法，以來應(yīng)對這一巨大的預(yù)測挑戰(zhàn)，他們發(fā)現(xiàn)，數(shù)據(jù)科學(xué)家必須從算法中刪除一些特征，才能順利運(yùn)行。

為了改進(jìn)預(yù)測，沃爾瑪開始使用 NVIDIA GPU 和 RAPIDS。該公司現(xiàn)在使用的預(yù)測模型擁有 350 種數(shù)據(jù)特征，可以預(yù)測所有產(chǎn)品類別的銷量情況，包括銷售數(shù)據(jù)、促銷活動以及影響需求的外部因素（如天氣狀況和超級碗等重大活動）。

先進(jìn)的模型幫助沃爾瑪將預(yù)測準(zhǔn)確率從 94% 提高到 97%，同時(shí)消除了約 1 億美元的生鮮產(chǎn)品浪費(fèi)，減少了缺貨和降價(jià)的情況。GPU 運(yùn)行模型的速度也提高了 100 倍，只需 4 小時(shí)即可完成各項(xiàng)作業(yè)，而這在 CPU 環(huán)境中則花費(fèi)數(shù)周的時(shí)間。

通過將數(shù)據(jù)密集型操作轉(zhuǎn)移到 GPU 和加速計(jì)算，零售商可以降低成本和碳排放量，同時(shí)為消費(fèi)者提供最適合的選擇和更低的價(jià)格。

公共部門提高防災(zāi)能力

無人機(jī)和衛(wèi)星拍攝了大量航空圖像數(shù)據(jù)，公共和私營機(jī)構(gòu)則使用這些數(shù)據(jù)來預(yù)測天氣模式、追蹤動物遷徙和觀察環(huán)境變化。這些數(shù)據(jù)對研究和規(guī)劃非常寶貴，可以幫助農(nóng)業(yè)、災(zāi)害管理和應(yīng)對氣候變化等領(lǐng)域做出更加明智的決策。然而，如果缺乏特定的位置元數(shù)據(jù)，則這些圖像發(fā)揮的價(jià)值可能會受到限制。

與 NVIDIA 合作的一家美國機(jī)構(gòu)正在探索一種方法來自動確定缺少地理空間元數(shù)據(jù)的圖像位置，這對搜救、應(yīng)對自然災(zāi)害和監(jiān)測環(huán)境等任務(wù)至關(guān)重要。然而，使用沒有元數(shù)據(jù)的航空圖像識別更大的區(qū)域內(nèi)的一塊小區(qū)域，這種挑戰(zhàn)有如大海撈針。設(shè)計(jì)有助于地理定位的算法，必須解決圖像光照的變化以及在不同時(shí)間、日期和角度拍攝圖像所造成的差異。

為了識別無地理標(biāo)記的航空圖像，NVIDIA、Booz-Allen 公司和當(dāng)?shù)卣畽C(jī)構(gòu)合作開發(fā)了一種解決方案，即通過使用計(jì)算機(jī)視覺算法從圖像像素?cái)?shù)據(jù)中提取信息，以解決圖像相似性搜索問題。

在試圖解決此問題時(shí)，一位 NVIDIA 解決方案架構(gòu)師首先使用了基于 Python 的應(yīng)用程序。最初在 CPU 上運(yùn)行時(shí)，其處理時(shí)間超過 24 小時(shí)。而 GPU 可將處理時(shí)間壓縮到僅幾分鐘，且并行執(zhí)行數(shù)千個(gè)數(shù)據(jù)操作，而在 CPU 上只能執(zhí)行少量操作。通過將應(yīng)用程序代碼轉(zhuǎn)移到開源 GPU 加速庫 CuPy 中，該應(yīng)用程序驚人地提速了 180 萬倍，在 67 微秒內(nèi)就返回了結(jié)果。

借助可以在幾分鐘內(nèi)處理大面積陸地圖像和數(shù)據(jù)的解決方案，各個(gè)組織或機(jī)構(gòu)就可以獲得其所需的關(guān)鍵信息，從而更快、更有效地應(yīng)對緊急情況，并積極主動地制定計(jì)劃，從而有望挽救生命、保護(hù)環(huán)境。

加速 AI 計(jì)劃，交付業(yè)務(wù)成果

使用加速計(jì)算進(jìn)行數(shù)據(jù)處理的企業(yè)正在推進(jìn) AI 計(jì)劃，以實(shí)現(xiàn)其在業(yè)內(nèi)更高水平的創(chuàng)新并取得更好的成果。

加速計(jì)算可以更高效地處理大型數(shù)據(jù)集，更快地實(shí)現(xiàn)模型訓(xùn)練和精選的優(yōu)化算法，并為實(shí)時(shí) AI 解決方案提供更精確的結(jié)果。

與基于 CPU 的傳統(tǒng)系統(tǒng)相比，使用加速計(jì)算的企業(yè)可以實(shí)現(xiàn)更高的性價(jià)比，并增強(qiáng)其向客戶、員工和合作伙伴提供卓越結(jié)果和優(yōu)質(zhì)體驗(yàn)的能力。