NVIDIA NIM使構(gòu)建印地語AI應(yīng)用變得輕而易舉

印度人打招呼的方式遠(yuǎn)不止 Namaste、Vanakkam 和 Sat sri akaal 這三種。印度有 22 種憲法認(rèn)可的語言，而根據(jù)印度人口普查記錄，該國還有 1500 多種語言。英語是互聯(lián)網(wǎng)上最常用的語言，而會說英語的印度居民只占到印度總?cè)丝诘?10% 左右。

作為世界上人口最多的國家，印度正在快速推進(jìn)數(shù)字化進(jìn)程。印度企業(yè)和當(dāng)?shù)爻鮿?chuàng)公司正在開發(fā)多語種 AI 模型，讓更多印度人能夠用自己的母語進(jìn)行技術(shù)互動。這是主權(quán) AI 的典型案例之一，主權(quán) AI 指的是開發(fā)基于本地?cái)?shù)據(jù)集，并且能夠反映某地區(qū)特定方言、文化和習(xí)俗的本國 AI 基礎(chǔ)設(shè)施。

這些項(xiàng)目正在構(gòu)建各種印度語言和英語的語言模型，驅(qū)動企業(yè)的客服 AI 智能體、快速翻譯內(nèi)容以便更多人獲取信息，并使服務(wù)更易覆蓋超過 14 億的多元化人口。

為了支持這些舉措，NVIDIA 為印地語這一印度最流行且使用者超過五億的語言推出了一個小語言模型。該模型被命名為Nemotron-4-Mini-Hindi-4B，現(xiàn)已作為一項(xiàng)NVIDIA NIM微服務(wù)提供，可輕松部署在任何 NVIDIA GPU 加速系統(tǒng)上用于優(yōu)化性能。

印度 IT 服務(wù)和咨詢公司 Tech Mahindra 是首家使用 Nemotron Hindi NIM 微服務(wù)開發(fā) AI 模型的公司。模型被命名為 Indus 2.0，主要針對印地語及其數(shù)十種方言。Indus 2.0 利用 Tech Mahindra 的高質(zhì)量微調(diào)數(shù)據(jù)進(jìn)一步提高模型的準(zhǔn)確性，使銀行、教育、醫(yī)療及其他行業(yè)的客戶能夠提供本地化服務(wù)。

Tech Mahindra 在 10 月 23 日至 25 日于孟買舉行的 NVIDIA AI Summit 上展示了 Indus 2.0。該公司還使用NVIDIA NeMo開發(fā)了其主權(quán)大語言模型（LLM）平臺 TeNo。

NVIDIA NIM 使構(gòu)建

印地語 AI 應(yīng)用變得輕而易舉

Nemotron Hindi 模型擁有 40 億個參數(shù)，源自 NVIDIA 開發(fā)的一個 150 億參數(shù)多語種語言模型——Nemotron-4 15B。該模型由 NVIDIA NeMo（一個用于開發(fā)生成式 AI 的端到端云原生框架和微服務(wù)套件）使用真實(shí)印地語數(shù)據(jù)、合成印地語數(shù)據(jù)和等量英語數(shù)據(jù)所組成的數(shù)據(jù)集剪枝、蒸餾和訓(xùn)練而成。

這個數(shù)據(jù)集由NVIDIA NeMo Curator創(chuàng)建。NeMo Curator 通過大規(guī)模處理用于訓(xùn)練和定制的高質(zhì)量多模態(tài)數(shù)據(jù)，提高了生成式 AI 模型的準(zhǔn)確性。它還使用NVIDIA RAPIDS庫來加速多節(jié)點(diǎn) GPU 系統(tǒng)上的數(shù)據(jù)處理管線，從而減少處理時間和總體擁有成本。NeMo Curator 還提供處理高質(zhì)量數(shù)據(jù)所需的合成數(shù)據(jù)生成、數(shù)據(jù)過濾、分類和數(shù)據(jù)去重預(yù)建管線與構(gòu)建模塊。

在使用 NeMo 進(jìn)行微調(diào)后，最終模型在多項(xiàng)針對 80 億參數(shù)以下 AI 模型的準(zhǔn)確性基準(zhǔn)測試中處于領(lǐng)先地位。該模型被打包成一項(xiàng) NIM 微服務(wù)，可輕松用于支持教育、零售、醫(yī)療等行業(yè)的用例。

其可作為NVIDIA AI Enterprise軟件平臺的一部分獲取。該軟件平臺為企業(yè)提供技術(shù)支持、企業(yè)級安全等額外資源，幫助企業(yè)簡化生產(chǎn)環(huán)境中的 AI 開發(fā)。

多家企業(yè)為印度的多語種人口提供服務(wù)

印度各地的創(chuàng)新公司、大型企業(yè)和全球系統(tǒng)集成商都在使用 NVIDIA NeMo 構(gòu)建定制語言模型。

NVIDIA 初創(chuàng)加速計(jì)劃會員公司正在使用 NeMo 開發(fā)多種印度語言的 AI 模型。該計(jì)劃的會員均為前沿初創(chuàng)公司。

Sarvam AI 為企業(yè)客戶提供語音轉(zhuǎn)文本、文本轉(zhuǎn)語音、翻譯和數(shù)據(jù)解析模型。該公司開發(fā)的 Sarvam 1 是印度首個本土多語種 LLM。該模型是完全在搭載 NVIDIA Tensor Core GPU 的印度本國 AI 基礎(chǔ)設(shè)施上訓(xùn)練而成的。

Sarvam 1 在開發(fā)過程中使用了包括 NeMo Curator 和 NeMo 框架在內(nèi)的 NVIDIA AI Enterprise 軟件，支持英語及 10 種主要印度語言，包括孟加拉語、馬拉地語、泰米爾語和泰盧固語。

Sarvam AI 還使用 NVIDIA NIM 微服務(wù)、適用于對話式 AI 的NVIDIA Riva、NVIDIA TensorRT-LLM軟件和NVIDIA Triton 推理服務(wù)器來優(yōu)化和部署具有亞秒級延遲的對話式 AI 智能體。

另一家初創(chuàng)加速計(jì)劃會員公司 Gnani.ai 構(gòu)建了一個多語種語音轉(zhuǎn)語音的大語言模型，為 AI 客服助手提供支持，該助手每天為印度和美國的 150 多家銀行、保險和金融服務(wù)公司處理約 1000 萬次實(shí)時語音交互。該模型使用 NVIDIA Hopper GPU 和 NeMo 框架，基于超過 1400 萬小時的對話語音數(shù)據(jù)訓(xùn)練而成，支持 14 種語言。

Gnani.ai 使用 TensorRT-LLM、Triton 推理服務(wù)器和 Riva NIM 微服務(wù)來優(yōu)化其虛擬客戶服務(wù)助手 AI 和語音分析 AI。

使用 NeMo 構(gòu)建 LLM 的大型企業(yè)包括：

沃爾瑪控股的印度大型電商公司 Flipkart 正在通過集成NeMo Guardrails（一個使開發(fā)者能夠?yàn)?LLM 添加可編程護(hù)欄的開源工具套件），以提高其對話式 AI 系統(tǒng)的安全性。

Ola Group 擁有印度最大的網(wǎng)約車平臺之一。該集團(tuán)旗下的企業(yè) Krutrim 正在使用 Mistral NeMo 12B 開發(fā)多語種印度語系基礎(chǔ)模型。Mistral NeMo 12B是一個極其先進(jìn)的 LLM，由 Mistral AI 和 NVIDIA 共同開發(fā)而成。

總部位于欽奈的全球技術(shù)公司 Zoho Corporation 將使用 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服務(wù)器為其 70 多萬客戶優(yōu)化和提供語言模型。該公司將使用在 NVIDIA Hopper GPU 上運(yùn)行的 NeMo 為 100 多個商業(yè)應(yīng)用從頭開始預(yù)訓(xùn)練窄模型、小模型、中模型和大模型。

印度的各大全球系統(tǒng)集成商也在為其客戶提供由 NVIDIA NeMo 加速的解決方案。

Infosys 將利用 NVIDIA AI 堆棧開發(fā)特定工具和解決方案。該公司的卓越中心還在開發(fā)由 AI 驅(qū)動的小型語言模型，這些模型將作為服務(wù)提供給客戶。

Tata Consultancy Services 基于NVIDIA NIM Agent Blueprint為電信、零售、制造、汽車和金融服務(wù)行業(yè)開發(fā)了 AI 解決方案。該公司提供的產(chǎn)品包括 NeMo 驅(qū)動的特定領(lǐng)域語言模型。這些模型經(jīng)過定制后，能夠處理客戶查詢，并回答 IT、人事或現(xiàn)場操作等各個企業(yè)部門員工提出的針對本企業(yè)的問題。

Wipro 正在使用包括 NIM Agent Blueprint 和 NeMo 在內(nèi)的 NVIDIA AI Enterprise 軟件，來幫助企業(yè)輕松開發(fā)定制對話式 AI 解決方案，例如支持客戶服務(wù)互動的數(shù)字人等。

Wipro 和 TCS 還使用 NeMo Curator 的合成數(shù)據(jù)生成管線生成英語以外的其他語言的數(shù)據(jù)，以便為客戶定制 LLM。