NVIDIA助力Amdocs打造生成式AI智能體

概述

Amdocs 是一家為通信和媒體提供商提供軟件與服務的領先供應商。該公司構(gòu)建的 amAIz 特定領域生成式 AI 平臺幫助電信公司深入改變了客戶體驗，實現(xiàn)了流程自動化，并優(yōu)化了決策。Amdocs 正在使用NVIDIA DGX Cloud與NVIDIA AI Enterprise軟件開發(fā)和交付基于商用大語言模型（LLM）和領域適配模型的解決方案。該公司還在使用NVIDIA NIM，這是一套易于使用的推理微服務，旨在加速生成式 AI 在企業(yè)中的部署。

NVIDIA 使 Amdocs提升生成式 AI性能并降低成本

通過與 NVIDIA 合作，Amdocs 啟動了將生成式 AI 整合到其核心產(chǎn)品組合中的戰(zhàn)略。該公司首先確定了應用領域，然后通過重新設計用戶體驗和重點開發(fā)快速工程技術，使生成式 AI 功能對用戶更加友好。通過優(yōu)化數(shù)據(jù)格式和微調(diào) LLM，Amdocs 提高了其計費問答系統(tǒng)的準確性，同時大幅降低了成本。

此次與 NVIDIA 合作使 Amdocs 的 AI 生成回答準確率提升了 30%。這一提升對于實現(xiàn)生成式 AI 在電信行業(yè)的廣泛應用以及滿足直面消費者的生成式 AI 服務的需求至關重要。

借助 NVIDIA NIM 微服務，Amdocs 還降低了成本和延遲：

降低運營成本：Amdocs 通過在 NVIDIA 基礎設施上使用基于電信的檢索增強生成技術，減少了部署用例所消耗的 token 數(shù)量，其中數(shù)據(jù)預處理和推理消耗的 token 數(shù)量分別減少了 60% 和 40%。這使該公司在實現(xiàn)相同準確率的情況下，減少了單位 token 成本（該成本受各種因素和使用量的影響）。

減少延遲：此次合作成功地將查詢延遲減少了約 80%，確保終端用戶體驗到近乎實時的響應速度。這一加速提升了商務、護理、運營等領域的用戶體驗。

Amdocs 計劃繼續(xù)通過多種方式，將生成式 AI 集成到 amAIz 平臺中，以便：

使用 AI 驅(qū)動的語言和情感分析，增強客戶查詢路由功能

增強其 AI 解決方案的推理能力，從而提供針對客戶特定需求的建議

應對需要廣泛領域知識和多模態(tài)、多步驟解決方案的復雜場景，例如網(wǎng)絡診斷和優(yōu)化等

Amdocs 集團技術總裁兼戰(zhàn)略主管 Anthony Goonetilleke表示：“與 NVIDIA 的戰(zhàn)略合作是 Amdocs 提高生成式 AI 能力的關鍵。這讓我們能夠在基礎設施和框架的基礎上構(gòu)建產(chǎn)品和服務，以滿足客戶不斷發(fā)展的需求?！?/p>