概述
Amdocs 是一家為通信和媒體提供商提供軟件與服務的領先供應商。該公司構建的 amAIz 特定領域生成式 AI 平臺幫助電信公司深入改變了客戶體驗,實現了流程自動化,并優化了決策。Amdocs 正在使用NVIDIA DGX Cloud與NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA NIM,這是一套易于使用的推理微服務,旨在加速生成式 AI 在企業中的部署。
NVIDIA 使 Amdocs提升生成式 AI性能并降低成本
通過與 NVIDIA 合作,Amdocs 啟動了將生成式 AI 整合到其核心產品組合中的戰略。該公司首先確定了應用領域,然后通過重新設計用戶體驗和重點開發快速工程技術,使生成式 AI 功能對用戶更加友好。通過優化數據格式和微調 LLM,Amdocs 提高了其計費問答系統的準確性,同時大幅降低了成本。
此次與 NVIDIA 合作使 Amdocs 的 AI 生成回答準確率提升了 30%。這一提升對于實現生成式 AI 在電信行業的廣泛應用以及滿足直面消費者的生成式 AI 服務的需求至關重要。
借助 NVIDIA NIM 微服務,Amdocs 還降低了成本和延遲:
降低運營成本:Amdocs 通過在 NVIDIA 基礎設施上使用基于電信的檢索增強生成技術,減少了部署用例所消耗的 token 數量,其中數據預處理和推理消耗的 token 數量分別減少了 60% 和 40%。這使該公司在實現相同準確率的情況下,減少了單位 token 成本(該成本受各種因素和使用量的影響)。
減少延遲:此次合作成功地將查詢延遲減少了約 80%,確保終端用戶體驗到近乎實時的響應速度。這一加速提升了商務、護理、運營等領域的用戶體驗。
Amdocs 計劃繼續通過多種方式,將生成式 AI 集成到 amAIz 平臺中,以便:
使用 AI 驅動的語言和情感分析,增強客戶查詢路由功能
增強其 AI 解決方案的推理能力,從而提供針對客戶特定需求的建議
應對需要廣泛領域知識和多模態、多步驟解決方案的復雜場景,例如網絡診斷和優化等
Amdocs 集團技術總裁兼戰略主管 Anthony Goonetilleke表示:“與 NVIDIA 的戰略合作是 Amdocs 提高生成式 AI 能力的關鍵。這讓我們能夠在基礎設施和框架的基礎上構建產品和服務,以滿足客戶不斷發展的需求?!?/p>
-
NVIDIA
+關注
關注
14文章
4986瀏覽量
103055 -
電信
+關注
關注
2文章
730瀏覽量
61934 -
AI
+關注
關注
87文章
30894瀏覽量
269085 -
智能體
+關注
關注
1文章
150瀏覽量
10578
原文標題:NVIDIA 幫助 Amdocs 為電信行業構建生成式 AI 智能體
文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業解決方案】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論