OVX 服務器采用全新 NVIDIA GPU 以加速訓練和推理以及圖形密集型工作負載,將通過戴爾科技、慧與、聯想、超微等公司提供。
洛杉磯 — SIGGRAPH — 太平洋時間 2023 年 8 月 8 日 —NVIDIA 宣布推出搭載全新 NVIDIA L40S GPU 的 NVIDIA OVX 服務器。這款功能強大的通用數據中心處理器將通過 NVIDIA Omniverse 平臺,加速計算密集型的復雜應用,包括 AI 訓練與推理、3D 設計與可視化、視頻處理以及工業數字化等。
這款全新 GPU 將加速生成式 AI 的計算工作負載。生成式 AI 為各行各業的工作流和服務都帶來了變革,如文本、圖像和視頻生成、聊天機器人、游戲開發、產品設計以及醫療等。
NVIDIA 專業可視化副總裁 Bob Pette 表示:“生成式 AI 為各行各業都帶來了變革,企業也更需要為數據中心尋求大規模計算資源。配備 NVIDIA L40S GPU 的 OVX 系統能夠加速 AI、圖形和視頻處理工作負載,滿足不斷增加的復雜且多樣的應用對性能的嚴苛要求。”
強大的 AI 和圖形性能
NVIDIA OVX 系統的每臺服務器最多支持 8 塊 NVIDIA L40S GPU,每塊 GPU 的顯存為 48GB。基于 NVIDIA Ada Lovelace GPU 架構的 L40S 搭載第四代 Tensor Core 和 FP8 Transformer Engine,可提供超過 1.45 PFLOP 的張量處理能力。對于擁有數十億個參數和多種數據模式(如文本和視頻)的復雜 AI 工作負載,與 NVIDIA A100 Tensor Core GPU 相比,L40S 能夠將生成式 AI 的推理性能和訓練性能分別提高 1.2 倍和 1.7 倍。
為了支持實時渲染、產品設計、3D 內容創建等高保真專業可視化工作流,NVIDIA L40S GPU 搭載 142 顆第三代 RT Core,可提供 212 TFLOP 的光線追蹤性能,使專業創作者能夠創建沉浸式的視覺體驗和逼真的內容。
針對計算要求嚴苛的工作流,如工程和科學模擬等,NVIDIA L40S 搭載 18,176 顆 CUDA Core,可提供近 5 倍于 NVIDIA A100 GPU 的單精度浮點計算(FP32)性能,以加快復雜計算和數據密集型分析的速度。
早期采用情況
專注于大規模 GPU 加速工作負載領域的 CoreWeave 是首批提供 L40S 實例的云服務提供商之一。
CoreWeave 首席技術官 Brian Venturo 表示:“隨著生成式 AI 的爆發式增長,我們各行各業的客戶都在尋求性能強大的計算產品和規模上的擴展,以應對從交互式視頻到 AI 設計和自動化等各類工作負載的復雜性。NVIDIA L40S GPU 將進一步擴大我們豐富的 NVIDIA 解決方案陣容,使 CoreWeave 成為首家提供這些新資源的專業云服務提供商,為下一批生成式 AI 應用提供快速、高效、經濟的加速計算。”
提升 AI 性能的軟件
部署 L40S GPU 的企業將受益于 NVIDIA AI Enterprise 軟件。該軟件今日發布了重大更新,能夠為 100 多個框架、預訓練模型、工具套件和軟件提供生產就緒型企業級支持和安全,其中包括用于模擬的 NVIDIA Modulus、用于數據科學的 NVIDIA RAPIDS 和用于生產型 AI 的 NVIDIA Triton 推理服務器。
Omniverse 的功能日益豐富
NVIDIA 還發布了對 Omniverse 平臺的重大更新,新推出的各種功能和平臺升級將助力開發者借助生成式 AI 的強大功能,加速并推進 OpenUSD 工作流程和工業數字化應用。支持 Omniverse Cloud 的下一代 NVIDIA OVX 系統將配備 L40S GPU,為大幅加速生成式 AI 流程和 Omniverse 工作負載提供所需的 AI 和圖形性能。
供應情況
NVIDIA L40S 將于今年秋季上市。包括華碩、戴爾科技、技嘉、慧與、聯想、QCT、超微在內的全球系統構建商近期將提供搭載 NVIDIA L40S GPU 的 OVX 系統。該服務器將幫助全球專業人士推進 AI 的發展。并為各行各業的用戶帶來智能聊天機器人、搜索和摘要工具等生成式 AI 應用。請與這些系統構建商聯系,了解具體的供應地區、系統配置詳情和供貨情況。
原文標題:SIGGRAPH 2023 | NVIDIA 與全球數據中心系統制造商大力推動 AI 與工業數字化的發展
文章出處:【微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
-
英偉達
+關注
關注
22文章
3778瀏覽量
91177
原文標題:SIGGRAPH 2023 | NVIDIA 與全球數據中心系統制造商大力推動 AI 與工業數字化的發展
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論