在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

NVIDIA推出微服務,助力企業邁向生成式AI

NVIDIA英偉達 ? 來源:NVIDIA英偉達 ? 2024-03-21 09:39 ? 次閱讀

NVIDIA 的 AI 平臺適用于任何高瞻遠矚的企業使用,而且比以往任何時候都更加易于應用。

NVIDIA AI Enterprise 5.0于今日發布,其中包括 NVIDIA 微服務、用于部署生成式 AI 應用和加速計算的可下載軟件容器。領先的云服務提供商、系統構建商和軟件供應商均可提供,并且 Uber 等客戶已開始使用該產品。

Uber 平臺工程副總裁 Albert Greenberg 表示:“我們采用了 NVIDIA AI Enterprise 推理軟件,這對于滿足用戶對高性能的期望來說非常重要。讓 Uber 引以為豪的是,我們走在了采用 AI 創新技術的前沿,使我們成為一個在效率和卓越方面樹立行業標準的客戶服務平臺。”

微服務加速應用開發

開發者正在轉而采用微服務,并將其作為在全球范圍內構建現代企業應用的有效方式。他們在瀏覽器中使用云 API 或應用編程接口來編寫可在系統上運行的應用,并為全球用戶提供服務。

NVIDIA AI Enterprise 5.0 現包括一系列微服務,其中包括用于在生產中部署 AI 模型的NVIDIA NIM和包括NVIDIA cuOpt在內的NVIDIA CUDA-X微服務集合。

NIM 微服務可為來自 NVIDIA 及其合作伙伴生態系統的數十種熱門 AI 模型優化推理。

NIM 由 NVIDIA 推理軟件(包括Triton 推理服務器TensorRTTensorRT-LLM)提供支持,可將部署時間由數周縮短至數分鐘。它提供基于行業標準的安全性和可管理性,以及與企業級管理工具的兼容性。

NVIDIA cuOpt 是一款 GPU 加速的 AI 微服務,它在路徑優化方面創造了記錄,并能夠支持動態決策,從而幫助企業降低成本、縮短時間并減少碳足跡。作為 CUDA-X 微服務之一,它可幫助各行業將 AI 投入生產。

更多功能正在陸續開發中。例如NVIDIA RAG LLM operator將把 Co-Pilot 和其他使用檢索增強生成的生成式 AI 應用從試驗階段推向生產階段,而無需重寫任何代碼。

包括 CrowdStrike、SAP 和 ServiceNow 在內的多家領先應用和網絡安全平臺提供商都正在采用 NVIDIA 微服務。

更多工具和功能

此外,我們還在 5.0 版本中進行了 3 項重要更新。

該平臺現集成了一個開發者工具包NVIDIA AI Workbench,用于快速下載、自定義和運行生成式 AI 項目。該軟件目前已全面上市,并已獲得 NVIDIA AI Enterprise 許可證支持。

此外,5.0 版本現在還支持紅帽 OpenStack 平臺,大多數財富 500 強公司都使用該平臺創建私有云和公有云服務。它由紅帽負責維護,為開發者構建虛擬計算環境提供熟悉的平臺。IBM 咨詢服務將幫助客戶部署這些新功能。

此外,5.0 版本還擴展了支持范圍,支持各種最新NVIDIA GPU、網絡硬件和虛擬化軟件。

可隨時隨地運行

功能增強的 NVIDIA AI 平臺比以往任何時候都更易于訪問。

NIM 和 CUDA-X 微服務以及所有 5.0 功能均會很快在亞馬遜科技、谷歌云、Microsoft Azure 和 Oracle Cloud marketplace 上架。

如果用戶希望在自己的數據中心運行代碼,VMware Private AI Foundation 和 NVIDIA 將為軟件提供支持,使其能夠部署在博通公司客戶的虛擬化數據中心中。

企業可以選擇在紅帽 OpenShift 上運行 NVIDIA AI Enterprise,以便在裸機或虛擬化環境中運行。它還可以在 Canonical 的 Charmed Kubernetes 和 Ubuntu 上運行。

此外,該 AI 平臺也將成為慧與(HPE)的 HPE ProLiant 服務器上可用軟件的一部分。HPE 的生成式 AI 企業計算解決方案使用 NVIDIA AI Enterprise 進行推理和模型微調。

同時,Anyscale、Dataiku 和 DataRobot 這三家領先的機器學習操作管理軟件提供商也將在其平臺上支持 NIM。他們加入了由數百家 MLOps 合作伙伴組成的 NVIDIA 生態系統,其中包括 Microsoft Azure 機器學習、Dataloop AI、Domino Data Lab 和 Weights & Biases。

用戶無論通過何種方式訪問 NVIDIA AI Enterprise 5.0,都能從這一安全、生產就緒且性能優化的軟件中獲益。它可以靈活地部署在數據中心、云、工作站或網絡邊緣的應用中。

NVIDIA AI Enterprise 可通過思科、戴爾科技、惠普、HPE、聯想和超微等領先的系統提供商提供。

在 GTC 上聆聽成功案例

3 月 18 日至 21 日,全球 AI 盛會 NVIDIA GTC 在圣何塞會議中心舉行。會上,用戶將會分享他們使用該軟件的體驗。

例如,ServiceNow 首席數字信息官 Chris Bedi 將在小組討論上就如何利用生成式 AI 的潛能進行發言:

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1698205437942001FOg6

ServiceNow AI 產品副總裁 Jeremy Barnes 則會在另一場演講中分享如何借助 NVIDIA AI Enterprise 充分提高開發者的開發效率

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1696278742562001JcJ2

來自貝萊德、美敦力、SAP 和 Uber 的高管們將就其在金融、醫療、企業軟件和業務運營領域中使用 NVIDIA AI 平臺開展的工作進行探討。

此外,總部位于德國汽車保險公司全球應用提供商 ControlExpert 的高管將與大家一同分享如何利用 NVIDIA AI Enterprise 軟件開發 AI 理賠管理解決方案。

NVIDIA 對數百個內外部的生成式 AI 項目進行了評估,并將這些項目全部集成到一個經過穩定性和安全性測試的軟件包中,讓越來越多的公司能夠從中受益。




審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    5187

    瀏覽量

    105390
  • 機器學習
    +關注

    關注

    66

    文章

    8479

    瀏覽量

    133820
  • GPU芯片
    +關注

    關注

    1

    文章

    304

    瀏覽量

    6082
  • ai技術
    +關注

    關注

    1

    文章

    1307

    瀏覽量

    24890
  • 生成式AI
    +關注

    關注

    0

    文章

    524

    瀏覽量

    677

原文標題:GTC24 | NVIDIA 推出微服務,助力企業邁向生成式 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 0人收藏

    評論

    相關推薦

    企業使用NVIDIA NeMo微服務構建AI智能體平臺

    已發布的 NeMo 微服務可與合作伙伴平臺集成,作為創建 AI 智能體的構建模塊,使用商業智能與強大的邏輯推理模型 (包括 NVIDIA Llama Nemotron) 處理更多任務。
    的頭像 發表于 04-27 15:05 ?185次閱讀

    Oracle 與 NVIDIA 合作助力企業加速代理式 AI 推理

    ——Oracle 和 NVIDIA 今日宣布,NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎設施以及生成
    發表于 03-19 15:24 ?274次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作<b class='flag-5'>助力</b><b class='flag-5'>企業</b>加速代理式 <b class='flag-5'>AI</b> 推理

    NVIDIA發布全新NIM AI Guardrail微服務

    ,致力于提升生成AI應用的安全性、精準度和可擴展性。 這些微服務以NeMo Guardrails為核心進行編排,充分利用了NVIDIA N
    的頭像 發表于 01-18 11:48 ?649次閱讀

    NVIDIA 發布保障代理式 AI 應用安全的 NIM 微服務

    NVIDIA NeMo Guardrails 軟件工具系列的一部分。這些可移植且經過優化的推理微服務可幫助企業提高生成
    發表于 01-17 16:29 ?126次閱讀

    NVIDIA推出多個生成AI模型和藍圖

    NVIDIA 宣布推出多個生成 AI 模型和藍圖,將 NVIDIA Omniverse 一體化
    的頭像 發表于 01-08 10:48 ?403次閱讀

    NVIDIA助力企業創建定制AI應用

    NVIDIA 近日宣布與眾多技術領導者一同使用最新NVIDIA NIM Agent Blueprint以及NVIDIA NeMo和NVIDIA NIM
    的頭像 發表于 11-20 09:12 ?596次閱讀

    NVIDIA助力Amdocs打造生成AI智能體

    正在使用NVIDIA DGX Cloud 與 NVIDIA AI Enterprise軟件開發和交付基于商用大語言模型(LLM)和領域適配模型的解決方案。該公司還在使用NVIDIA
    的頭像 發表于 11-19 14:48 ?677次閱讀

    借助NVIDIA NIM微服務助力可口可樂公司擴展生成AI內容

    借助 NVIDIA NIM 微服務 USD Search 和 USD Code,市場營銷領導者 WPP 幫助飲料公司在全球范圍內加速創意活動的迭代。
    的頭像 發表于 08-13 16:16 ?740次閱讀

    全新NVIDIA NIM微服務生成AI引入數字環境

    生成物理 AI NIM 微服務以及 NVIDIA Metropolis 參考工作流旨在協助創建智能的沉浸
    的頭像 發表于 08-02 15:20 ?758次閱讀

    NVIDIA攜手Meta推出AI服務,為企業提供生成AI服務

    NVIDIA近日宣布了一項重大舉措,正式推出NVIDIA AI Foundry服務NVIDIA
    的頭像 發表于 07-25 16:57 ?718次閱讀

    英偉達推出全新NVIDIA AI Foundry服務NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務NVIDIA NIM 推
    的頭像 發表于 07-25 09:48 ?927次閱讀

    NVIDIA AI Foundry 為全球企業打造自定義 Llama 3.1 生成 AI 模型

    Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成 AI 模型服務,以便部署自定義 Llama 3.1
    發表于 07-24 09:39 ?815次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>AI</b> Foundry 為全球<b class='flag-5'>企業</b>打造自定義 Llama 3.1 <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 模型

    NVIDIA推出NVIDIA AI Computing by HPE加速生成 AI 變革

    關系進一步深化。助力生成 AI企業級應用與發展加速駛入快車道。 HPE Private Cloud
    的頭像 發表于 06-20 17:36 ?913次閱讀

    NVIDIA宣布全面推出 NVIDIA ACE 生成 AI 微服務

    采用 NVIDIA 宣布全面推出 NVIDIA ACE 生成 AI
    的頭像 發表于 06-04 10:18 ?856次閱讀

    NVIDIA發布數字人微服務,為制作生成AI數字化身鋪平未來之路

    ? ? COMPUTEX—2024年6月2日— NVIDIA宣布全面推出NVIDIA ACE生成AI
    發表于 06-03 17:43 ?219次閱讀
    主站蜘蛛池模板: 久久国产成人精品国产成人亚洲 | 49vv婷婷网| 日本最好的免费影院 | 日本不卡视频在线视频观看 | 5g影院午夜伴侣 | 午夜香蕉网 | h网站免费在线观看 | 国模欢欢炮交啪啪150 | 国产va免费精品 | 两性色午夜视频免费老司机 | 免费被视频网站在线观看 | 国产三级精品最新在线 | 天天综合网色 | 色偷偷亚洲天堂 | 四虎海外在线永久免费看 | 中国人69xxx大全 | 午夜视频在线免费 | 欧洲精品码一区二区三区免费看 | 1024手机免费看片 | 中文字幕一区2区3区 | jinv在线视频| 色天使久久综合网天天 | 久久dvd| 深爱五月激情五月 | 天天操天天透 | 97人人射| 免费看黄视频网站 | 国产网站在线播放 | 大香伊在人线免费 | 久久婷婷五综合一区二区 | 国产精品夜夜春夜夜爽 | 不卡中文字幕在线 | 天天看天天干天天操 | 男人天堂网在线播放 | 在线天堂中文官网 | 国产一级毛片午夜 | 久久久久久毛片免费播放 | 久久99国产精品免费观看 | 国产综合精品久久久久成人影 | 毛片高清一区二区三区 | 色婷婷综合网 |

    電子發燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品