NVIDIA Fleet Command是一種云服務(wù)，可跨分布式邊緣基礎(chǔ)設(shè)施安全部署、管理和擴(kuò)展 AI 應(yīng)用程序。自 7 月艦隊(duì)司令部啟動以來，已經(jīng)實(shí)現(xiàn)了幾個重要里程碑，并在 NVIDIA GTC 上展示。

Fleet 命令增加了遠(yuǎn)程控制臺 2.0 、 MIG 支持、加密文件存儲等功能

艦隊(duì)司令部不斷增加新功能。除了使平臺更加健壯和安全外，還結(jié)合了來自客戶和合作伙伴的反饋，使組織更容易在邊緣開始使用人工智能。

今天提供的新功能包括：

多實(shí)例 GPU （ MIG ）支持：允許將 GPU 安全地劃分為單獨(dú)的 GPU 實(shí)例。

遠(yuǎn)程控制臺 2.0 ：無需額外端口，啟動速度更快，以提供及時安全的遠(yuǎn)程訪問。

安全 NFS 支持：允許使用現(xiàn)有的加密存儲解決方案。

高級網(wǎng)絡(luò)：支持代理、無 DHCP 的網(wǎng)絡(luò)對 IP 地址更改的彈性以及云端的相應(yīng)可觀察性。

有了 NVIDIA LaunchPad ，用戶完全可以免費(fèi)體驗(yàn) Fleet Command

在今年的 GTC 會議上，我們宣布了 NVIDIA LaunchPad 在全球范圍內(nèi)的可用性。

NVIDIA LaunchPad是一個讓企業(yè)和組織能夠立即、短期訪問運(yùn)行在加速計(jì)算上的 NVIDIA AI 的計(jì)劃，以加速現(xiàn)代數(shù)據(jù)驅(qū)動應(yīng)用程序的開發(fā)和部署。它允許您在可以購買和部署的同一個完整堆棧上快速測試和原型化整個人工智能工作流。

組織可以使用 LaunchPad 獲得對艦隊(duì)司令部的完全訪問權(quán)，以體驗(yàn)免費(fèi)部署和擴(kuò)展 AI 。用戶可以訪問優(yōu)化模型和應(yīng)用程序的目錄，以探索 AI 如何為他們的組織帶來好處。他們還可以了解一種交鑰匙云服務(wù)，用于在真實(shí)服務(wù)器上部署和監(jiān)控真實(shí)應(yīng)用程序，以及用于無縫調(diào)配和運(yùn)行應(yīng)用程序的加速邊緣計(jì)算基礎(chǔ)設(shè)施。

圖 1 。 NVIDIA LaunchPad 允許用戶試用 AI 開發(fā)的每個階段，從數(shù)據(jù)準(zhǔn)備到部署。

有興趣開始使用 NVIDIA LaunchPad 上的 Fleet Command 嗎？申請立即訪問。

Mavenir 基于 NVIDIA AI-On-5G 平臺發(fā)布 MaveEdge AI

英偉達(dá) AI ON 5G 平臺可用于構(gòu)建連接智能和工業(yè) 4 解決方案。該平臺基于 NVIDIA Aeror 5G ，由艦隊(duì)司令部管理，通過使企業(yè)能夠在同一計(jì)算基礎(chǔ)設(shè)施上部署 AI 和 5G ，在邊緣提供互聯(lián)智能。這種方法提供了靈活、高效、可靠和安全的智能邊緣網(wǎng)絡(luò)，重新定義了業(yè)務(wù)流程，并在邊緣為 AI 提供了新的用例。

MavEdEi 是基于英偉達(dá) AI ON 5G 平臺的第一個 AI-ON 5G 解決方案。該解決方案通過 5G 無線電將 5G 連接到 AI-on-5G 硬件和軟件，為制造業(yè)、采礦業(yè)、零售業(yè)和醫(yī)療保健行業(yè)的用例提供視頻分析。

MAVedge AI 為 NVIDIA 的 AI-on-5G 平臺增加了不斷增長的生態(tài)系統(tǒng)。 NVIDIA 還與戴爾、富士康和軟銀等合作伙伴合作，加快在本地或云中構(gòu)建 AI-on-5G 。

引入英偉達(dá) A2 張量核 GPU 用于邊緣推理

今年在 GTC 上發(fā)布的還有NVIDIA A2，用于入門級和邊緣服務(wù)器。

NVIDIA A2 張量核心 GPU 是優(yōu)化入門級推理，智能視頻分析，和英偉達(dá) AI 部署。這對于受空間和散熱要求限制的邊緣服務(wù)器尤其有用，例如 5G 邊緣和工業(yè)環(huán)境。 A2 提供了在低功耗外殼中運(yùn)行的輕巧外形，從 60W 到 40W 的 TDP ，非常適合任何邊緣服務(wù)器。

A2的多功能性、緊湊的尺寸和低功耗超過了大規(guī)模邊緣部署的要求，可立即升級現(xiàn)有入門級 CPU 服務(wù)器以處理推理。與 CPU 相比，A2 GPU 加速的服務(wù)器提供了高達(dá)37倍的推理性能，并且比以前的 CPU 部署效率高1.3倍 GPU 各代產(chǎn)品均以入門級價(jià)位銷售。

A2 在領(lǐng)先的 OEM NVIDIA 認(rèn)證系統(tǒng)中可用?， 它跨邊緣、數(shù)據(jù)中心和云提供突破性的推理性能，確保啟用 AI 的應(yīng)用程序部署時使用更少的服務(wù)器、更少的電源和更低的成本。作為我們 NVIDIA 認(rèn)證計(jì)劃的一部分，基于 NVIDIA A2 GPU 的系統(tǒng)與 Fleet Command 兼容。

NVIDIA 認(rèn)證系統(tǒng)的兩個新類別

NVIDIA 認(rèn)證系統(tǒng)現(xiàn)在包括邊緣系統(tǒng)類別。這些系統(tǒng)經(jīng)過認(rèn)證，可提供在傳統(tǒng)數(shù)據(jù)中心之外運(yùn)行加速應(yīng)用程序的能力，包括：

推理的優(yōu)良性能：已經(jīng)顯示了英偉達(dá) A30 系統(tǒng)在一系列推理工作量上提供領(lǐng)先的性能，正如 2021 年 9 月 MLPRF 基準(zhǔn)測試結(jié)果所證明的。 A30 多實(shí)例 GPU （ MIG ）支持還允許最多四個工作負(fù)載同時運(yùn)行，并保證其自身的服務(wù)質(zhì)量，從而最大限度地提高計(jì)算利用率和效率。

低功耗：新的 A2 GPU 將很快納入 NVIDIA 認(rèn)證系統(tǒng)計(jì)劃。它提供入門級、低功耗、緊湊型加速，用于邊緣 AI 和推理，并提供英偉達(dá)企業(yè) GPU 組合的最小足跡。

安全性：對 Trusted Platform Module 功能的驗(yàn)證可實(shí)現(xiàn)安全引導(dǎo)、磁盤加密和數(shù)字簽名應(yīng)用程序的使用。

這是兩類經(jīng)認(rèn)證的邊緣系統(tǒng)。企業(yè)邊緣系統(tǒng)旨在部署在受控環(huán)境中，如零售店。 Industrial edge 系統(tǒng)專為堅(jiān)固的部署而設(shè)計(jì)，如高溫環(huán)境。

Fleet Command 與所有經(jīng) NVIDIA 認(rèn)證的系統(tǒng)兼容，包括 Enterprise Edge 和 Industrial Edge 系統(tǒng)。了解有關(guān)NVIDIA-Certified Systems的更多信息。

新的合作伙伴意味著艦隊(duì)司令部有了新的應(yīng)用程序

數(shù)十個新合作伙伴已添加到我們的生態(tài)系統(tǒng)中，為企業(yè)提供數(shù)百種應(yīng)用程序選擇，以便使用 Fleet Command 在邊緣部署。通過將我們的應(yīng)用程序合作伙伴與構(gòu)建邊緣解決方案的客戶聯(lián)系起來，我們加快了人工智能的時間，并簡化了可能需要數(shù)周或數(shù)月時間的流程。

一些合作伙伴包括Data Monsters，該公司正在使用計(jì)算機(jī)視覺進(jìn)行工業(yè)檢查和制造。Ironyun正在利用 AI 支持的視頻分析進(jìn)行安全、訪問控制以及安全和搜索。Kinetic Vision正在為消費(fèi)品包裝企業(yè)的 AI 支持的計(jì)算機(jī)視覺構(gòu)建端到端解決方案。

艦隊(duì)司令部繼續(xù)與客戶和合作伙伴保持密切聯(lián)系。要保持最新狀態(tài)，請務(wù)必檢查與艦隊(duì)指揮和邊緣計(jì)算相關(guān)的所有 GTC 會話。

關(guān)于作者

Troy Estes 是 NVIDIA Edge 和企業(yè)計(jì)算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前，特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事營銷活動和支持產(chǎn)品 GTM 。

審核編輯：郭婷