2023 亞馬遜云科技 re:Invent 在拉斯維加斯威尼斯人會展中心舉行，亞馬遜云科技（AWS）和 NVIDIA 宣布擴大戰略合作，共同提供最先進的基礎架構、軟件和服務，推進客戶的生成式 AI 創新。

期間，NVIDIA 創始人兼首席執行官黃仁勛與亞馬遜云科技首席執行官 Adam Selipsky 共同登臺，向大眾展示了這次發布的新內容，其中蘊含著多個創新的亮點。接下來，請跟隨本文一同探索這些新動向。

亞馬遜云科技與 NVIDIA 宣布開展戰略合作，為生成式 AI 提供全新超級計算基礎架構、軟件和服務

NVIDIA 通過企業級生成式 AI 微服務為聊天機器人、AI 助手和摘要工具帶來商業智能

NVIDIA BioNeMo 在亞馬遜云科技上線，實現用于藥物研發的生成式 AI

NVIDIA 為部分大型亞馬遜 Titan 基礎模型提供訓練支持

亞馬遜云科技與 NVIDIA 宣布開展戰略合作，為生成式 AI 提供

全新超級計算基礎架構、軟件和服務

亞馬遜云科技（AWS）和 NVIDIA 宣布擴大戰略合作，共同提供最先進的基礎架構、軟件和服務，推進客戶的生成式 AI 創新。 NVIDIA 與亞馬遜云科技將集兩家公司技術之大成，無論是采用 NVIDIA 最新多節點系統的新一代 GPU、CPU 和 AI 軟件，還是 AWS Nitro System 高級虛擬化與安全功能、Elastic Fabric Adapter（EFA）互連接口和可擴展性 UltraCluster，均為訓練基礎模型和構建生成式 AI 應用的理想選擇。 這一擴展合作建立在雙方長期合作關系的基礎上。兩家公司通過為早期的機器學習（ML）先行者提供推進這些技術發展所需的計算性能，進而推動了生成式 AI 時代的發展。 NVIDIA 創始人兼首席執行官黃仁勛表示：“生成式 AI 正在深入改變云工作負載，并將加速計算作為多樣化內容生成的基礎。NVIDIA 和亞馬遜云科技的共同使命是為每一位客戶提供經濟高效的前沿生成式 AI 技術。在這一使命的驅動下，NVIDIA 和亞馬遜云科技正在開展覆蓋整個計算堆棧的合作，包括 AI 基礎架構、加速庫、基礎模型以及生成式 AI 服務。”

點擊圖片即可閱讀全文

NVIDIA 通過企業級生成式 AI 微服務

為聊天機器人、AI 助手和摘要工具

帶來商業智能

NVIDIA 宣布推出一項生成式 AI 微服務，支持企業將自定義大語言模型與企業數據相連接，使其 AI 應用能夠提供高度準確的響應。

NVIDIA NeMo Retriever 是 NVIDIA NeMo（一個用于構建、自定義和部署生成式 AI 模型的框架和工具系列）的一項全新服務，通過企業級檢索增強生成（RAG）功能，幫助組織加強其生成式 AI 應用。

作為一項語義檢索微服務，NeMo Retriever 借助經 NVIDIA 優化的算法，幫助生成式 AI 應用作出更加準確的回答。使用該微服務的開發者，可以將其 AI 應用與位于各個云和數據中心的業務數據相連通。該服務為 AI 代工添加了 NVIDIA 優化的 RAG 功能，并被整合到亞馬遜云科技 Marketplace 上的 NVIDIA AI Enterprise 軟件平臺中。

NVIDIA 創始人兼首席執行官黃仁勛表示：“具有 RAG 功能的生成式 AI 應用是企業的下一個殺手級應用。借助 NVIDIA NeMo Retriever，開發者可以創建自定義生成式 AI 聊天機器人、AI 助手和摘要工具。它們能夠訪問企業的業務數據，通過準確且有價值的生成式 AI 智能來提高生產力。”

點擊圖片即可閱讀全文

NVIDIA BioNeMo 在亞馬遜云科技上線，

實現用于藥物研發的生成式 AI

制藥和科技生物頭部企業的研究與開發人員現在可以通過亞馬遜云科技輕松部署 NVIDIA Clara 軟件和服務，以加快醫療研究進程。

這讓使用 AWS 云資源的醫療和生命科學開發人員能夠靈活地集成 NVIDIA 加速的產品，比如用于藥物發現的生成式 AI 平臺 NVIDIA BioNeMo 等。

該平臺即將登陸亞馬遜云科技上的 NVIDIA DGX 云，目前可通過高性能計算集群管理工具 AWS ParallelCluster 及 Amazon SageMaker 機器學習服務使用。

點擊圖片即可閱讀全文

NVIDIA 為部分大型亞馬遜 Titan 基礎模型

提供訓練支持

亞馬遜云科技有一支由資深科學家和開發者組成的團隊，致力于為 Amazon Bedrock（一項用于基礎模型的生成式 AI 服務）創建 Amazon Titan 基礎模型。該團隊在過去幾個月中一直在使用 NVIDIA NeMo。

NeMo 的并行技術可實現高效的大規模 LLM 訓練。當與亞馬遜云科技的 Elastic Fabric Adapter（EFA）配合使用時，團隊可以將 LLM 擴展到多顆 GPU 上，從而加快訓練速度。

EFA 為亞馬遜云科技客戶提供了一個 UltraCluster 聯網基礎設施，可直接連接 1 萬多顆 GPU，并使用 NVIDIA GPUDirect 繞過操作系統和 CPU。

這一結合使亞馬遜云科技的科學家們能夠提供出色的模型質量，這是只依靠其他數據并行方法無法大規模實現的。

點擊圖片即可閱讀全文

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。