軟銀集團(tuán)使用 NVIDIA Blackwell 打造日本國(guó)內(nèi)最強(qiáng)大的 AI 超級(jí)計(jì)算機(jī)，用于廣泛的主權(quán) AI 計(jì)劃，并宣布了 Grace Blackwell 計(jì)劃

借助 NVIDIA AI Aerial，軟銀集團(tuán)打造全球首個(gè)實(shí)時(shí) 5G AI-RAN，為全球電信行業(yè)開(kāi)辟數(shù)十億美元的新收入來(lái)源

軟銀集團(tuán)使用 NVIDIA AI Enterprise 創(chuàng)建 AI Marketplace，滿足日本對(duì)本地安全 AI 計(jì)算的需求

NVIDIA 宣布與軟銀集團(tuán)開(kāi)展一系列合作，旨在加速日本主權(quán) AI 計(jì)劃，并進(jìn)一步提升日本在全球的技術(shù)領(lǐng)先優(yōu)勢(shì)，同時(shí)為全球電信運(yùn)營(yíng)商開(kāi)辟數(shù)十億美元的 AI 收入來(lái)源。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在 NVIDIA AI Summit Japan 的特別演講中宣布，軟銀集團(tuán)正在使用NVIDIA Blackwell平臺(tái)打造日本最強(qiáng)大的 AI 超級(jí)計(jì)算機(jī)，并計(jì)劃將NVIDIA Grace Blackwell平臺(tái)應(yīng)用于其下一代超級(jí)計(jì)算機(jī)。

此外，通過(guò)使用NVIDIA AI Aerial加速計(jì)算平臺(tái)，軟銀集團(tuán)成功試運(yùn)行了全球首個(gè) AI 與 5G 相結(jié)合的電信網(wǎng)絡(luò)。這項(xiàng)計(jì)算領(lǐng)域的突破為電信運(yùn)營(yíng)商開(kāi)辟了可能達(dá)到數(shù)十億美元價(jià)值的 AI 收入來(lái)源。

NVIDIA 和軟銀集團(tuán)還宣布，軟銀集團(tuán)正計(jì)劃使用NVIDIA AI Enterprise軟件創(chuàng)建一個(gè) AI Marketplace，以滿足對(duì)本地安全 AI 計(jì)算的需求。憑借這項(xiàng)支持 AI 訓(xùn)練和邊緣 AI 推理的新服務(wù)，軟銀集團(tuán)有望成為日本的 AI 引擎，為各個(gè)行業(yè)、個(gè)人和企業(yè)帶來(lái)創(chuàng)造、分配和使用 AI 服務(wù)的新商機(jī)。

黃仁勛表示：“日本在推動(dòng)具有全球影響力的技術(shù)創(chuàng)新方面有著悠久的歷史。憑借軟銀集團(tuán)對(duì) NVIDIA 全棧 AI、Omniverse和 5G AI-RAN 平臺(tái)的巨大投資，日本正在一躍成為 AI 產(chǎn)業(yè)變革的全球領(lǐng)軍者，推動(dòng)電信、交通、機(jī)器人和醫(yī)療健康行業(yè)進(jìn)入新增長(zhǎng)時(shí)代。這將在人工智能時(shí)代極大地造福人類。”

軟銀集團(tuán)總裁兼首席執(zhí)行官 Junichi Miyakawa 表示：“世界各國(guó)和地區(qū)都在加速使用 AI 促進(jìn)社會(huì)和經(jīng)濟(jì)增長(zhǎng)，社會(huì)正在經(jīng)歷重大轉(zhuǎn)型。通過(guò)與 NVIDIA 的長(zhǎng)期合作，軟銀集團(tuán)正站在這一轉(zhuǎn)型的最前沿。憑借我們強(qiáng)大的 AI 基礎(chǔ)設(shè)施以及專為 AI 重塑 5G 網(wǎng)絡(luò)的全新分布式 AI-RAN 解決方案‘AITRAS’，我們將加速全國(guó)乃至全球的創(chuàng)新步伐。”

軟銀集團(tuán)率先接收 Blackwell

并計(jì)劃使用 Grace Blackwell

軟銀集團(tuán)計(jì)劃接收全球首批 NVIDIA 系統(tǒng)，該系統(tǒng)將作為其全新NVIDIA SuperPOD超級(jí)計(jì)算機(jī)的構(gòu)建模塊。

軟銀集團(tuán)計(jì)劃將其由 Blackwell 驅(qū)動(dòng)的 SuperPOD 用于自身以及日本全國(guó)大學(xué)、研究機(jī)構(gòu)和企業(yè)的生成式 AI 開(kāi)發(fā)與 AI 相關(guān)業(yè)務(wù)。

建成后，軟銀集團(tuán)的 SuperPOD 預(yù)計(jì)將成為日本迄今為止性能最佳的系統(tǒng)。它配備 NVIDIA AI Enterprise 軟件和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)，也十分適合用于開(kāi)發(fā)大語(yǔ)言模型。

除了 SuperPOD 之外，軟銀集團(tuán)還計(jì)劃再建造一臺(tái) NVIDIA 加速的超級(jí)計(jì)算機(jī)，以運(yùn)行計(jì)算極為密集的工作負(fù)載。該超級(jí)計(jì)算機(jī)初步計(jì)劃基于 NVIDIA Grace Blackwell 平臺(tái)設(shè)計(jì)，采用NVIDIA NVL72多節(jié)點(diǎn)液冷機(jī)架式系統(tǒng)，將NVIDIA Blackwell GPU與基于 Arm 的節(jié)能型NVIDIA Grace CPU相結(jié)合。

AI-RAN 抵達(dá)新的里程碑

軟銀集團(tuán)通過(guò)與 NVIDIA 密切合作，在技術(shù)上取得了巨大成就，開(kāi)發(fā)出一種可同時(shí)運(yùn)行 AI 和 5G 工作負(fù)載的新型電信網(wǎng)絡(luò)，業(yè)界稱之為人工智能無(wú)線接入網(wǎng)絡(luò)（AI-RAN）。

這種新型基礎(chǔ)設(shè)施得到了電信行業(yè)生態(tài)的廣泛支持，它使運(yùn)營(yíng)商能夠?qū)⒒緩某杀?a target="_blank">中心轉(zhuǎn)變?yōu)?AI 創(chuàng)收資產(chǎn)。

通過(guò)在神奈川縣進(jìn)行的室外試驗(yàn)，軟銀集團(tuán)展示了其 NVIDIA 加速 AI-RAN 解決方案已達(dá)到電信級(jí) 5G 性能，并且能夠利用網(wǎng)絡(luò)的過(guò)剩容量同時(shí)運(yùn)行 AI 推理工作負(fù)載。

傳統(tǒng)的電信網(wǎng)絡(luò)是為處理峰值負(fù)載而設(shè)計(jì)，平均僅使用了容量的三分之一。借助 AI-RAN 提供的通用計(jì)算能力，預(yù)計(jì)電信公司能夠?qū)⑹Ｓ嗟娜种萘坑糜?AI 推理服務(wù)，實(shí)現(xiàn)容量變現(xiàn)。

根據(jù) NVIDIA 和軟銀集團(tuán)的預(yù)測(cè)，電信運(yùn)營(yíng)商在新 AI-RAN 基礎(chǔ)設(shè)施上每投資 1 美元，就能獲得大約 5 美元的 AI 推理收入(1)。考慮到運(yùn)營(yíng)成本和資本支出成本，軟銀集團(tuán)估計(jì)，每增加 1 臺(tái) AI-RAN 服務(wù)器，其基礎(chǔ)設(shè)施的回報(bào)率最高可達(dá) 219%。(2)

在 AI-RAN 上運(yùn)行現(xiàn)實(shí)世界推理

在試驗(yàn)中，軟銀集團(tuán)使用 NVIDIA AI Enterprise 構(gòu)建了現(xiàn)實(shí)世界 AI 推理應(yīng)用，包括自動(dòng)駕駛汽車遠(yuǎn)程支持、機(jī)器人控制和邊緣多模態(tài)檢索自動(dòng)生成。所有推理工作負(fù)載都能在軟銀集團(tuán)的 AI-RAN 網(wǎng)絡(luò)上以最佳狀態(tài)運(yùn)行。

軟銀集團(tuán)的全軟件定義 5G 無(wú)線電堆棧專門針對(duì) NVIDIA AI 計(jì)算平臺(tái)進(jìn)行了優(yōu)化，并且包含軟銀集團(tuán)基于NVIDIA Aerial CUDA加速 RAN 庫(kù)增強(qiáng)的 L1 軟件。軟銀集團(tuán)計(jì)劃將NVIDIA Aerial RAN Computer-1系統(tǒng)整合到其未來(lái)的解決方案中，并估計(jì)該系統(tǒng)的功耗比傳統(tǒng) 5G 網(wǎng)絡(luò)基礎(chǔ)設(shè)施減少 40%。(3)

NVIDIA 和軟銀集團(tuán)的合作伙伴為軟銀集團(tuán)的 AI-RAN 解決方案試驗(yàn)做出了貢獻(xiàn)，其中包括富士通和紅帽。

供需匹配

由于 AI-RAN 解決方案需要在不影響運(yùn)營(yíng)商級(jí)實(shí)時(shí)性能的前提下，根據(jù)供需情況動(dòng)態(tài)增減算力，因此，軟銀集團(tuán)計(jì)劃通過(guò)使用 NVIDIA AI Enterprise 無(wú)服務(wù)器應(yīng)用編程接口及其內(nèi)部開(kāi)發(fā)的編排器，建立一個(gè)連接 AI 技術(shù)供需雙方的生態(tài)系統(tǒng)。這使軟銀集團(tuán)能夠在有可用的計(jì)算資源時(shí)，將外部 AI 推理作業(yè)調(diào)度到 AI-RAN 服務(wù)器，以此提供本地化、低延遲且安全的推理服務(wù)。

NVIDIA 電信業(yè)務(wù)高級(jí)副總裁 Ronnie Vasishta 表示：“如果能夠從單一用途轉(zhuǎn)向多用途的 AI-RAN 網(wǎng)絡(luò)，那么每投資 1 美元，就能獲得 5 倍的收益。軟銀集團(tuán)的現(xiàn)場(chǎng)實(shí)地試驗(yàn)驗(yàn)證了技術(shù)的可行性、性能和經(jīng)濟(jì)性，標(biāo)志著 AI-RAN 朝商業(yè)化落地邁出了一大步。”

軟銀集團(tuán)副總裁兼先進(jìn)技術(shù)研究所所長(zhǎng) Ryuji Wakikawa 表示：“軟銀集團(tuán)的‘AITRAS’是與 NVIDIA 合作五年來(lái)開(kāi)發(fā)的首個(gè) AI-RAN 解決方案。它使用軟銀集團(tuán)開(kāi)發(fā)的編排器，整合協(xié)調(diào) AI 和 RAN 工作負(fù)載，通過(guò)在單個(gè) NVIDIA 加速 GPU 服務(wù)器上運(yùn)行密集單元來(lái)提高通信效率。相信 AITRAS 這項(xiàng) AI 驅(qū)動(dòng)的創(chuàng)新成果將為電信業(yè)的新業(yè)務(wù)模式打下基礎(chǔ)，成為移動(dòng)運(yùn)營(yíng)商轉(zhuǎn)型的關(guān)鍵。”