在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

英偉達發布采用NVLink-C2C技術的Grace Superchip芯片

lPCU_elecfans ? 來源:電子發燒友網 ? 作者:電子發燒友網 ? 2022-03-26 11:20 ? 次閱讀

電子發燒友網報道(文/周凱揚)英偉達在GTC22上發布了全新的Grace Superchip,該芯片中用到了NVLink-C2C技術,而去年公開的Grace Hopper Superchip同樣用到了這一技術。根據英偉達超大規模計算部門副總裁Ian Buck的說法,Chiplet和異構計算已經成了解決摩爾定律緩慢進展的兩大有效手段。而NVLink-C2C這一面向die和chip的互聯技術,成了英偉達對愈發普及的Chiplet設計的回應。

Superchip的互聯

也許在不少人看來的印象中,提到NVLink會想到下圖這個橋接多個高端顯卡或專業顯卡的RTX NVLink Bridge,其實NVLink這一技術在服務器級別的GPU中反倒更為普遍。從P100的第一代NVLink,到V100的第二代NVLink,A100的第三代NVLink,最后再到如今H100的第四代NVLink。NVLink可以說是跟著GPU架構一路推陳出新了,如今享受第四代NVLink性能的成了Hopper架構的GPU。而在英偉達的SERDES和LINK技術發展下,NVLink也從PCB、MCM走向了硅中介層和晶圓,也因此有了NVLink-C2C。

Grace Superchip顯然用的是ARM Neoverse N2這一基于Arm v9架構的設計,但從芯片圖可以看出,單個Grace Superchip芯片由兩個Grace CPU組成,才讓總核心數達到了144。而這兩個CPU組成的方式,正是NVLink-C2C這一互聯技術。我們在開頭已經提到,去年公開的Grace Hopper Superchip同樣使用了這一互聯技術,只不過當時單個Grace Hopper Superchip芯片中互聯的,是一個Grace CPU和一個Hopper GPU。

NVLink-C2C為英偉達帶來的遠不止這樣一對一的互聯方案,而是一整套系統架構上的創新。在NVLink-C2C的支持下,英偉達可以選擇一個Grace CPU,兩個Hopper GPU的設計,或是兩個2個Grace CPU+2個Hopper GPU,甚至是2個Grace CPU+8個Hopper GPU??梢钥闯?,NVLink-C2C為Grace和Hopper在數據中心和HPC應用提供了極大的擴展性。

遠超PCIe 5.0的性能

英偉達強調,NVLink-C2C具有前所未有的性能,比如處理器與加速器之間900GB/s的高帶寬數據傳輸,以及快速同步和高頻率更新下的超低延遲,以及在先進封裝英偉達芯片下,能效比可以做到PCIe 5.0的25倍,面積效率更是達到90倍。

NVLink-C2C 900GB/s的帶寬確實優秀,也與第四代NVLink的性能一致,但這并不代表只要用上NVLink就能獲得,我們從Hopper架構的GPU H100的參數上也能窺見一二。要想獲得900GB/s的帶寬性能,必須用到SXM5的大功率卡,而不是PCIe 5.0的卡,雖然前者的功耗是后者的兩倍,達到了可怕的700W,但PCIe 5.0的H100在總體性能和帶寬上確實差SXM5一截。

兩者在PCIe 5.0上的帶寬一致,都是128GB/s,但如果用上NVLink,PCIe 5.0版本的H100只能達到600GB/s的帶寬,與第三代NVLink性能一致,只有SXM5版本下的NVLink才能達到滿血的900GB/s。

另外在第四代NVLink和第三代NVSwitch技術的組合下,英偉達推出了NVLink Switch這一方案,該系統最多支持到256個GPU,可實現57.6TB/s的總帶寬。NVLink Switch也是英偉達DGX H100 SuperPOD系統的關鍵技術,英偉達甚至把自己收購的Mellanox旗下的InfiniBand節點互聯技術拿來對比。從上圖可以看出與基于A100+InfiniBand的SuperPOD系統相比,基于H100+NVLink Switch的SuperPOD系統在對分帶寬上是前者的9倍。

開放而不是獨占

其實NVLink的存在最初讓不少人覺得有些一家獨大的意思,畢竟最早NVLink僅僅只是用于多個英偉達GPU之間的互聯,僅僅只是為自家的產品提供更多優勢而已。而去年發布的Grace Hopper Superchip同樣用到了這一技術,但這顆芯片卻是英偉達設計的Arm CPU和GPU的互聯。

這讓人不禁擔心,如果英偉達真的成功收購了Arm,會不會利用這一優勢來全面壟斷數據中心和HPC市場。畢竟Arm自己給出的互聯方案CMN-700支持的是CCIX 2.0和CXL 2.0這兩大標準互聯協議,同時為第三方加速器提供PCIe 5.0的連接。但就紙面參數給到的性能看來,NVLink這種專用方案似乎更加吃香一些。

不過Arm作為一家IP公司,目標自然是支持到多樣化的加速器,從而全面發展Arm的生態。此前Arm在接受電子發燒友網采訪時也表示,Arm期待給市場帶來更多的靈活性,支持更多像Grace這樣的系統。

好在英偉達似乎也不打算將NVLink-C2C獨占,而是宣布開放這一技術,支持集成英偉達技術的芯片半定制,通過Chiplet技術充分利用自家的GPU、DPU、NIC、CPU和SoC產品,與客戶的IP進行NVLink-C2C互聯。

盡管收購失敗,英偉達與Arm的合作并沒有就此停止,英偉達也在GTC22上宣布繼續與Arm緊密合作,以支持并在未來改進Arm的AMBA CHI協議,加上對CXL的支持,從而與更多加速器和處理器做到互聯。

與此同時,在全行業群策群力,試圖打通生態的情況下,英偉達也并不打算將NVLink-C2C作為唯一的可選方案。所以除了NVLink-C2C外,集成了英偉達芯片的定制SoC也可選用前段時日公布的UCIe通用Chiplet互聯標準,所以不必將數據中心上的CPU、DPU和GPU一整套都換成英偉達旗下的產品,給到第三方服務器芯片、DPU和加速器一個機會。不過,考慮到這兩種互聯方式只能選其一,英偉達也強調了NVLink-C2C經過優化,擁有更低的延遲、更高的帶寬和更高的能效比,該如何選擇還是看廠商自己的考量了。

原文標題:900GB/s,NVLink才是英偉達的互聯殺手锏

文章出處:【微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。

審核編輯:湯梓紅

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    51019

    瀏覽量

    425395
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4760

    瀏覽量

    129131
  • 顯卡
    +關注

    關注

    16

    文章

    2442

    瀏覽量

    67896
  • 英偉達
    +關注

    關注

    22

    文章

    3815

    瀏覽量

    91492

原文標題:900GB/s,NVLink才是英偉達的互聯殺手锏

文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    英偉黃仁勛:我們要做巨型芯片!最強顯卡RTX 5090發布,汽車芯片Thor算力翻20倍

    50 系列、AI大模型、AI機器人、超小型AI超級計算機,以及英偉的終極目標:名為Grace Blackwell NVLink72的巨型芯片
    的頭像 發表于 01-08 08:59 ?1986次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>黃仁勛:我們要做巨型<b class='flag-5'>芯片</b>!最強顯卡RTX 5090<b class='flag-5'>發布</b>,汽車<b class='flag-5'>芯片</b>Thor算力翻20倍

    英偉CEO確認:液冷Grace Blackwell服務器無過熱問題

    近日,英偉公司的首席執行官(CEO)針對外界關注的液冷Grace Blackwell服務器過熱問題,發表了明確的看法。他強調,采用液冷技術
    的頭像 發表于 11-21 11:45 ?296次閱讀

    英偉Blackwell可支持10萬億參數模型AI訓練,實時大語言模型推理

    。 ????????????????????? 英偉Blackwell是通用計算全棧矩陣的終極解決方案,由多個英偉芯片組成,包括Blac
    的頭像 發表于 09-04 09:10 ?2963次閱讀

    3萬-4萬美元/顆,英偉最新AI芯片曝設計缺陷、延遲出貨

    Q1。 隨后,SemiAnalysis在最新研報中剖析了英偉Blackwell B200芯片技術挑戰,主要在合封方面。一顆Blackwell B200
    的頭像 發表于 08-06 00:19 ?4092次閱讀

    英偉回應AI芯片推遲發布傳聞

    近日,英偉就外界廣泛關注的AI芯片Blackwell推遲發布傳聞作出正式回應。8月4日,英偉
    的頭像 發表于 08-05 17:34 ?702次閱讀

    亞馬遜AWS暫緩采購英偉GH200芯片,期待Blackwell更強

    然而,AWS對此予以澄清,稱實際上并未取消任何對英偉的訂單。據其代表解釋,此次從Grace Hopper芯片轉向Blackwell芯片的調
    的頭像 發表于 05-22 15:05 ?709次閱讀

    亞馬遜未中斷英偉訂單,等待Grace Blackwell更強性能

    英國《金融時報》昨日報道稱,亞馬遜AWS已暫停訂購英偉最新款“超級芯片Grace Hopper,等待性能更強的新品Grace Black
    的頭像 發表于 05-22 11:00 ?499次閱讀

    英偉靜候新品來臨,亞馬遜暫緩購買Grace Hopper

    今年3月,英偉發布了全新的Blackwell處理器,距離前任產品Hopper的發布不過短短一年。英偉
    的頭像 發表于 05-22 09:07 ?320次閱讀

    進一步解讀英偉 Blackwell 架構、NVlink及GB200 超級芯片

    設計,NVIDIA GB200 NVL72 的核心,GB200 Grace Blackwell Superchip,采用 NVIDIA NVLink-C2C 互連
    發表于 05-13 17:16

    全面解讀英偉NVLink技術

    NVLink是一種解決服務器內GPU之間通信限制的協議。與傳統的PCIe交換機不同,NVLink帶寬有限,可以在服務器內的GPU之間實現高速直接互連。第四代NVLink提供更高的帶寬,每條通道達到112Gbps,比PCIe Ge
    發表于 04-22 11:01 ?1403次閱讀
    全面解讀<b class='flag-5'>英偉</b><b class='flag-5'>達</b><b class='flag-5'>NVLink</b><b class='flag-5'>技術</b>

    美國首個Grace Hopper架構超算Venado落地:10 exaFLOPS

    該超級計算機是由惠普企業集團(Hewlett Packard Enterprise)打造,其運算能力高達 10 exaFLOPS,它是美國第一款采用英偉Grace Hopper
    的頭像 發表于 04-18 14:37 ?436次閱讀

    新思科技攜手英偉:基于加速計算、生成式AI和Omniverse釋放下一代EDA潛能

    將雙方數十年的合作深入擴展到新思科技EDA全套技術棧 摘要: 新思科技攜手英偉,將其領先的AI驅動型電子設計自動化(EDA)全套技術棧部署于英偉
    發表于 03-20 13:43 ?307次閱讀
    新思科技攜手<b class='flag-5'>英偉</b><b class='flag-5'>達</b>:基于加速計算、生成式AI和Omniverse釋放下一代EDA潛能

    英偉AI服務器NVLink版與PCIe版有何區別?又如何選擇呢?

    在人工智能領域,英偉作為行業領軍者,推出了兩種主要的GPU版本供AI服務器選擇——NVLink版(實為SXM版)與PCIe版。這兩者有何本質區別?又該如何根據應用場景做出最佳選擇呢?讓我們深入探討一下。
    的頭像 發表于 03-19 11:21 ?5783次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>AI服務器<b class='flag-5'>NVLink</b>版與PCIe版有何區別?又如何選擇呢?

    全球最小英偉GH200服務器發布:永擎制造

    該服務器搭載英偉Grace及Hopper人工智能GPU,并通過NVLink實現互聯功能以提升整體效能。其中,CPU部分采用72個Arm N
    的頭像 發表于 02-27 15:29 ?746次閱讀
    主站蜘蛛池模板: 午夜免费伦费影视在线观看| 激情丁香婷婷| 操美女免费视频| 天天狠天天透| 播色屋| 久久99精品一级毛片| 色婷婷在线观看视频| 国产三片高清在线观看| 2022欧美高清中文字幕在线看| 久久精品亚瑟全部免费观看| 久久午夜神器| 免费在线视频你懂的| 国产在线精品一区二区夜色| 欧美三级网址| eeuss秋霞成人影院| 加勒比在线一区| 色拍拍综合网| 天天狠天天天天透在线| 天天干天天拍天天射| 国产全部理论片线观看| 欧美性精品| 乱说欲小说又粗又长| 殴美aⅴ| 热99久久| 五月天福利视频| 亚洲+国产+图片| 亚洲不卡网| 日本黄色大片在线观看| 日本三浦理惠子中文字幕| 日韩免费| 欧美性猛交xxxxbbbb| 欧美特黄一级视频| 狠狠色丁香婷婷综合欧美| 国产特级毛片| 国产精品久久久久aaaa| 国产成人免费无庶挡视频| 国产农村妇女毛片精品久久| 国产精品永久免费自在线观看| 一级片免费在线观看视频| 射久久| 六月综合激情|