在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Scale out成高性能計算更優解,通用互聯技術大有可為

Felix分析 ? 來源:電子發燒友網 ? 作者:吳子鵬 ? 2024-04-07 00:06 ? 次閱讀
電子發燒友網報道(文/吳子鵬)從聊天機器人程序ChatGPT,到文生視頻大模型Sora,AI大模型的蓬勃發展背后,為算法模型、高質量數據、算力基礎設施帶來了持續的挑戰。“當企業通過Scale out提升集群規模,就需要把數據中心從微觀到宏觀、點對點地連接起來,增強各個層面的互聯性能,真正有效地應用算力資源。” 奇異摩爾創始人兼CEO田陌晨在接受電子發燒友采訪時表示。

伴隨著摩爾定律的放緩步伐,通過Scale up提升單處理器系統的性能和算力遭遇了“流水線過長,延遲高、布線困難”等重重困境。Scale out作為Scale up的延續,在物理層面引入了規模性互聯,讓“算力-互聯”成為算力提升的新型抓手。研究機構IPnest預測,2025年,“片間互聯技術”接口IP市占率有望超過處理器IP,成為排名第一的IP品類。那么,片內、片間、網間的互聯技術未來會呈現何種特點?高性能計算體系將如何發展?就這些話題,我們采訪了互聯技術領域代表企業奇異摩爾CEO田陌晨先生。
片內互聯:從專用到通用
理論上,芯粒可被視作固定模塊,實現不同產品、代際的復用。在智算中心集群發展中,以互聯芯粒IO Die為代表的互聯芯粒在提升良率、降低制造復雜度和成本等方面所顯示出的優勢,已成為行業發展共識。AMD的Zen系列和英特爾Clearwater Forest旗艦級數據中心處理器都是典型案例。
Intel Clearwater Forest 2
田陌晨認為,IO Die為代表的片內互聯技術呈現芯粒化、3D化發展兩大趨勢。芯粒化是為了增進架構靈活性,降低芯片對先進工藝的依賴;3D化則是通過縱向維度進一步提升互聯密度。
目前,市場上的IO Die主要為AMD、英特爾等大廠主導,但私有協議無法兼容不同來源的芯粒,專用IO Die的封閉生態已成為其發展掣肘。受到巨大的需求推動,通用IO芯粒開始嶄露頭角。以奇異摩爾旗下的通用互聯芯粒 Kiwi IO Die為例,產品集成了如D2DDDRPCIeCXL等大量存儲、互聯接口,最高可以支持10+Chiplets,構建高達192 core CPU或1000T GPU的算力平臺。
奇異摩爾通用互聯芯粒 Kiwi IO Die
與其同時,受益于先進封裝技術的進步,IO Die也出現了2.5D向3D的結構變化。Base Die可視為IO Die的3D形態,允許不同計算、存儲芯粒的堆疊或并排放,可顯著提升芯片單位面積晶體管的集成度,帶來更高的帶寬,更低的延遲、功耗。
市場上Base Die的境況與IO Die類似,雖然專用產品已在市場上展現了商業化價值,但技術并未擴散,而是被少數頭部企業壟斷。在奇異摩爾為代表的創新企業努力下,Base Die通用市場開始起步。據田陌晨介紹,奇異摩爾旗下的通用互聯底座Kiwi 3D Base Die,在3D高性能通用底座方面屬全球首例,實現了通用互聯芯粒在帶寬、能效、搭載芯片數量等多方面的突破性進展,能夠以20%的功耗實現8倍于2.5D結構的互聯密度,最高可實現16顆算力芯粒堆疊。
奇異摩爾通用互聯底座Kiwi 3D Base Die
IO Die和Base Die只是互聯技術的兩個典型的例子,說明片內互聯技術如何在計算與存儲之間、在龐大的智算中心和Scaling out 的浪潮中,產生對計算能力的更多助力。事實上,除了片內互聯,還有許多種方法可以讓更多的數據實現更高好的連接和更低的成本,比如片間互聯、網間互聯技術的單點到全面突破。
亟待加速的片間互聯:D2D接口
和片內互聯一樣,受益于算力和突飛猛進的算力增長需求,片間互聯技術亟需加速。基于Chiplet技術的Die-to-Die技術(D2D)帶來了一種更高效的計算和內存的連接方式,可以看似毫不費力的將計算、存儲芯粒集成在一起,在互聯層面上形成一個SoC級芯片。
相比傳統的計算芯片和存儲芯片的互聯方式,D2D提供了更高效、更低延遲的連接方式,是Chiplet實現的基礎,田陌晨介紹。通過Die間通信,D2D可以實現更高的傳輸帶寬和更高密度的集成;D2D能有效縮短數據傳輸的物理距離,降低延遲,提高處理速度;作為先進封裝的基礎,D2D可以實現計算和存儲單元的無縫連接,進一步提高性能、降低功耗;基于D2D,企業可以更靈活地實現計算和存儲單元的多模組配置,提高系統可擴展性、靈活性,降低系統維護成本。這些優勢,使得D2D接口在高性能集群的Scaling out建設中,發揮了關鍵的作用。
和IO Die一樣,D2D也需要通用化的大力推進。奇異摩爾基于UCIe標準,推出了全球首批支持 UCIe V1.1 的 Die2Die IP,互聯速度高達32GT/s,延時低至數納秒,全面支持UCIe、CXL、Streaming等主流協議,即插即用。田陌晨說,奇異摩爾所有產品都構建在國際標準協議之上,致力于使各家產品實現互聯互通,構成一個開放的Chiplet系統。
奇異摩爾高速互聯接口Kiwi Die2Die IP
RISC-V+Chiplet:1+1>2
如今,Chiplet之外,RISC-V架構也在大舉邁進高性能計算。邊緣計算市場,傳統通用型MCU/MPU/CPU已經難以滿足不同應用場景和性能要求,RISC-V了帶來更好的PPA實現。RISC-V的本質是一個開放標準,沖擊高性能運算市場是發展的必然,而二者(與Chiplet)的融合,被認為能為高性能計算市場開辟一場1+1>2的創新動力。這也是RISC-V高性能處理器的代表性企業Ventana與奇異摩爾合作的深層動因。
Ventana創始人兼CEO?Balaji?Baktha介紹,兩家企業聯手打造了一個可擴展處理器架構,可將多個Ventana?Veyron?V2與奇異摩爾的IO?Die組成不同配置的SoC。田陌晨認為,V2與奇異摩爾IO?Die的結合,是RISC-V和Chiplet在高性能計算領域融合的成功案例。

“RISC-V具備開源、開放、靈活和高度可定制特性,設計了多種用于任務加速的指令集擴展,能實現向量計算、加解密等任務加速,具有較高的計算性能,且簡潔特性能降低芯片的功耗。”Balaji說,“而Chiplet是構建下一代半導體產品前進戰略的重要組成部分,可以輕松構建高性能CPU。其‘可組合性’讓用戶以最佳比例組合計算、內存和IO,創造一個在性能、成本效益、工作負載等各方面都更為高效的系統。將RISC-V的開放式架構與 Chiplet開放式硬件設計相結合,能有效推動數據中心的工作流程效率,將單插槽性能發揮到極致。”
記者了解到,奇異摩爾和Ventana一直在努力將RISC-V和IO Die的組合推向下一代計算架構的前沿,以提高數據中心服務的效率和工作負載的效率,并共同創建了一款高性能數據中心級RISC-V處理器,其融合了RISC-V 架構和模塊化的Chiplet設計的優勢,每個V2單元包括32個核心,最終實現最高192個內核,這也是全球首例數據中心級的RISC-V Chiplet處理器。
回顧這次和Ventana的合作,田陌晨稱,從技術互通性角度看,基于IO Die的互聯,x86、ARM和RISC-V三大架構都需要采用大量存儲訪問和外部接口,進行大量傳輸、讀取及調度。RISC-V和Chiplet技術融合進一步提升了計算平臺的定制特性,可以避免那些對高性能運算有需求的客戶被鎖定在一個供應商的生態內,并助力企業應對AGI所引發的架構變革挑戰,這在x86和ARM的Chiplet設計中較難實現。
當然,RISC-V和Chiplet技術融合,也伴隨著如Die間通信、高性能、特定領域等多重挑戰,如,為實現不同來源芯粒的通信,兩家公司采取了IO Die中央設計連接CPU芯粒的方案,通過Kiwi Fabric實現了納秒級的低延遲和高效的數據傳輸。讓整個SoC在工作流的角度上,呈現獨立CPU的特質。
在性能方面,為達到現有ISA(x86/ARM)設定的高性能基準,確保處理器微架構可以提供世界一流性能,雙方合作的產品最高可實現192個內核。同時,通過一致性互聯,讓所有內核共享高性能、高速緩存和內存。
在特定領域方面,通過對計算芯粒、內存和各種加速器配比的整體規劃,為各種工作負載提供靈活的硬件配置選項;在CPU中內置了端到端的RAS,確保所有總線都受到安全啟動驗證和級別驗證等保護,同時克服側通道攻擊和其他漏洞,確保CPU芯粒和整個SoC層面的安全。
從計算加速到網絡加速
從行業動態來看,高性能運算從Scale up向Scale out的轉變是全方位的,在芯片設計、算力卡間、集群間無不如此。簡單的說,Scale out最核心的改變就是互聯。田陌晨認為,在Scale out所引發的巨量數據交互挑戰背后,是加速重點從計算到網絡的轉變和“Bandwidth, Efficiency, Workload”互聯三要素的優化需求。
在算力集群網絡傳輸協議方面,傳統協議TCP/IP存在CPU負載重、延遲高等缺點,難以滿足高性能計算對網絡吞吐、時延的苛刻要求。RDMA能直接通過網絡接口訪問內存數據,無需操作系統內核的介入,讓大規模并行計算集群成為可行。計算機網絡協議棧將從TCP/IP過渡到RDMA,在網絡層面上,把一個集群變成一臺設備。
RDMA并未規定完整的協議棧,因此包含不同的分支,如英偉達的Quantum InfiniBand是專門為RDMA設計的一種超低延遲、超高吞吐量的專用網絡引擎。然而,業界需要一種更為通用化的解決方案。在性能方面可與InfiniBand匹敵的RoCE顯著降低了RDMA協議通信成本,被認為能夠打破英偉達在這個領域的技術壟斷。
這也是奇異摩爾推出高性能網絡加速芯粒Kiwi NDSA(Network Domain Specific Accelerator)系列的原因所在。據介紹,Kiwi NDSA內建RoCE V2高性能 RDMA (Remote Direct Memory Access) 和數十種卸載/加速引擎,可作為獨立芯粒,實現系統不同位置的加速。Kiwi NDSA產品系列包括“NDSA-RN-F”和“NDSA-RN”。前者是全球首批200/400G的高性能FPGA RDMA網卡,將在近期面世;后者是全球首款支持800G帶寬的RDMA NIC Chiplet產品,除帶寬升級到800G之外,延時也降至納秒級,并支持數十GB的超大規模數據包。
奇異摩爾高性能網絡加速芯粒Kiwi NDSA
結語
在高性能計算體系全方位從Scale up向Scale out轉變的背景下,互聯技術已成為提升集群算力的新方案。以IO Die為代表的互聯芯粒正在加速其通用化進程和2.5D至3D轉變;片間PCIe等傳統傳輸方式正在被低延遲、低功耗的D2D技術取代;集群互聯網絡則從TCP/IP轉向RDMA架構,通用RDMA方案將迎來更廣闊的機遇。互聯技術和RISC-V架構的融合,能夠助力企業更好地應對AGI所引發的架構變革挑戰,幫助高性能計算領域用戶實現Scale out。未來,對幾乎每一家高性能計算產業鏈上的企業來說,互聯都是一個至關重要的市場。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • SCALE
    +關注

    關注

    3

    文章

    14

    瀏覽量

    14072
  • 高性能計算
    +關注

    關注

    0

    文章

    83

    瀏覽量

    13404
  • chiplet
    +關注

    關注

    6

    文章

    434

    瀏覽量

    12609
  • 奇異摩爾
    +關注

    關注

    0

    文章

    49

    瀏覽量

    3448
  • 芯粒
    +關注

    關注

    0

    文章

    59

    瀏覽量

    143
收藏 人收藏

    評論

    相關推薦

    鴻蒙原生頁面高性能解決方案上線OpenHarmony社區 助力打造高性能原生應用

    隨著HarmonyOS NEXT的正式推出,鴻蒙原生應用開發熱度高漲,數量激增。但在三方應用鴻蒙化進程中,性能問題頻出。為此,HarmonyOS NEXT推出了一整套原生頁面高性能解決方案,包括
    發表于 01-02 18:00

    芯和半導體:國產EDA大有可為

    隨著AI、5G、IoT、云計算技術和應用的不斷發展,全球半導體行業正在加速向2030年的萬億規模突進。然而,要匹配AI大模型算力增長的驚人需求,傳統的摩爾定律的路徑已經舉步維艱,半導體行業急需在
    的頭像 發表于 12-24 11:15 ?167次閱讀

    低空經濟時代來臨,激光技術如何借東風?

    低空經濟新風口,依托先進航空、通信等技術,引領多領域變革。激光技術在低空經濟中大有可為,涉及關鍵零部件、電池制造、導航定位等。多地政府出臺政策支持,成立產業基金,激光企業迎來新機遇需
    的頭像 發表于 11-27 09:38 ?344次閱讀
    低空經濟時代來臨,激光<b class='flag-5'>技術</b>如何借東風?

    AI高性能計算平臺是什么

    AI高性能計算平臺不僅是AI技術發展的基石,更是推動AI應用落地、加速產業升級的重要工具。以下,是對AI高性能計算平臺的介紹,由AI部落小編
    的頭像 發表于 11-11 09:56 ?231次閱讀

    氫能源車加速放量,AEM制氫大有可為

    制加氫一體站將是支撐氫能交通發展的基石,伴隨著站點普及,AEM制氫大有可為
    的頭像 發表于 08-27 09:51 ?396次閱讀
    氫能源車加速放量,AEM制氫<b class='flag-5'>大有可為</b>!

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術白皮書

    、VMware、Palo Alto 等公司紛紛推出相關解決方案。這些方案背后共同的本質思想是:將云計算的 IaaS 層組件從服務器側卸載后圍繞 DPU 構筑高性能算力底座,與 AWS、阿里云的技術路線不謀而合
    發表于 07-24 15:32

    帶你了解什么是高性能計算(HPC)

    受益于HPC更高的速度處理大量數據的能力,全球正在進入HPC大周期,高性能計算的發展水平已經成為衡量一個國家綜合實力和高科技發展水平的重要標志,美國、歐盟、日本、英國都高度重視高性能計算
    的頭像 發表于 07-20 08:28 ?631次閱讀
    帶你了解什么是<b class='flag-5'>高性能</b><b class='flag-5'>計算</b>(HPC)

    國民技術推出全新一代高性能MCU新品

    2024年7月8日,國民技術推出多款高能專用MCU產品。N32H482(通用控制)、N32H487(高性能互聯)、N32GH473(電機控制)、N32H474(數字電源控制)四大系列
    的頭像 發表于 07-10 10:32 ?1541次閱讀
    國民<b class='flag-5'>技術</b>推出全新一代<b class='flag-5'>高性能</b>MCU新品

    芯品# 高性能計算芯片

    (LSE:AWE)是全球技術基礎設施高速連接和計算芯片的全球領導者,與Arm合作開發基于Arm ? Neoverse?計算子系統(CSS)的高級計算芯片,用于人工智能/機器學習(AI/
    的頭像 發表于 06-27 10:28 ?7020次閱讀

    STM32如何詮釋電機控制創新 如何更高效更智能

    為了提高電機系統的效率,電機控制技術大有可為。通過采用性能更高、集成度更高的半導體器件,功能強大且安全的微控制器,更智能的傳感器,結合更優化的軟件算法,可實現提升效率、降低損耗的目的。
    發表于 06-06 10:44 ?824次閱讀
    STM32如何詮釋電機控制創新 如何更高效更智能

    高性能計算集群的能耗優化

    高性能計算(HighPerformanceComputing,HPC)是指利用大規模并行計算機集群來解決復雜的科學和工程問題的技術高性能
    的頭像 發表于 05-25 08:27 ?464次閱讀
    <b class='flag-5'>高性能</b><b class='flag-5'>計算</b>集群的能耗優化

    奇異摩爾攜手SEMiBAY Talk 邀您暢談互聯計算

    副總裁祝俊東將進行《互聯定義計算》主題演講。 直播主題 隨著高性能計算體系全方位從 Scale up 向
    的頭像 發表于 05-20 18:31 ?1012次閱讀
    奇異摩爾攜手SEMiBAY Talk 邀您暢談<b class='flag-5'>互聯</b>與<b class='flag-5'>計算</b>

    薩科微總經理宋仕強:華強北貿易商來賣國產品牌大有可為

    薩科微總經理宋仕強說,華強北貿易商來賣國產品牌大有可為,他們本身有這些優勢A. 熟悉華強北電子市場和電子信息產品B. 客情關系好,和終端客戶和市場客戶有深度的交流和交情,C .為客戶服務的商務方式多
    發表于 03-22 09:47

    什么是HPC高性能計算

    高性能計算(HighPerformanceComputing,簡稱HPC),是指利用集群、網格、超算等計算機技術,通過合理地組織計算機資源以及運用適合的算法和程序,提高
    的頭像 發表于 02-19 13:27 ?895次閱讀
    什么是HPC<b class='flag-5'>高性能</b><b class='flag-5'>計算</b>

    這些傳感器,大有可為

    來源:半導體行業觀察,謝謝 編輯:感知芯視界 Link 近年來,人們對健康和環境的認識不斷提高。多款空氣質量監測儀已經開發出來,幫助氣體和顆粒傳感器市場在 2023 年至 2029 年間分別增長 8% 和 11%,到 2029 年市場總規模將達到 28 億美元。對于數字嗅覺,該領域仍然由用于研發項目和服務的銷售產品;我們預計 2029 年將達到 5200 萬美元。 首先,就氣體傳感收入而言,工業是最大的市場,其次是顆粒物傳感器。主要驅動因素是 HVAC 和 AC 系統以及建筑物
    的頭像 發表于 02-18 10:59 ?337次閱讀
    主站蜘蛛池模板: 久久精品午夜| 黄色网网址| www.av网| 99日精品欧美国产| 一级免费看| 特黄一级视频| 国产午夜精品久久久久九九| 国产伦一区二区三区免费| 国产成 人 综合 亚洲网| 宅男666在线永久免费观看| 国内精品久久久久影院男同志| 91中文在线| 久久国产免费观看精品| 亚洲精品亚洲人成人网| 特级毛片女人18毛片| 欧美瑟瑟| 国产精品青草久久| 午夜逼逼| 成人综合在线视频| 亚洲一区二区中文字幕| 伊人久久大香线蕉综合亚洲| 四虎a级欧美在线观看| 欧美日韩不卡码一区二区三区| 黄色18网站| 亚洲天天在线| 国产天天色| 亚洲综合区图片小说区| 一级毛片aaa片免费观看| 亚洲人成亚洲人成在线观看| 色婷婷视频在线观看| 激情亚洲| 特黄特黄一级高清免费大片| 欧美猛交xxxx乱大交| 在线你懂得| 欧美福利精品| 91精选视频在线观看| 国产小福利| 美女扒开尿口给男人捅| 色盈盈| 国内精品久久久久影院薰衣草 | 日本aaaa级毛片在线看|