在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

CXL服務器有哪些優勢

lPCU_elecfans ? 來源:電子發燒友網 ? 作者:電子發燒友網 ? 2022-08-24 15:14 ? 次閱讀

電子發燒友網報道(文/周凱揚)當下服務器市場在內存上面臨的一大挑戰就是成本,截至今日,我們在選擇云服務容器時,內存依然占了很大一部分,往往內存用量擴大一倍后,價格也隨之上漲了一倍。這其實與內存本身的擴展性有關,目前服務器上更大的存儲已經成為常態,但要想實現更大的內存始終存在瓶頸。因此,從2013年開始,每bit內存的價格基本趨于平緩了。

但服務器CPU的核心數增加的速度可沒有因此減緩下來,加上AI等新型工作負載的引入,更大的內存容量、更大的內存帶寬,都成了當下服務器內存面臨的痛點。為此,業界開始考慮從系統層級上來解決這些問題,比如為CPU增加DDR通道,好讓其支持更大的帶寬和容量。

但這就又引入了一系列新問題,為了滿足新增的DDR通道,需要更多的引腳,也提高了成本降低了可靠性,PCB的層數也開始增加。這也造就了整個服務器主板的尺寸變得異常大,甚至難以放進1U標準尺寸的機柜里。

CXL的靈活性和延遲這時對于內存媒介無限制的CXL,就提供了一個靈活的內存接口,讓設計者可以從持久性、延遲、帶寬等各個參數特性上靈活選擇,讓服務器CPU不止可以使用常用的DDR內存,也能支持LPDDR5和持久內存等等。我們此前已經多次介紹過CXL了,這次就來講下作為內存擴展,CXL有哪些優勢。

比如一個80核的CPU,應用要求每個核心配置2GB的DDR5內存,也就是需要160GB的DDR5內存。如果采用16GB DIMM x8的配置明顯滿足不了,32GB x 8多出了96GB內存,徒增了近乎500美元的成本,使用32GB x 5這樣不跑滿通道的配置雖然容量對了,但是會降低帶寬和性能。

而這時我們反觀CXL,CXL可以在配置了原生DDR通道配置了8個16GB DIMM的情況下,再加入32GB的CXL內存,如此一來不僅滿足了內存容量的需求,還增加了額外的帶寬,況且我們已經提到了CXL并沒有內存媒介的限制,所以可以用上LPDDR5之類的CXL擴展內存進一步降低成本。

a7055426-235d-11ed-ba43-dac502259ad0.png

各種緩存、內存和存儲的延遲對比 / CXL聯盟

作為一個分布式內存,盡管CXL主打的是低延遲,但要說與CPU的內存、緩存和寄存器比起來,延遲還是有一定差距的。今年的Hot Chips上,CXL聯盟就給出了CXL在延遲上的具體數字。獨立于CPU外的CXL內存延遲在170-250ns左右,高過獨立于CPU的NVM、網絡連接的解構內存、SSD和HDD等。

雖然在我們看來這個數字已經很小了,但相較原生的主要內存,還是把延遲擴大了兩倍。來自Meta和AMD的兩位專家提出了一個概念,也就是對內存進行分層,分為用于實時分析等關鍵任務的“熱”內存、訪問不那么頻繁的“暖”內存和用于龐大數據的“冷”內存。“熱”內存頁面放在原生DDR內存里,而“冷”內存頁面則交給CXL內存。

然而在當前的軟件眼里,它們才分不清楚什么是“熱”內存和“冷”內存,原生內存用完后,就開始去占用CXL內存,如此一來原本作為“冷”內存的CXL,也開始變成“熱”內存。所以目前最大的挑戰就是在操作系統和軟件層面,如何檢測到“冷”內存頁面,將其主動轉入CXL內存里,為原生內存留出空間。Meta和AMD的兩位專家表示,他們已經在開發相應的軟硬件技術。

CXL或許不會成為HPC和AI應用的寵兒固然CXL對于云服務廠商和諸多數據中心擁有不錯的吸引力,然而這種形式的內存可能并不適用于HPC與超算應用。“富岳之父”松岡聰教授表示CXL這種內存解構方案還存在不少技術問題,使其不能在主流的HPC甚至是AI負載中物盡其用。松岡聰教授并沒有給出具體的細節,但他給出了一個例子,那就是多年前SGI的NUMALINK系統也是采用了分布式內存解構的方式,但我們也都知道如今市面上的NUMALINK產品基本已經銷聲匿跡了。

但他并沒有徹底否認內存解構這種思路,就連富岳超算本身也用這一技術,從而將MPI進行put/get運算時的遠程內存訪問延遲降低至亞微秒級。但加入一個單獨的UMA內存池,已經在歷史中證明了這對HPC來說收效甚微。

首先,這需要更高硬件交換機成本,再者,在超算這種大型配置規模的系統上,缺乏對應的編程標準。因此,對于目前的HPC大型系統來說,CXL內存或許會先出現在一小部分節點上,比如一些需要近存或存內計算AI負載,而不會普及到整個系統。

寫在最后其實對于CXL的擔心也沒必要那么多,對于服務器市場來說,低核心數的CPU依然會繼續使用原生DDR通道來配置DIMM內存。到了高核心數CPU上,再根據系統成本、容量、功耗和帶寬等參數來靈活應用CXL內存,而這才是CXL帶來的最大優勢,靈活性。況且目前CXL內存還沒有大規模量產出來,自然也沒有普及開來,大家對其實際性能表現還沒有個大致了解,也許引入CXL的延遲后,對性能的損失不會那么糟糕。

審核編輯:彭靜
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • pcb
    pcb
    +關注

    關注

    4319

    文章

    23111

    瀏覽量

    398313
  • 帶寬
    +關注

    關注

    3

    文章

    937

    瀏覽量

    40952
  • 服務器
    +關注

    關注

    12

    文章

    9205

    瀏覽量

    85558

原文標題:救場服務器內存的CXL

文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    美國云服務器主機優勢和缺點

    美國云服務器主機在全球云計算市場中占據重要地位,美國云服務器主機優勢和缺點都是什么?主機推薦小編為您整理發布美國云服務器主機優勢和缺點,其優
    的頭像 發表于 12-02 16:31 ?153次閱讀

    美國多IP服務器和美國多服務器什么區別

    美國多IP服務器和美國多服務器什么區別 美國多IP服務器和美國多服務器在概念、功能以及應用場景上存在明顯的區別。主機推薦小編為您整理發布
    的頭像 發表于 11-11 10:22 ?204次閱讀

    GPU服務器和傳統的服務器什么區別

    GPU服務器與傳統的服務器在多個方面存在顯著差異,主機推薦小編為您整理發布GPU服務器和傳統的服務器什么區別,以下是對這些差異的詳細分析。
    的頭像 發表于 11-07 11:05 ?219次閱讀

    服務器主要應用行業及優勢

    服務器作為一種基于云計算技術的虛擬化計算資源,正逐漸成為眾多行業數字化轉型的重要支撐。它不僅提供了靈活的資源配置,還帶來了諸多傳統物理服務器難以比擬的優勢。以下是云服務器的主要應用行
    的頭像 發表于 10-31 09:24 ?209次閱讀

    美國硅谷RAKsmart服務器優勢

    RAKsmart是一家總部位于美國加州硅谷的全球領先的IDC服務提供商,以其高性能、高可靠性和定制化的服務器托管及云服務聞名。以下幾點概述了RAKsmart服務器的主要
    的頭像 發表于 10-21 09:37 ?167次閱讀

    服務器而言,ARM架構與X86架構什么區別?各自的優勢在哪里?

    ,x86 架構服務器在市場占主導,強大處理能力和廣泛軟件兼容性,廣泛用于企業數據中心。ARM 架構服務器近年崛起,憑借低功耗、高效能優勢在云計算和微
    的頭像 發表于 09-09 14:05 ?1853次閱讀

    硅谷物理服務器哪些關鍵優勢和特點

    硅谷的物理服務器設施全球知名,為各類企業提供了卓越的IT基礎設施支持。下面將逐一探討硅谷物理服務器的關鍵優勢和特點,rak小編為您整理發布硅谷物理服務器
    的頭像 發表于 08-16 13:28 ?192次閱讀

    韓國裸機云站群服務器是什么?什么優勢

    韓國裸機云站群服務器是一種提供多IP地址分配和高性能網絡服務的云計算解決方案。這種服務器結合了裸機服務器與云端技術,具有高性能、高可靠性和靈活可擴展性的特點。它廣泛應用于需要多IP管理
    的頭像 發表于 08-06 14:32 ?266次閱讀

    IaaS云服務器優勢是什么?

    云計算的基本定義是,使用部署在遠程機器/系統上的計算資源(硬件/軟件),并通過網絡(私人/公共)作為服務交付給最終用戶。 IaaS云計算(云服務器)的優勢 1、節省成本。云服務器有助于
    的頭像 發表于 07-18 11:53 ?512次閱讀

    洛杉磯裸機云大寬帶服務器的特性和優勢

    洛杉磯裸機云大寬帶服務器是結合了物理服務器性能和云服務靈活性的高性能計算服務,為用戶提供高效、安全的計算和存儲能力。在了解如何使用洛杉磯裸機云大寬帶
    的頭像 發表于 07-08 10:11 ?257次閱讀

    美國云服務器優勢

    很多用戶會選擇美國云服務器,那么美國云服務器哪些美國云服務器優勢,rak部落小編為您整理發布美國云
    的頭像 發表于 04-11 11:01 ?330次閱讀

    linux服務器和windows服務器

    ,這在滿足個性化需求和增強服務器安全 性上具有優勢。 Linux服務器還具有出色的性能和穩定性。相比之下,Windows服務器在性能和穩定性方面稍有不足。特別是在處理高負載和 大數據量
    發表于 02-22 15:46

    美國硅谷服務器優勢

     諸多用戶會優先選擇美國硅谷服務器,那么美國硅谷服務器優勢哪些?小編為您整理美國硅谷服務器優勢
    的頭像 發表于 02-20 10:37 ?431次閱讀

    什么是CXL技術?CXL的三種模式、類型、應用

    CXL的目標:解決CPU和設備、設備和設備之間的內存鴻溝。服務器巨大的內存池和數量龐大的基于PCIe運算加速,每個上面都有很大的內存。內存的分割已經造成巨大的浪費、不便和性能下降。
    的頭像 發表于 01-11 16:53 ?2237次閱讀
    什么是<b class='flag-5'>CXL</b>技術?<b class='flag-5'>CXL</b>的三種模式、類型、應用

    選擇云服務器租用托管有哪些優勢?

    服務器租用托管服務好嗎?選擇云服務器租用托管有哪些優勢?關于云服務器租用托管的話題RAKsmart小編今天來為您做詳細的解答。
    的頭像 發表于 01-10 10:21 ?459次閱讀
    主站蜘蛛池模板: 成片免费的禁v影片| 在线观看网站国产| 在线观看免费国产| 黄色网址视频在线播放| 视频在线观看免费| 黄色视屏免费看| 美女三级网站| 日韩一级一欧美一级国产| 色播五月激情五月| 亚洲国产欧美在线成人aaaa| 亚洲天堂第一页| 精品热99| 欧美一区视频| 91大神在线观看精品一区| abc欧美成人影院| 奇米影视五月天| 亚洲国产美女精品久久| 久久福利青草精品资源| 日韩一区二区视频| 男人边吃奶边做视频免费网站| 久久黄色一级片| 伊人网视频| 久久精品免视看国产成人2021| 天天色综| 成人午夜在线观看国产| 亚洲视频在线一区二区三区| 欲色综合| 欧美狠狠| 在线天天干| 国内精品久久影视| 九九热国产| 在线观看免费av网站| 在线视频一区二区三区| 69久久夜色精品国产69小说| 国产三级在线| aⅴ一区二区三区| 色宅男午夜电影在线观看| 久久久久久久综合| 国内精品免费视频精选在线观看| 欧美二区三区| 9984四虎永久免费网站|