在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

內存計算技術是什么 為什么能顯著提高芯片性能

半導體動態 ? 來源:工程師吳畏 ? 2019-03-21 16:48 ? 次閱讀

近日,美國普林斯頓大學研究人員推出了一款新型計算機芯片,其運行速度是傳統芯片的百倍。有媒體稱其采用了“內存計算”技術,使計算效率得到大幅提升。

這一神奇的技術到底是什么?它為何能顯著提高芯片性能?科技日報記者就此采訪了相關專家。

高度集成,把計算與存儲功能合二為一

對于我們常用的計算機來說,存儲器可分為內部存儲器和外部存儲器。內部存儲器,即“內存”,是電腦的主存儲器。它的存取速度快,但只能儲存臨時或少量的數據和程序。

外部存儲器,通常被稱為“外存”,它包括硬盤、軟盤、光盤、U盤等,通常可永久存儲大量數據,如操作系統、應用程序等。當運行某一程序時,處理器CPU)會先從內存中讀取數據,而后將一部分結果寫入內存,并選擇性地將另一部分結果寫入外存進行永久保存。

也就是說,通常情況下,內存只能存儲少量數據,計算機中大部分數據都“住”在外存。當CPU運行程序時就需要調取數據,若調取“住”在內存的數據,則用時較少;若調取“住”在外存的數據,則可能要費些周折。

因此科學家就想,能否把數據都存在內存里呢?于是,內存計算技術出現了。

“內存計算技術是伴隨著大數據處理技術的興起而興盛起來的。在處理大數據過程中,由于數據量極大,處理數據時頻繁訪問硬盤這些外存會降低運算速度。隨著大容量內存技術的興起,專家開始提出在初始階段就把數據全部加載到內存中,而后可直接把數據從內存中調取出來,再由處理器進行計算。這樣可以省去外存與內存之間的數據調入/調出過程,從而大大提升計算速度。”北京航空航天大學計算機學院教授、中德聯合軟件研究所所長劉軼告訴科技日報記者。

“但普林斯頓大學研發團隊采用的‘內存計算’技術與上述概念中所指的內存計算并不完全相同。”劉軼說,普林斯頓大學所采用的技術其實是PIM(Process in-memory),通常被翻譯為“存內計算”“存算一體”或“計算存儲一體化”。

“PIM技術是指直接在內存中處理數據,而不是把數據從內存讀取到處理器中進行處理。”劉軼指出,PIM的技術概念在1990年就已被提出,雖然相關研究論文早已發表出來,但相關技術始終難以落地。

劉軼認為“難落地”的主要原因在于,PIM技術尚難以達到傳統計算機馮·諾依曼結構的靈活性和通用性水平。“目前,學界所提出的PIM技術,只能做某些類別的應用,難以實現靈活編程。”他說。

可解決“存儲墻”問題,大幅提升性能

在劉軼看來,PIM技術的重要價值在于,其能解決傳統計算機結構存在的“存儲墻”問題。傳統計算機采用的馮·諾依曼結構,需要CPU從內存中取出指令并且執行,某些指令又需要從內存讀取數據進行處理,再將結果寫回內存。由于處理器所執行的程序和待處理的數據都被存在內存中,這樣處理器在運行過程中需要頻繁訪問內存。隨著微電子技術的發展,處理器性能的進步速度逐漸快于內存性能。

近30年來,處理器性能每年提升55%,而內存訪問速度每年僅提升7%。這使得處理器的處理速度遠遠快于內存的讀取速度,直接導致了“存儲墻”的出現,嚴重拖慢了程序執行速度。

“這好比一個人消化能力很強,飯桌上也有很多食物,但這個人的嗓子眼兒很細,咽不下去。這就使得強大的消化能力‘無用武之地’,也限制了這個人吃東西的速度。”劉軼說。

“近年來深度學習等新型算法的興起,對推倒‘存儲墻’提出了更迫切的需求。”劉軼指出,新型算法訪問內存的模式跟傳統模式不太相同,刷臉、圖片識別、機器翻譯等新型算法往往以類似于人腦的方式實現對復雜數據的處理。由于這類算法涉及的神經元數量多、訓練樣本量大,這導致在通用計算機上進行深度學習計算的效率比較低。

為了提高效率,科研人員開發了各種加速部件和專用的深度學習處理器,前者的典型代表是圖形處理器(GPU),后者的典型代表有谷歌公司的張量處理器(TPU)、國內的寒武紀處理器等。

“CPU、GPU等處理器通過總線與內存相連,總線的傳輸速度決定了計算的效率。”中國自動化學會混合智能專業委員會副主任、復旦大學計算機學院教授張軍平告訴科技日報記者,人們正在嘗試通過改進,減少數據在總線上的傳輸次數,提高計算效率。例如,科研人員讓CPU具備部分的GPU功能,或使GPU具備一些CPU的功能等。

劉軼表示,上述改進措施仍然屬于馮·諾依曼結構,不能從根本上解決“存儲墻”問題。相比之下,PIM技術在解決“存儲墻”問題上更具優勢。首先,它的計算模式更適合深度學習等新型計算模式;其次,PIM技術避免了馮·諾依曼結構處理器頻繁訪問內存這一問題,減少了數據傳輸次數,降低了功耗。

具有發展潛力,但尚難取代通用處理器

記者通過查閱資料發現,PIM技術應用最大的難點在于制造工藝。

PIM技術需要利用先進的半導體工藝將處理器和存儲器集成在同一芯片內,使之通過片上網絡相互連接。但由于目前處理器與存儲器的制造工藝不同,若要在處理器上實現存儲器的功能,則可能會降低存儲器的存儲密度;若要在存儲器上實現處理器的功能,則可能會影響處理器的運行速度。

張軍平指出,現階段內存本身不具備計算功能,因此若想實現內存計算或PIM技術都需要對內存進行重新設計。

“普林斯頓大學不是專業的芯片公司,其推出的新型芯片可能只是一種技術上的探索,離真正的產業化應用還有相當長的距離。”張軍平認為,隨著固態硬盤等技術的發展,如果硬盤讀寫速度足以媲美內存,內存與外存可能被集成為新型大容量高速存儲器。未來最理想的情況是,CPU、GPU等多種處理器與大容量高速存儲器實現一體化高度集成。

劉軼強調,普林斯頓大學設計的這種處理器是一種專用處理器,它只針對深度學習應用,無法取代傳統的通用處理器。

“正如華為、蘋果等公司推出的高端手機上大多配置了深度學習處理器,但只作為附屬部件,核心的計算和處理仍然由通用處理器來完成,只是把特定的任務和計算模塊交由深度學習處理器來進行計算,而且是在通用處理器的控制之下完成的。”劉軼說。

“短期來看,PIM技術只能被用于特定類別的應用場景,難以取代通用處理器。”劉軼認為,從長遠來看,如果半導體材料和器件技術無法取得突破,集成電路的摩爾定律將在不久的未來失效,即集成電路芯片內的晶體管數量將停止增長。這會對傳統的計算機系統結構乃至計算機硬件和軟件產業造成巨大的影響,由此也很可能引發重大的技術變革。當新的計算結構出現時,高度集成化的系統可能會對PIM技術有更多需求,但該技術能否成為主流仍有待觀察。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    50891

    瀏覽量

    424304
  • 內存計算
    +關注

    關注

    1

    文章

    15

    瀏覽量

    12184
收藏 人收藏

    評論

    相關推薦

    谷歌母公司Alphabet股價望高位收官,量子計算技術突破助漲

    近日,谷歌母公司Alphabet的股價將在2024年全年交易中保持高位收官。這一積極預期主要受到量子計算技術突破的刺激,盡管該領域的商業潛力目前尚未顯現。 近期,量子計算領域取得了顯著技術
    的頭像 發表于 12-23 10:46 ?153次閱讀

    虛擬內存計算性能的影響

    在現代計算機系統中,內存管理是確保系統高效運行的關鍵因素之一。虛擬內存技術作為內存管理的核心組成部分,對于提升
    的頭像 發表于 12-04 09:17 ?805次閱讀

    DDR5內存與DDR4內存性能差異

    DDR5內存與DDR4內存性能差異 隨著技術的發展,內存技術也在不斷進步。DDR5
    的頭像 發表于 11-29 14:58 ?467次閱讀

    基于量子計算技術的AGV調度問題研究

    由于自動化和智能化的普及,AGV(自動導引車)調度問題在物流、運輸和生產領域有著廣泛的應用。 隨著AGV數量的增加,經典計算方法難以滿足大規模調度的需求,而玻色量子自研的相干光量子計算技術具有強大
    的頭像 發表于 11-11 09:36 ?281次閱讀
    基于量子<b class='flag-5'>計算技術</b>的AGV調度問題研究

    如何提高計算性能和效率

    提高計算性能和效率是一個多維度的問題,需要從計算性能、存儲性能、網絡
    的頭像 發表于 10-24 09:23 ?542次閱讀

    韓國云計算技術怎么樣

    韓國云計算技術在硬件設施、技術實力以及未來發展趨勢等方面都表現出色。其高性能、可靠性、靈活性和網絡優勢使得韓國云計算服務在國內外市場上備受青睞。
    的頭像 發表于 09-30 10:04 ?210次閱讀

    能否建議通過內存映射提高aur性能

    我們使用英飛凌 Aurix TC364 作為平臺。 我們試圖通過將 ISR 映射到不同的內存單元來提高 ISR 函數的性能,具體方法是使用 #pragma section code
    發表于 05-29 07:39

    論基于電壓域的SRAM存內計算技術的嶄新前景

    ,存儲器和處理器之間頻繁傳輸大量數據,導致性能瓶頸。為解決這個問題,存內計算技術被提出,其核心思想是將計算單元整合到存儲器中,實現數據在存儲和計算之間的直接傳輸,從而
    的頭像 發表于 05-17 14:38 ?1005次閱讀
    論基于電壓域的SRAM存內<b class='flag-5'>計算技術</b>的嶄新前景

    淺談存內計算生態環境搭建以及軟件開發

    計算圖 通過開發人員的努力,Apache Spark和TensorFlow不僅能夠提高數據處理和機器學習模型訓練的速度,還能在能耗和性能方面取得顯著改進。這些進展在軟件開發領域展示了
    發表于 05-16 16:40

    存內計算WTM2101編譯工具鏈 資料

    存儲器芯片內部的存儲單元完成計算操作,實現計算效數量級提升,無需讀出參數,直接利用存儲參數的單元(ωij)與輸入矩陣X進行計算,極大節約
    發表于 05-16 16:33

    存內計算技術工具鏈——量化篇

    本篇文章將重點講述存內計算技術工具鏈之“量化”,我們將從面向存內計算芯片的深度學習編譯工具鏈、神經網絡中的量化(包括訓練后量化與量化感知訓練)、基于存內計算
    的頭像 發表于 05-16 12:35 ?1257次閱讀
    存內<b class='flag-5'>計算技術</b>工具鏈——量化篇

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    冷卻技術提高計算密度,減少占地面積,并通過高帶寬、低延遲的GPU通信,有效減少數據中心的碳足跡和能源消耗。相較于傳統的NVIDIA H100風冷基礎設施,GB200在相同功耗下實現25倍的
    發表于 05-13 17:16

    NuLink PHY技術:突破計算芯片內存瓶頸

    NuLink PHY技術通過雙向傳輸功能和靈活的設計,為構建更優越的計算引擎提供了新的途徑。相比傳統的硅中介層封裝技術,NuLink PHY能夠提高
    發表于 04-11 10:25 ?503次閱讀
    NuLink PHY<b class='flag-5'>技術</b>:突破<b class='flag-5'>計算</b><b class='flag-5'>芯片</b><b class='flag-5'>內存</b>瓶頸

    什么是邊緣計算?邊緣計算技術有哪些優缺點?

    什么是邊緣計算?邊緣計算技術有哪些優缺點? 邊緣計算是一種將計算和數據處理能力從傳統的云計算數據中心移動到離數據源更接近的位置的
    的頭像 發表于 02-06 14:38 ?1762次閱讀

    虹軟空間計算技術推動XR領域發展

    在過去的二十年中,移動計算技術的迅猛發展使智能手機嶄露頭角,成為主流的移動智能終端。雖然科技不斷進步,智能手機所面臨的可視空間受限、交互單一等局限問題仍待突破。隨著傳感器技術的提升、空間感知技術
    的頭像 發表于 01-26 10:15 ?719次閱讀
    主站蜘蛛池模板: 亚洲 欧美 动漫| 91成人在线免费视频| 成人午夜精品久久久久久久小说| 另类性欧美喷潮videofree| 国产精品久久久久乳精品爆| 欧美精品高清在线xxxx| 清纯漂亮小美女准备啪啪| 成年男人永久免费看片| 你懂的国产精品| 性欧美性free| 色在线视频播放| 一级做a爱片特黄在线观看| 狂野欧美性猛交xxxx免费| 久久理论片| 午夜一区二区三区| 国产三级日产三级韩国三级| 欧美色碰碰碰免费观看长视频| 婷婷久久综合| 一级特色黄色片| 四虎国产在线观看| 色综合综合网| 麻豆三级视频| 欧美日韩中文字幕在线| 黄页网站在线播放| 免费视频色| 欧美黄色片 一级片| 日韩电影中文字幕| 色综合九九| 看天堂| bt天堂在线www中文在线| 成年女人在线观看| 四虎4444hu4影视最新地址| 新版天堂中文在线8官网| 在线播放国产不卡免费视频| brazzersvideosex欧美最| 成 人色 网 站999| 手机福利视频| 国产免费好大好硬视频| 911色_911色sss在线观看| 国产精品性| 欧美一级在线观看|