在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存算一體:內核架構創新,打破算力能效極限

sakobpqhz ? 來源:算力基建 ? 2023-06-25 14:23 ? 次閱讀

01.核心判斷及觀點

1.存算一體屬于芯片的底層架構創新,階段非常早期,其產業鏈空白度及機遇挑戰不亞于20年前從頭開始發展GPU

2.相對于量子計算、光子芯片、非硅基芯片等前沿算力方案,受益于介質等技術成熟,存算一體芯片更有希望在3-5年內廣泛落地。

3.存算一體領域屬于少有的國內外同時起步的芯片領域,中國更有希望做出引領世界的產品

4.當前產業界及投資方認為產業鏈上下游仍不完善,仍需5-10年才能投入使用,但這也意味著更為全面的創新機遇。

5.當前行業玩家競爭主要集中在不同的存儲介質,長期來看存儲介質路線并無差別,在設計方法論、測試、量產、軟件、場景選擇等方面全方位競爭是長期關鍵。

6.第一款、第二款芯片場景的選擇非常重要,率先取得商業化驗證,打造爆款是未來三年勝出關鍵。

7.作為新興技術,產業人才主要集中于學界而非企業界,因此院校技術、人才轉化資源非常關鍵。

8.除創業公司外,大學院校及巨頭也在同步做研發,長期來看,真正強勁的競爭對手可能是觀望中的巨頭。

9.存算一體芯片相對于CPU/GPU等主流算力并非是取代關系,未來將會成為主流算力的重要補充,更側重于高能效的算力。02.存算一體技術的背景及原理

0da3ebaa-1315-11ee-962d-dac502259ad0.png

在全球數據量呈指數級暴漲,算力相對于AI運算供不應求的現狀下,存算一體技術主要解決了高算力帶來的高能耗成本矛盾問題,有望實現降低一個數量級的單位算力能耗,在功耗敏感的百億級AIoT設備上、高能耗的數據中心自動駕駛等領域有望發揮其低功耗、低時延、高算力密度等優勢。 在現有的成熟架構及工藝下,當前依靠制程技術進步,增加晶體管密度提升算力、降低功耗已逐步趨于物理極限,且成本逐步提高;

0dc995da-1315-11ee-962d-dac502259ad0.png

在馮諾依曼架構下,由于數據存儲與運算單元分離,算力提升受限,功耗增加:

0ddbdd9e-1315-11ee-962d-dac502259ad0.png

應對存儲單元與計算單元分離的現狀,存算一體技術思路應運而生,在器件單元上存儲與計算單元融合,通過底層的架構創新解決馮諾依曼架構的固有瓶頸:

0e07774c-1315-11ee-962d-dac502259ad0.png

由于存儲介質技術在近年來不斷突破,此外AIoT時代對于設備的智能化、低功耗、體積小、低時延等特性提出了天然要求(而現有的技術路線未能很好的滿足需求),在技術突破疊加市場需求的雙重作用力下,存算一體技術當前已到達產業化爆發拐點:

0e1c7eda-1315-11ee-962d-dac502259ad0.png

相對于五十多年前CPU的誕生以及二十多年前GPU的誕生,當前存算一體技術仍處于早期階段,未來依靠其更好的并行度、更好的能效比等特性,有望成為智能化時代的主流算力平臺之一,與現有的算力解決方案互為補充。

伴隨架構創新的巨大機遇和算力需求的變化,在存算一體領域有希望孕育下一個千億美元級的芯片巨頭,當前我國存算一體技術研發與國外處于齊頭并進的階段,我國存算一體技術及產業有望引領世界。

0e336d0c-1315-11ee-962d-dac502259ad0.png

存算一體當前有一些相似的稱呼(如近存計算),其內在結構差別如下:近存計算:不改變計算單元和存儲單元本身設計功能,通過采用先進的封裝方式及合理的硬件布局和結構優化,增強二者間通信寬帶,增大傳輸速率;本質上屬于馮諾依曼架構,通過拉近存儲單元和計算單元的距離,對“存儲墻”進行優化。 內存儲計算:存儲單元與計算單元完全融合,無獨立計算單元,通過存儲器顆粒上嵌入算法,由存儲器芯片內部的存儲單元完成計算操作;其設計難度更高,未來可提升的空間也更大,但需要獲得代工廠許可支持。本文所探討是存算一體/存內計算企業主要集中于這類。

0e59745c-1315-11ee-962d-dac502259ad0.png

0e67c46c-1315-11ee-962d-dac502259ad0.png

03.存儲介質技術路線的選擇分析存算一體,當前存算一體芯片研發企業/機構在成熟介質上的切入點集中在SRAM、Nor-Flash和DRAM等;部分學術機構選擇切入RRAM等新型介質研發。 從存儲介質的分類來講,分為易失性存儲器和非易失性存儲器。

0e840636-1315-11ee-962d-dac502259ad0.png

上圖引自方正證券研報 當前不同的存儲介質在計算機架構中均承擔著必要的工作任務,其中SRAM距離CPU最近,響應時間最快,存儲容量較小;

其次分別是DRAM、NAND-Flash等介質,在傳輸速率、存儲容量上各有其特點:

1.易失性存儲器:即在正常關閉系統或者突然性、意外性關閉系統的時候,數據會丟失,成本高。
DRAM:內存條(一個存儲單元僅需一個晶體管和一個小電容),占據58%的半導體存儲市場份額,當前已突破20nm,往10nm過渡。
SRAM:CPU緩存(一個存儲單元需要4-6個晶體管),特點是速度最快(納秒級),不需要一直充電。

2.非易失性存儲器:在上述斷電情況下數據不會丟失,成本低。

NAND Flash:如固態硬盤、U盤和內存;容量大,但讀寫速度極低。

NOR Flash:代碼型內存,主要存一些指令;如機頂盒、網關、路由器中嵌入代碼的存儲;容量較小且寫入數據極低,但讀速較快。

0ea0c672-1315-11ee-962d-dac502259ad0.png

長期來看,存算一體芯片產品化的快速發展離不開新型存儲介質成熟度提升的助推,以下為不同新型存儲介質的原理比較:

0eb38c80-1315-11ee-962d-dac502259ad0.png

長期來看,RRAM(憶阻器)是除了電阻器電容器電感器之外的一大新發現;其與生物神經突觸有著非常類似的特性,因此也被成為電子突觸器件。

0eca235a-1315-11ee-962d-dac502259ad0.png


以下為新型存儲介質的性能比較:

0f035f58-1315-11ee-962d-dac502259ad0.png

以下為不同存儲介質的存儲原理及客觀性能比較;其中成熟的存儲介質如SRAM、DRAM、Flash基于電荷的移動完成數據存儲;新型存儲介質與RRAM、MRAM等基于電阻大小的變化完成數據存儲功能。

0f1ea862-1315-11ee-962d-dac502259ad0.png

0f55ea34-1315-11ee-962d-dac502259ad0.png

0f6d6a42-1315-11ee-962d-dac502259ad0.png

除介質以外,選擇數字計算與模擬計算也是影響存算一體芯片性能的因素之一;其中數字計算精度更高。

0fa0593e-1315-11ee-962d-dac502259ad0.png

04.存算一體應用場景1.存算一體架構與深度學習網絡運算模型高度重合。
通用性計算芯片在服務特定AI算法方面并不具備性價比優勢,為AI定制的芯片將成為人工智能產業鏈條上的底層核心技術。 存內計算作為創新芯片架構形式,突破了存儲墻問題,且其本質是乘積累加運算(Multiply Accumulate, MAC)操作加快的體現,與深度學習網絡運算模型中的基本算子高度契合,使得基于存內計算架構的芯片相比于市場已有的AI加速芯片,在計算效率(TOPS/W)方面有數量級上的提升。 智能時代里,從可穿戴到自動駕駛,功耗約束下場景里的計算效率都是永恒的主題,存內計算是解放算力、提升能效比最強有力的武器之一。

0fbe31a2-1315-11ee-962d-dac502259ad0.png

資料來源:《先進存算一體芯片設計》、知乎陳巍探芯 2.存算一體芯片適用的行業/場景(1)小算力場景:邊緣側對成本、功耗、時延、開發難度非常敏感

中早期的存算一體芯片算力較小,從小算力1TOPS開始往上走,解決的是音頻類、健康類及低功耗視覺終端側應用場景,AI落地的芯片性能及功耗問題。

我們預測從邊緣端接入的智能設備的市場體量將快速增長,智能產品覆蓋面積越來越大,產品形態的多樣性將迎來爆發式的增長。可以預見,由于傳輸延遲或數據安全考慮,很多數據處理及推理運算將在端側發生。

(2)大算力場景:GPU在算力和能效上都無法同時與專用加速芯片競爭

目前云計算算力市場,GPU的單一架構已經不能適應不同AI計算場景的算法離散化特點,如在圖像、推薦、NLP領域有各自的主流算法架構。

隨著存算一體芯片算力不斷提升,使用范圍逐漸擴展到大算力應用領域。針對大算力場景>100TOPS,在無人車、泛機器人、智能駕駛,云計算領域提供高性能大算力和高性價比的產品。

存算技術可支持成熟制程下匹配傳統結構+高級節點才能提供的計算能力,節約制造成本,繞過工藝封鎖等問題。

自動駕駛要求很高,算力、可靠性、穩定性需要同時達標,需要數年,目前仍有工藝挑戰和迭代,現在也還做不到數據中心的水平。

0fdcfa42-1315-11ee-962d-dac502259ad0.png

3.存算一體的其他延伸應用:感存算一體、類腦計算

存算一體作為基礎原理,同樣也衍生了如感存算一體、類腦計算等創新技術方向:

(1)感存算一體:

傳統芯片,需要先利用傳感器芯片收集信息、存儲芯片進行存儲、利用計算芯片來處理數據。感存算一體集傳感、儲存和運算為一體,在存算一體的基礎上增加了傳感,三位合一提高整體效率。

在傳感器自身包含的AI存算一體芯片上運算,來實現零延時和超低功耗的智能處理。

研究成果來看,包括壓力、光學、氣體三大類;從當前應用方向來看,包括實現更高效的機器視覺和類腦計算。

(2)類腦計算:

類腦計算又被稱為神經形態計算,是借鑒生物神經系統信息處理模式和結構的計算理論、體系結構、芯片設計以及應用模型與算法的總稱。

試圖借鑒人腦的物理結構和工作特點,讓計算機完成特定計算任務,從而高速處理信息,屬于大算力高能效領域。

存算一體天然是將存儲和計算結合在一起的技術,天然適合應用在類腦計算領域,并成為類腦計算的關鍵技術基石。05.產業現狀與未來趨勢1.存算一體技術當前面臨的挑戰:

存算一體技術是一門非常復雜的綜合性創新,產業還算不上成熟,在產業鏈方面仍舊存在上游支撐不足,下游應用不匹配的諸多挑戰,但諸多的挑戰同時也構成了當前存算一體創新未來可構筑的綜合性壁壘。

0ffb6982-1315-11ee-962d-dac502259ad0.png

2.存算一體技術發展趨勢:更高精度、更高算力、更高能效。

1010b1d4-1315-11ee-962d-dac502259ad0.png

3.當前產業面臨的人才及生態問題:

(1)作為一個新領域,存算一體芯片復合型人才稀缺,人才更多在學術界。

完成存算一體芯片的產品化開發,需同時具備較強的學術原創能力(存算一體的架構和編譯器設計、存算相關的量化算法開發等)及工程實踐能力(場景理解能力、芯片落地能力)。

(2)從上游到下游的生態不完整,既是挑戰也是機遇。

存算一體芯片的大規模落地需與芯片廠商、軟件工具廠商以及應用集成廠商等產業生態合作伙伴的大力協同研發和推廣應用。

需有一套方便、可用的工具鏈和軟件,讓采購方遷移成本低。

兼容現有的軟件生態,讓采購方用起來“無感”,如可直接利用現有GPU訓練軟件框架。

引導采購方逐步切入專用工具鏈進行模型適配、壓縮等,更好利用存算一體的優勢,逐步建立生態。06.行業相關企業分析 當前我國存算一體芯片創新企業與海外創新企業屬于齊頭并進階段,共同探索存算一體技術產業化落地及應用場景,在AIoT時代巨大的應用場景下,未來我國存算一體領域有望產生引領世界的創新企業。 國內存算一體芯片企業有:蘋芯科技、后摩智能、知存科技、億鑄科技、智芯科、千芯科技、九天睿芯等創新企業;國外有如Mythic、Syntiant等公司。

以下為國內外部分存算一體企業簡介:

102087d0-1315-11ee-962d-dac502259ad0.png

10404c96-1315-11ee-962d-dac502259ad0.png

10672960-1315-11ee-962d-dac502259ad0.png

109d0468-1315-11ee-962d-dac502259ad0.png

10b55540-1315-11ee-962d-dac502259ad0.png

10c77572-1315-11ee-962d-dac502259ad0.png

10dec510-1315-11ee-962d-dac502259ad0.png

10f5c0f8-1315-11ee-962d-dac502259ad0.png

110c5070-1315-11ee-962d-dac502259ad0.png

附錄:賽道內主要玩家的部分產品進展及性能

1139a28c-1315-11ee-962d-dac502259ad0.png


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30896

    瀏覽量

    269087
  • 產業鏈
    +關注

    關注

    3

    文章

    1351

    瀏覽量

    25713
  • 算力
    +關注

    關注

    1

    文章

    977

    瀏覽量

    14821

原文標題:存算一體:內核架構創新,打破算力能效極限

文章出處:【微信號:算力基建,微信公眾號:算力基建】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    一體力AI芯片將逐漸走向落地應用

    電子發燒友網報道(文/李彎彎)前不久,后摩智能宣布,其自主研發的業內首款一體力AI芯片成功點亮,并成功跑通智能駕駛算法模型。 ? 這是
    的頭像 發表于 05-31 00:03 ?4993次閱讀

    一體更進步,“感一體化”前景如何?

    一體芯片是為了打破馮諾依曼存儲計算分離的計算架構所造成的“內存墻”的系統限制,而“感
    的頭像 發表于 06-08 00:01 ?5453次閱讀

    SRAM一體芯片的研究現狀和發展趨勢

    人工智能時代對計算芯片的力和能都提出了極高要求。一體芯片技術被認為是有望解決處理器芯片“存儲墻”瓶頸,大幅提升人工智能
    的頭像 發表于 01-02 11:02 ?2498次閱讀
    SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片的研究現狀和發展趨勢

    一體技術路線如何選

    電子發燒友網報道(文/李彎彎)過去幾年,越來越多企業加入到一體技術的研究中,如今,一體
    的頭像 發表于 06-21 09:27 ?4328次閱讀

    一體技術發展現狀和未來趨勢

    一體
    電子發燒友網官方
    發布于 :2023年04月25日 17:21:41

    一體芯片在可穿戴設備市場有哪些機會

    2022年,TWS耳機廠商在種新型計算架構中找到突破口——一體。與傳統馮諾依曼架構相比,基
    發表于 10-14 09:38 ?1326次閱讀

    國產一體超速前進 一體架構有機會解決很多AI面臨的問題

    下,半導體愈來愈蹣跚的力提升已經追不上狂奔的AI。 一體架構有機會讓AI面臨的問題迎刃而解。時代的浪潮下,
    的頭像 發表于 11-25 15:26 ?2190次閱讀

    基于憶阻器一體芯片的研究進展

    未來集成電路將通過計算范式、芯片架構和集成方法等創新,突破高力發展瓶頸。具體創新方法為:Chiplet異質集成提高晶體管數量、
    的頭像 發表于 12-12 15:50 ?1779次閱讀

    基于憶阻器一體芯片研究進展、總結與展望

    未來集成電路將通過計算范式、芯片架構和集成方法等創新,突破高力發展瓶頸。具體創新方法為:Chiplet異質集成提高晶體管數量、
    發表于 12-23 10:49 ?2527次閱讀

    基于3DIC架構一體芯片仿真解決方案

    數字經濟已成為繼農業經濟、工業經濟之后的主要經濟形態。力作為數字經濟的核心生產力,將直接影響數字經濟發展的速度,決定社會智能的發展高度。一體作為
    的頭像 發表于 02-24 09:34 ?4945次閱讀

    ChatGPT開啟大模型“軍備賽”,一體開啟力新篇章

    一體需求旺盛,有望推動下階段的人工智能發展,原因是我們認為現在
    發表于 07-06 10:20 ?433次閱讀
    ChatGPT開啟大模型“軍備賽”,<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>開啟<b class='flag-5'>算</b>力新篇章

    一體芯片的技術壁壘

    ,從學術到商用,一體的技術壁壘體現在哪里,后摩智能又是如何從IP、電路設計、架構設計等層面突破技術難題,形成自己獨有的技術壁壘。
    的頭像 發表于 09-22 14:16 ?887次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片的技術壁壘

    一體芯片新突破!清華大學研制出首顆一體芯片

    這幾天清華大學又火出圈了。但這次并不是因為招生搶人和飯堂,而是清華大學的芯片研發團隊研制出全球首顆全系統集成的一體芯片。這是我國、乃至全世界對半導體行業的又重大突破。 這個芯片由
    的頭像 發表于 10-11 14:39 ?1139次閱讀

    淺談為AI大力而生的-芯片

    大模型爆火之后,一體獲得了更多的關注與機會,其原因之是因為
    發表于 12-06 15:00 ?395次閱讀
    淺談為AI大<b class='flag-5'>算</b>力而生的<b class='flag-5'>存</b><b class='flag-5'>算</b>-<b class='flag-5'>體</b>芯片

    一體架構創新助力國產大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《一體架構創新助力國產大
    的頭像 發表于 10-23 14:48 ?297次閱讀
    主站蜘蛛池模板: 女人张开双腿让男人桶完整 | 性色爽爱性色爽爱网站| 日本色高清| 丰满寡妇一级毛片| 国产巨大bbbb天美| 一区二区三区高清在线观看| 久综合| 日本全黄视频| 久久久久国产精品免费网站 | 美女网站视频色| 手机看片1024日韩| 免费看色视频| 理论片一区| 精品在线小视频| 亚洲乱亚洲乱妇41p国产成人| 国产免费一区二区三区最新| 色www视频永久免费软件| www日本黄色| 免费看国产一级片| 直接在线观看的三级网址| 很狠操| 中国人69xxx大全| 色伊人网| 特黄视频免费看| 中文字幕不卡在线播放| 国产亚洲精品激情都市| 人人九九精| 日本一区二区三区在线网 | 国产天天射| 天堂资源站| 天天天天天天天操| 扒开双腿猛进湿润18p| 狠狠尻| 91国内在线观看| 美女污污网站| 欧美激情伊人| 嫩草影院地址一地址二| 俺要操| 欧美性狂猛xxxxxbbbbb| 国产在线理论片免费播放| 色牛网|