電子發(fā)燒友網(wǎng)報道(文/李彎彎)為什么存算一體化越來越受到關注?今年1月,在阿里達摩院發(fā)布的2020十大科技趨勢中,其中一個是,計算存儲一體化突破AI算力瓶頸。
根據(jù)該趨勢預判,馮諾伊曼架構的存儲和計算分離,已經(jīng)不適合數(shù)據(jù)驅動的人工智能應用需求,頻繁的數(shù)據(jù)搬運導致的算力瓶頸以及功耗瓶頸已經(jīng)成為對更先進算法探索的限制因素。
類似于腦神經(jīng)結構的存內計算架構將數(shù)據(jù)存儲單元和計算單元融合為一體,能顯著減少數(shù)據(jù)搬運,極大提高計算并行度和能效。計算存儲一體化在硬件架構方面的革新,將突破AI算力瓶頸。
當前,有不少科研團隊和芯片企業(yè)投入到存儲一體芯片的研發(fā)中,并且時常傳出新進展,比如,上個月,瑞士洛桑聯(lián)邦理工學院設計出了一種兼具邏輯運算和數(shù)據(jù)存儲功能的計算機芯片,近日有消息顯示,知存科技已經(jīng)研發(fā)了三款存算一體芯片,并且其中一款已小批量生產(chǎn)。
存算一體可極大降低功耗,提升運算效率
存算一體,即在存儲器顆粒本身進行算法嵌入,在存儲顆粒內實現(xiàn)計算。眾所周知,我們當前的計算機采用馮諾依曼體系結構,計算和存儲功能是分離的,分別由中央處理器CPU和存儲器完成。
CPU和存儲器通過總線互連通信,CPU從存儲器讀出數(shù)據(jù),完成計算,然后將結果寫回存儲器。馮諾依曼架構以CPU為核心,其他部件都是為CPU服務。
馮諾依曼架構圖
但是,因為處理器和存儲器工藝、封裝各不相同,兩者的性能差距隨著時間不斷拉大,存儲器數(shù)據(jù)訪問速度跟不上CPU的數(shù)據(jù)處理速度,導致了“存儲墻”問題越來越嚴重。
數(shù)據(jù)顯示,從 1980年到 2000年,處理器和存儲器的速度失配以每年50%的速率增加。通過不斷的探索,業(yè)界認為,存算一體技術可以達到弱化或消除“存儲墻”問題。
關于存儲墻的問題,知存科技創(chuàng)始人兼CEO王紹迪近日在某活動上的講述更為形象,他說:計算本身消耗的功耗并不多,但數(shù)據(jù)從內存搬到計算單元會消耗將近1000倍的計算功耗。
可見,存算一體可以完美的避開搬運產(chǎn)生的極大功耗,事實上,與傳統(tǒng)技術相比,存算一體還有運算效率高、速度快和成本低的特點,非常受市場需求端看好。
存算一體芯片雖研發(fā)困難,但仍有進展
雖然從應用端來看,存算一體芯片會給很多行業(yè)、設備帶來更高效的運算和更低的功耗,但是其技術的實現(xiàn)卻沒有那么容易,事實上,很多團隊已經(jīng)在這個領域鉆研很多年,才最終取得一些進展。
知存科技創(chuàng)始人兼CEO王紹迪就透露,該公司的創(chuàng)始團隊研發(fā)存算一體八年,流片次數(shù)接近20次。雖然當前知存科技已經(jīng)有芯片進行小批量生產(chǎn),但是從開發(fā)的時間來看,投入是相當大的,可見技術實現(xiàn)的不容易。
不過雖然困難,是所謂,市場需求推動技術進步,在科學界和企業(yè)界不斷努力研發(fā)下,未來發(fā)展還是值得期待。事實上,當前已經(jīng)不少技術和產(chǎn)品初見成效。
新一代計算機芯片實現(xiàn)存算一體
就在上個月,有報道稱,瑞士洛桑聯(lián)邦理工學院的工程師設計了一種兼具邏輯運算和數(shù)據(jù)存儲功能的計算機芯片。
就如上文所言,現(xiàn)在的主流計算機,處理器和存儲芯片都是分離的,一直沿用馮諾依曼五十多年前確立的架構,在工作的時候,兩個單元之間需要頻繁地交換數(shù)據(jù),消耗很大一部分時間和能量。
根據(jù)報道,這個研究組首次使用一種只有3個原子厚的平面材料——二硫化鉬(MoS2),進行創(chuàng)新設計,集邏輯運算和存儲功能為一體,大幅減少傳統(tǒng)設計中數(shù)據(jù)交換的損耗。
該團隊主要研究員Andras Kis說:“該款芯片可以減少存儲單元和處理單元之間數(shù)據(jù)傳輸?shù)哪芰肯模s短了運算時間,縮小芯片占用的空間。”
可以預見,這款芯片如果最后能夠實現(xiàn)商用,將會為制造體積更小、更節(jié)能、處理速度更快的電腦,以及人工智能的發(fā)展鋪平道路。
科學家成功研制存算一體通用AI芯片
另外,密歇根大學盧偉教授及其團隊在去年也成功研發(fā)出過一款基于憶阻器陣列的通用 AI 芯片,憶阻器即同時兼?zhèn)溆洃浐?a target="_blank">電阻的功能,是神經(jīng)形態(tài)計算實現(xiàn)的關鍵。
根據(jù)報道,這款新型 AI 芯片將所有存儲計算功能集成在同一芯片上,真正實現(xiàn)了存算一體化,而且可以通過編程應用于多種人工智能算法,進一步提高計算速度,并減少能量損耗。
盧偉教授當時在接受媒體采訪的時候表示,這種新型 AI 芯片很適合切入的一個應用場景是基于推理的邊緣計算場景。
知存科技存算一體AI芯片已經(jīng)小批量試產(chǎn)
知存科技成立于2017年10月,專注研發(fā)基于存算一體先進技術的人工智能芯片。根據(jù)官網(wǎng)介紹,該公司的創(chuàng)始成員來自國際上最早研發(fā)存算一體技術的專家團隊,并在2016年實現(xiàn)了全球第一款存算一體AI芯片。
當前,知存科技已經(jīng)完成研發(fā)了兩款智能語音芯片:WTM1001和WTM2101,其中WTM1001是全球第一個存算一體芯片產(chǎn)品,并且已經(jīng)進入小批量生產(chǎn)階段。WTM2101預計明年Q1進行正式的小批量試產(chǎn)。另外該公司還有一款面向視覺應用的芯片WTM3213,正在研發(fā)。
在存算一體技術的推進過程中,知存科技可謂是走在前列,憑借優(yōu)秀的技術實力,成立三年時間,公司已經(jīng)過得數(shù)億元融資,加入芯片量產(chǎn)。
閃億半導體計劃3年內完成首款芯片推廣及量產(chǎn)
閃億半導體成立于2017年7月,是閃易半導體的全資子公司。
據(jù)官網(wǎng)介紹,閃易半導體是一家研發(fā)高性能、低功耗、低成本的存算一體化AI芯片的集成電路公司,團隊成員分別畢業(yè)于清華大學和北京大學,分別在中美兩國的電路設計生產(chǎn)、人工智能開發(fā)企業(yè)擔任研發(fā)負責人。
該公司表示,計劃在三年內完成第一代語音產(chǎn)品在家電和物聯(lián)網(wǎng)領域的推廣和量產(chǎn),同時設計和開發(fā)好第二代產(chǎn)品,用于圖像識別及安防領域。
閃億半導體于2019年10月發(fā)布了其首款存算一體化芯片產(chǎn)品,該公司負責人魯辭莽當時表示,這款芯片在運行效率上能提高超過10TOPS/W,成本可以比傳統(tǒng)AI芯片方案下降超一半。
恒爍半導體積極推進存算一體芯片商用
據(jù)合肥日報報道,NOR Flash廠商恒爍半導體與中國科大團隊在2019年7月完成了歷時兩年研發(fā)的基于NOR閃存架構的存算一體AI芯片系統(tǒng)演示。
根據(jù)報道,這是一款具有邊緣計算和推理的AI芯片,能實時檢測通過攝像頭拍攝的人臉頭像并給出計算概率,準確且穩(wěn)定。可廣泛應用于森林防火中的人臉識別與救援、心電圖的實時監(jiān)測、人工智能在人臉識別上的硬件解決方案等。
據(jù)研發(fā)團隊成員之一、中國科大博士陶臨風介紹,相較于傳統(tǒng)芯片,存算一體人工智能芯片具有能耗低、運算效率高、速度快和成本低的特點。
電子發(fā)燒友了解到,恒爍半導體目前存算一體方面暫時還無更多進展,不過公司一直在積極推動存算一體AI芯片商用。
小結
根據(jù)上述各家推出的芯片,存算一體芯片的優(yōu)勢基本體現(xiàn)在,低能耗、高效率、成本低等優(yōu)點,在音頻、圖像等人工智能領域有很好的應用,并且憑借其優(yōu)勢,在一些傳統(tǒng)設備中可以有更多創(chuàng)新性的應用,雖然研發(fā)困難,但是市場需求看好,科學界和企業(yè)界都在持續(xù)積極研發(fā),并逐漸取得突破性進展,存算一體芯片的發(fā)展未來值得期待。
本文由電子發(fā)燒友網(wǎng)原創(chuàng),未經(jīng)授權禁止轉載。如需轉載,請?zhí)砑游?a target="_blank">信號elecfans999。
-
芯片
+關注
關注
456文章
50965瀏覽量
424837 -
cpu
+關注
關注
68文章
10882瀏覽量
212224 -
馮諾伊曼架構
+關注
關注
1文章
11瀏覽量
9936 -
存算一體
+關注
關注
0文章
102瀏覽量
4310
發(fā)布評論請先 登錄
相關推薦
評論