今天是世界環(huán)境日,一個提醒我們關(guān)注我們的土地,我們的未來的日子。能源利用效率是可持續(xù)發(fā)展的關(guān)鍵所在。萬物智能時代,海量數(shù)據(jù)的處理和人工智能技術(shù)的快速發(fā)展,給全球能源供給帶來前所未有的壓力。
據(jù)統(tǒng)計,數(shù)據(jù)中心和數(shù)據(jù)傳輸網(wǎng)絡(luò)消耗了全球約1%的電力。人工智能日益普及,神經(jīng)網(wǎng)絡(luò)和大語言模型對底層硬件和軟件基礎(chǔ)架構(gòu)的需求將急劇攀升。對于未來幾年的電力影響,各方預(yù)測不盡相同。極端的預(yù)測是:能源消耗最終將超過全球電力供應(yīng)。
無論哪種預(yù)測是正確的,超大規(guī)模數(shù)據(jù)中心的能耗都是必須要立即處理的迫切問題。那么,如何在不影響性能目標的前提下,為高性能計算(HPC)應(yīng)用構(gòu)建更節(jié)能的SoC呢?
本文將重點介紹為什么在一開始就解決設(shè)計的能效問題至關(guān)重要。我們還將進一步討論有關(guān)低功耗設(shè)計的工具和技術(shù)。
追求優(yōu)異的性能功耗比
云計算和AI模型正日益占據(jù)主導(dǎo)地位,實時數(shù)據(jù)處理和分析已成為許多應(yīng)用不可或缺的功能。以配備高級駕駛輔助系統(tǒng)(ADAS)的車輛為例,它們需要依賴實時處理和分析來確保關(guān)鍵安全功能可以正常發(fā)揮作用,比如盲點檢測和自動制動。海量數(shù)據(jù)(更不用說更大的AI模型)需要強大的算力,這已成為一個不可回避的事實。
一直以來,HPC應(yīng)用非常看重性能表現(xiàn)。然而,隨著對電網(wǎng)停電等不利事件的擔(dān)憂與日俱增,人們越來越關(guān)注性能功耗比。正因為如此,我們開始注意到大家對全面提升能效的興趣愈發(fā)濃厚。在某些情況下,性能會受到功耗或能耗的限制。有時,系統(tǒng)無法以目標速度運行,原因就在于其功耗太大。鑒于此,如果可以降低設(shè)計的能耗,并確保系統(tǒng)處于其功耗限制范圍內(nèi),那么就有機會提高系統(tǒng)的運行速度,使其接近其性能極限。
但問題是,若是等到設(shè)計過程的最后階段才考慮解決能效問題,往往已經(jīng)來不及,因為到那時,架構(gòu)已經(jīng)定義好,許多設(shè)計決策已做出,其間的每一個決策都會對功耗產(chǎn)生影響。在物理實現(xiàn)過程中,有時確實可以從設(shè)計中壓榨出一些功耗,但收效甚微。
我們需要的是一種整體左移思維,即設(shè)計團隊首先要定義:高能效的架構(gòu)應(yīng)該是什么樣子?需要什么類型的IP,應(yīng)選擇數(shù)字信號處理(DSP)內(nèi)核,還是用于特定功能的硬件加速器?系統(tǒng)應(yīng)該運行多快?能否在適當?shù)臅r候關(guān)閉設(shè)計的某些部分?是否可以降低時鐘頻率來節(jié)省功耗?內(nèi)存子系統(tǒng)應(yīng)采用怎樣的架構(gòu)?芯片應(yīng)該采用什么樣的工藝技術(shù)來設(shè)計?以上僅列舉了與設(shè)計功耗相關(guān)的一小部分關(guān)鍵問題。
現(xiàn)在許多開發(fā)者會根據(jù)實際應(yīng)用的工作負載來評估能耗,這確實是一種明智的方法。分析功耗曲線可以捕獲降低功耗的相關(guān)線索,比如修改微架構(gòu)、優(yōu)化軟件/硬件等等。幸運的是,現(xiàn)在有很多工具可以實現(xiàn)這一點。以AI初創(chuàng)公司SiMa.ai為例,該公司開發(fā)了一個專門的軟件優(yōu)先平臺,可以在嵌入式邊緣擴展機器學(xué)習(xí)(ML)。在2023年SNUG硅谷大會上,SiMa.ai重點介紹了如何使用硬件加速驅(qū)動型功耗分析來優(yōu)化其設(shè)計的硬件架構(gòu)、軟件和編譯器,從而將性能功耗比提高2.5倍。
在AI/ML設(shè)計和那些需要大量數(shù)據(jù)處理的設(shè)計中,毛刺功耗,即由于不必要的轉(zhuǎn)換或冗余活動而浪費的功耗,可能占到設(shè)計總功耗的25%。RTL到門級毛刺功耗分析和優(yōu)化解決方案可以協(xié)助識別毛刺功耗的源頭,讓開發(fā)者了解這些源頭產(chǎn)生了多少毛刺功耗。雖然AI應(yīng)用對功耗提出了更高的需求,但AI驅(qū)動型電子設(shè)計自動化(EDA)解決方案可以協(xié)助優(yōu)化功耗、性能和面積。將來,也許可以應(yīng)用AI來創(chuàng)建更節(jié)能的RTL代碼,或是協(xié)助定義/改進設(shè)計的架構(gòu)。
低功耗芯片設(shè)計之路
一直以來,開發(fā)者往往需要通過更先進的工藝技術(shù)來改善功耗。但隨著摩爾定律趨近極限,開發(fā)者把注意力轉(zhuǎn)向了新材料。光子IC利用了光的特性,諸多實踐已證明其能夠提高帶寬和速度,同時降低功耗和延遲。對于AI聊天機器人和其他HPC應(yīng)用,光子IC有望成為未來的前進方向。與此同時,對氮化鎵、碳化硅等半導(dǎo)體替代材料的探索也將帶來一些選擇。
總的來說,每一個看似微小的決定都會對芯片的整體功耗產(chǎn)生深遠影響。從探索新材料和設(shè)計技術(shù),到改善設(shè)計和驗證工具,研發(fā)工作還有著非常大的發(fā)展空間。在設(shè)計之初就將能效考慮在內(nèi)是一個良好的開端。為了幫助開發(fā)者實現(xiàn)更節(jié)能的SoC,新思科技提供了面向低功耗設(shè)計的端到端解決方案,其中涵蓋設(shè)計、驗證和IP等多個方面。
現(xiàn)代精英人才不斷引領(lǐng)創(chuàng)新,為我們帶來了ChatGPT、自動駕駛汽車和工業(yè)機器人等前沿技術(shù)。然而,全球電力需求正迅猛增長,我們?nèi)云惹幸蕾囉陂_發(fā)者的智慧與才能,探索更多降低芯片功耗的有效方法。節(jié)能SoC將在今后的世界中變得越來越重要。
-
soc
+關(guān)注
關(guān)注
38文章
4193瀏覽量
218715 -
AI
+關(guān)注
關(guān)注
87文章
31398瀏覽量
269787 -
新思科技
+關(guān)注
關(guān)注
5文章
805瀏覽量
50384 -
高性能計算
+關(guān)注
關(guān)注
0文章
83瀏覽量
13415
原文標題:降低高性能計算SoC設(shè)計能耗的最佳時機是什么?
文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論