電子發燒友網報道(文/周凱揚)要說RISC-V社區最炙手可熱的AI芯片初創公司,除了Ventana和Tenstorrent的話,當屬打造出千核RISC-V芯片ET-SoC-1的Esperanto了。近日,Esperanto公開了他們在AI軟件生態上所做的進一步努力,也透露了下一代千核RISC-V芯片的部分細節。
下一代千核RISC-V處理器結合HPC和ML
ET-SoC-1作為專門用于機器學習,尤其是推薦系統這類AI負載的RISC-V處理器,采用臺積電7nm工藝打造,集成了1092個低功耗RISC-V核心。這上千個RISC-V核心中包括1088個ET-Minion核心,用于ML應用的計算,而另外4個ET-Maxion核心則提供更高的單線程性能,用于運行操作系統等任務。
根據ET-Minion工作頻率的不同,ET-SoC-1的峰值算力在100到200TOPS之間,大多數負載下功耗甚至不會超過20W,不過單個PCIe模塊由于集成了DRAM等組件,還是會達到30多瓦的功耗,可這已經是很優異的表現了。
但ET-SoC-1畢竟從一開始就是為了ML這種低精度運算的應用而設計的,至于多數利用雙精度計算的HPC領域,ET-SoC-1是沒辦法打入這一市場的。為此,Esperanto計劃打破CPU+GPU或CPU+其他加速器的現狀,讓RISC-V芯片從HPC和ML兩個方向同時下手,這一解決方案正是他們尚在研發的ET-SoC-2處理器。
ET-SoC-1已經證明了RISC-V非常適合用于機器學習,而ET-SoC-2則打算同時攻克HPC計算。據Esperanto所述,ET-SoC-2的目標是除了支持FP16/FP8外,還要引入對FP64/FP32高精度的支持,并實現10Tflops以上的FP64算力。
為此他們將采用更為先進的半導體工藝,以及全新的HBM內存,同時還要進一步提高擴展性,可以將大量芯片無縫組合在一起,共享龐大的內存與計算資源。即便有了如此強勁的性能,Esperanto依然將低功耗作為設計目標之一,其表示未來五年內,基于RISC-V的超算系統一定會在Green500這一能效榜單上名列前茅。
軟件生態仍需努力
即便芯片設計中RISC-V在算力上能與其他GPU、AI加速器媲美,但沒有軟件生態的支持是遠遠不夠的。屆時必將面臨絕大多數新AI芯片橫亙在眼前的問題,那就是開發者更愿意去選擇軟件生態成熟度更高的GPU。
所以Esperanto也已經開始了加速其芯片的軟件支持,比如將Meta的LLM移植到ET-SoC-1上。同時Esperanto也推出了針對ET-SoC-1的通用SDK,允許開發者對1024個ET-Minion核心并行編程。但這些努力也只能算是走出了第一步而已,對于服務器這個通用性稱王的市場,如果沒辦法運行大部分主流的AI模型,客戶借助該硬件打造應用程序的意愿也會大大降低。
這也就是為何大部分AI初創公司也要建立規模不小軟件團隊的原因,除了需要支持和優化主流AI模型與框架外,還需要對部分服務器軟件進行移植。跨不過這個門檻的話,始終難以邁進主流市場。
寫在最后
最近另一家RISC-V AI芯片初創公司Tenstorrent,也從現代、起亞和三星這一眾韓國廠商那拿到了1億美元的投資。由此可以看出,AI芯片會是RISC-V開發的下一個大方向,無論是汽車芯片,還是數據中心加速器,都會進一步推動RISC-V在AI擴展指令上的標準化加速。
下一代千核RISC-V處理器結合HPC和ML
ET-SoC-1作為專門用于機器學習,尤其是推薦系統這類AI負載的RISC-V處理器,采用臺積電7nm工藝打造,集成了1092個低功耗RISC-V核心。這上千個RISC-V核心中包括1088個ET-Minion核心,用于ML應用的計算,而另外4個ET-Maxion核心則提供更高的單線程性能,用于運行操作系統等任務。
根據ET-Minion工作頻率的不同,ET-SoC-1的峰值算力在100到200TOPS之間,大多數負載下功耗甚至不會超過20W,不過單個PCIe模塊由于集成了DRAM等組件,還是會達到30多瓦的功耗,可這已經是很優異的表現了。
但ET-SoC-1畢竟從一開始就是為了ML這種低精度運算的應用而設計的,至于多數利用雙精度計算的HPC領域,ET-SoC-1是沒辦法打入這一市場的。為此,Esperanto計劃打破CPU+GPU或CPU+其他加速器的現狀,讓RISC-V芯片從HPC和ML兩個方向同時下手,這一解決方案正是他們尚在研發的ET-SoC-2處理器。
ET-SoC-1已經證明了RISC-V非常適合用于機器學習,而ET-SoC-2則打算同時攻克HPC計算。據Esperanto所述,ET-SoC-2的目標是除了支持FP16/FP8外,還要引入對FP64/FP32高精度的支持,并實現10Tflops以上的FP64算力。
為此他們將采用更為先進的半導體工藝,以及全新的HBM內存,同時還要進一步提高擴展性,可以將大量芯片無縫組合在一起,共享龐大的內存與計算資源。即便有了如此強勁的性能,Esperanto依然將低功耗作為設計目標之一,其表示未來五年內,基于RISC-V的超算系統一定會在Green500這一能效榜單上名列前茅。
軟件生態仍需努力
即便芯片設計中RISC-V在算力上能與其他GPU、AI加速器媲美,但沒有軟件生態的支持是遠遠不夠的。屆時必將面臨絕大多數新AI芯片橫亙在眼前的問題,那就是開發者更愿意去選擇軟件生態成熟度更高的GPU。
所以Esperanto也已經開始了加速其芯片的軟件支持,比如將Meta的LLM移植到ET-SoC-1上。同時Esperanto也推出了針對ET-SoC-1的通用SDK,允許開發者對1024個ET-Minion核心并行編程。但這些努力也只能算是走出了第一步而已,對于服務器這個通用性稱王的市場,如果沒辦法運行大部分主流的AI模型,客戶借助該硬件打造應用程序的意愿也會大大降低。
這也就是為何大部分AI初創公司也要建立規模不小軟件團隊的原因,除了需要支持和優化主流AI模型與框架外,還需要對部分服務器軟件進行移植。跨不過這個門檻的話,始終難以邁進主流市場。
寫在最后
最近另一家RISC-V AI芯片初創公司Tenstorrent,也從現代、起亞和三星這一眾韓國廠商那拿到了1億美元的投資。由此可以看出,AI芯片會是RISC-V開發的下一個大方向,無論是汽車芯片,還是數據中心加速器,都會進一步推動RISC-V在AI擴展指令上的標準化加速。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
RISC-V
+關注
關注
45文章
2277瀏覽量
46159
發布評論請先 登錄
相關推薦
基于risc-v架構的芯片與linux系統兼容性討論
的硬件接口兼容。
平臺特性支持 :
RISC-V架構的芯片可能具備一些特定的功能特性,如特定的節能模式、硬件加速器等。
Linux內核需要為這些特性提供支持并編寫相應的代碼,以確保在
發表于 11-30 17:20
《RISC-V能否復制Linux 的成功?》
型的內核、加速器以及所需的各種模塊匯集在一起。”他表示,“RISC-V ISA在此發揮了關鍵作用,它開拓了一個創新的領域”。任何人只需下載ISA規范就可以在設計中使用內核,而無需與任何
發表于 11-26 20:20
RISC-V,即將進入應用的爆發期
RISC-V是一種開放標準指令集架構 (ISA),最初由加州大學伯克利分校的研究人員于2010年開發。業界稱,這種開源特性為芯片設計者提供了極大的靈活性,可以根據具體需求定制AI加速器
發表于 10-31 16:06
RISC-V Summit China 2024 | 青稞RISC-V+接口PHY,賦能RISC-V高效落地
RISC-V內核+接口底層根技術”的自研體系,深度剖析了全棧研發模式在推動RISC-V應用落地上的原生優勢。
青稞RISC-V將芯片技術自主進一
發表于 08-30 17:37
2024 RISC-V 中國峰會:華秋電子助力RISC-V生態!
掌握RISC-V芯片的應用與開發,電子發燒友作為緊密合作伙伴,依托650萬+開發者用戶,全力構建包含RISC-V開發者社區、RISC-V技術商業生態圈及
發表于 08-26 16:46
RISC-V在中國的發展機遇有哪些場景?
。RISC-V結合AI加速器,可以在AI領域提供高效的計算解決方案。
定制化需求:RISC-V允許添加專門的加速器或協處理器來處理特定任務,
發表于 07-29 17:14
為什么要有RISC-V
RISC-V(“RISC five”)的目標是成為一個通用的指令集架構(ISA):①、它要能適應包括從最袖珍的嵌入式控制器,到最快的高性能計算機等各種規模的處理
發表于 07-27 15:05
RISC-V的MCU與ARM對比
擴展,實現特定功能或加速器。
性能與功耗
RISC-V :RISC-V適合用于高效設計實現,其全部RISC-V指令不超過50個,因此其內核面積更小,相應的功耗更低。此外,
發表于 05-27 15:58
RISC-V在服務器方面應用與發展前景
RISC-V在服務器方面的應用與發展前景十分廣闊。作為一種開源、開放、簡潔、靈活的指令集,RISC-V近年來在芯片產業中發展迅速,并逐漸引領
發表于 04-28 09:04
RISC-V在服務器方面的應用與發展前景如何?剛畢業的學生才開始學來的及嗎?
RISC-V在服務器方面的應用與發展前景十分廣闊。作為一種開源、開放、簡潔、靈活的指令集,RISC-V近年來在芯片產業中發展迅速,并逐漸引領
發表于 04-28 08:49
Rivos完成2.5億美元A輪融資,用于研發AI工作負載 RISC-V計算加速
Rivos創立于2021年,總部設于美國加利福尼亞州,專注于設計和生產RISC-V芯片。盡管在A輪融資后未披露芯片詳細架構,但據稱其結合了高性能RISC-V CPU和數據并行
新思科技如何助力RISC-V SoCs性能“超級加倍”?
近日,新思科技作為玄鐵的重要生態合作伙伴,受邀參加了2024玄鐵RISC-V生態大會。與眾多合作伙伴共同探討如何讓RISC-V SoCs設計受益,為產品上市時間和部署下一代技術樹立全新標準。
【RISC-V開放架構設計之道|閱讀體驗】 RISC-V設計必備之案頭小冊
。在書中,特別提到了匯編器對于RISC-V中的作用,包括當講寄存器硬連線為0時,可以使用偽指令來簡化常規操作,如跳轉、返回和等于零時分支等。
浮點運算和壓縮指令數據集的知識則是放在下一
發表于 01-22 16:24
評論