電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)隨著納米制程的不斷往前推進(jìn),延續(xù)近50年的摩爾定律已經(jīng)日漸式微。AI、5G、物聯(lián)網(wǎng)等新興領(lǐng)域的蓬勃發(fā)展帶動(dòng)了全球數(shù)據(jù)的爆炸式增長(zhǎng),對(duì)算力的需求增速遠(yuǎn)高于摩爾定律所預(yù)測(cè)的算力供給增速,傳統(tǒng)的電子芯片只能通過增大面積與功耗來完成更多的計(jì)算,已逐漸無法滿足日益增長(zhǎng)的數(shù)據(jù)處理與節(jié)能要求。
在探索超越摩爾定律的路上,先進(jìn)制程已經(jīng)開始發(fā)揮作用,與此同時(shí),由于具備高通量、低延時(shí)、低功耗的特性,用光代替電解決部分計(jì)算的也是突破現(xiàn)有瓶頸的途徑之一。而此前一直只存在于實(shí)驗(yàn)室的光子芯片,最近有了新的進(jìn)展。
近日,曦智科技(Lightelligence)發(fā)布了其最新高性能光子計(jì)算處理器——PACE(Photonic Arithmetic Computing Engine,光子計(jì)算引擎)。
曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士表示:“PACE的發(fā)布具有里程碑式的意義:它成功驗(yàn)證了光子計(jì)算的優(yōu)越性,為集成電路產(chǎn)業(yè)提供了新的發(fā)展路徑。”
曦智科技成立于2017年,成立4年以來,公司總?cè)谫Y額已經(jīng)超過10億人民幣,在波士頓、上海、杭州、南京等地均設(shè)立了辦公室及實(shí)驗(yàn)室,全球員工接近200人,中國(guó)員工超過100人。核心研發(fā)團(tuán)隊(duì)來自麻省理工學(xué)院,70%的芯片設(shè)計(jì)師擁有十年以上半導(dǎo)體從業(yè)經(jīng)驗(yàn)。
2017年,沈亦晨博士以第一作者和通訊作者的身份在《自然-光子》雜志發(fā)表封面論文,開創(chuàng)性地提出了光子人工智能計(jì)算的新路徑。也正是由于這篇論文,在后來吸引了十多家初創(chuàng)公司相繼建立。
2019年4月,曦智科技推出了全球首款光子芯片原型板卡,成功將當(dāng)時(shí)占據(jù)半個(gè)實(shí)驗(yàn)室的整個(gè)光子計(jì)算系統(tǒng)集成到了常規(guī)大小的板卡上,驗(yàn)證了以光子替代電子進(jìn)行高性能計(jì)算的開創(chuàng)性想法。當(dāng)時(shí)的原型板卡上集成了100個(gè)光子器件,運(yùn)行系統(tǒng)時(shí)鐘僅有100kHz。
兩年后的今天,這次發(fā)布的PACE已經(jīng)集成了10000個(gè)光子器件,運(yùn)行系統(tǒng)時(shí)鐘更是達(dá)到了1GHz。跨越幾個(gè)數(shù)量級(jí)的性能提升,他們是如何做到的?
電子芯片現(xiàn)存的三大瓶頸
自2012年以來,神經(jīng)網(wǎng)絡(luò)和計(jì)算模型的大小就開始爆炸性增長(zhǎng),平均每3到4個(gè)月,計(jì)算模型的大小就會(huì)翻一倍。但持續(xù)增長(zhǎng)的模型,明顯受到算力底層的限制,制約了人工智能的進(jìn)一步發(fā)展。
沈亦晨博士認(rèn)為,目前電子芯片的發(fā)展遇到了三個(gè)主要瓶頸:算力、數(shù)據(jù)傳輸和存儲(chǔ)。其中,算力瓶頸主要來源于隨著制程工藝接近物理極限導(dǎo)致的摩爾定律失效,以及功耗和發(fā)熱問題。
隨著晶體管尺寸越來越小,晶體管上的電子隧穿現(xiàn)象也愈發(fā)嚴(yán)重,因此即使將晶體管做得更小,單個(gè)晶體管在進(jìn)行運(yùn)算時(shí)的功耗也無法進(jìn)一步降低。在這樣的前提下,業(yè)界有兩種解決路徑,單芯片面積增加或多芯片互聯(lián)。
但隨著面積增大,需要更長(zhǎng)的銅導(dǎo)線進(jìn)行數(shù)據(jù)傳輸,而銅導(dǎo)線的發(fā)熱量和損耗與長(zhǎng)度成正比,即芯片面積越大,發(fā)熱越大、功耗越高。
同樣,多芯片互聯(lián)同樣存在一些問題。首先片間互聯(lián)帶寬有限,即互聯(lián)效率低,其次銅導(dǎo)線依然會(huì)造成系統(tǒng)功耗提高,比如通過電將100個(gè)芯片或板卡互聯(lián)后,算力可能只比單個(gè)板卡提高10倍左右。
因此,沈亦晨博士認(rèn)為,光是最適合解決這些困境的底層技術(shù)方式。“首先,在數(shù)據(jù)搬運(yùn)上面,光已在光通信領(lǐng)域充分證明其領(lǐng)先性和優(yōu)勢(shì)了。目前所有的長(zhǎng)距離通信,包括數(shù)據(jù)中心里服務(wù)器和服務(wù)器之間的數(shù)據(jù)都是通過光纖代替銅導(dǎo)線進(jìn)行的。我們也認(rèn)為,光進(jìn)入到芯片去幫助運(yùn)算是一個(gè)必然的方向。”
曦智光子計(jì)算的三個(gè)主要技術(shù)
前面說到光是解決目前電子芯片算力、數(shù)據(jù)傳輸和存儲(chǔ)三大瓶頸的底層技術(shù)方式。而從大數(shù)據(jù)、人工智能等應(yīng)用角度去看,越來越多的算力需求是來自于線性運(yùn)算,而曦智發(fā)明的用光高效做線性計(jì)算的方式,就是光芯片的重要優(yōu)勢(shì)之一。
曦智將其技術(shù)分為三個(gè)部分:oMAC(通過光來做矩陣的乘積累加運(yùn)算)、oNOC(片上光網(wǎng)絡(luò))、片間的光網(wǎng)絡(luò)。據(jù)沈亦晨博士介紹,oMAC是一種模擬計(jì)算,通過光模擬信號(hào)代替?zhèn)鹘y(tǒng)電子進(jìn)行數(shù)據(jù)處理,數(shù)據(jù)可以加載在光的強(qiáng)度或者相位上面,通過在波導(dǎo)里的傳播相互干涉,同時(shí)進(jìn)行運(yùn)算。主要實(shí)現(xiàn)的方法是采用和現(xiàn)在電芯片制備工藝CMOS兼容的硅光工藝平臺(tái),用光電協(xié)同設(shè)計(jì)來進(jìn)行光的矩陣乘法。
這里的優(yōu)勢(shì)是,首先,光的矩陣乘法并行能力更強(qiáng),它能以更高的通量進(jìn)行運(yùn)算。同時(shí),它的能效可以媲美甚至優(yōu)于現(xiàn)在的電子芯片,因?yàn)楣庠谧鰝鞑サ臅r(shí)候本身不會(huì)發(fā)熱。另外,它完成一個(gè)矩陣運(yùn)算所要花的時(shí)間少,也就是延時(shí)遠(yuǎn)遠(yuǎn)低于電芯片的延時(shí)。最后,硅光的工藝對(duì)于工藝制程的要求相當(dāng)?shù)停热?5或者45納米的CMOS工藝線就可以滿足現(xiàn)在光芯片、光計(jì)算所有的要求。硅光未來技術(shù)迭代不會(huì)需要對(duì)制程有特別的要求,更多是從其他方面進(jìn)行技術(shù)迭代,比如主頻、波長(zhǎng)數(shù)量還有不同的模式。
而oNOC也就是片上光網(wǎng)絡(luò),主要通過用波導(dǎo)代替銅導(dǎo)線的方式,在片上進(jìn)行數(shù)據(jù)傳輸,包括實(shí)現(xiàn)片與片之間的光通信。還有比較大芯片上光的總線的通信,在光芯片上構(gòu)建一個(gè)固定通信網(wǎng)絡(luò)拓?fù)洌ㄟ^光相連,實(shí)現(xiàn)基于片上光網(wǎng)絡(luò)的數(shù)據(jù)交互。最后,采用一些波分復(fù)用的方式來傳播數(shù)據(jù),優(yōu)勢(shì)是帶寬更大,能耗更低,延時(shí)會(huì)遠(yuǎn)遠(yuǎn)優(yōu)于銅導(dǎo)線,并且對(duì)距離不敏感。
最后的片間光網(wǎng)絡(luò)即將上述片上光網(wǎng)絡(luò)進(jìn)一步拓展到多個(gè)板卡、更多服務(wù)器之間。通過光纖將芯片和芯片直接互聯(lián)起來,芯片之間數(shù)據(jù)通過光來傳輸。
全球唯一展示光子優(yōu)勢(shì),PACE超3080百倍!
曦智認(rèn)為,光電混合計(jì)算最重要的技術(shù)演進(jìn)的點(diǎn),就是不斷增加單個(gè)光芯片上的器件集成度。實(shí)際上,從最早的4x4乘法器,到64x64乘法器,再到目前光電混合2.5D封裝,曦智在四年時(shí)間里,已經(jīng)實(shí)現(xiàn)一萬個(gè)光器件集成在一塊芯片上。
也正因?yàn)榧啥壬系耐黄疲琍ACE是曦智科技目前可以對(duì)外展示最新的可運(yùn)作的計(jì)算處理器,是目前已知全球集成度最高的光子芯片,同時(shí)也是全球第一個(gè)展示出光子優(yōu)勢(shì)的計(jì)算系統(tǒng),能夠在一些有商業(yè)化應(yīng)用前景的算法上,比目前電子芯片提高數(shù)量級(jí)的優(yōu)勢(shì)。
那么光子計(jì)算的優(yōu)勢(shì)在什么領(lǐng)域能體現(xiàn)出來?NP-Complete Problem(多項(xiàng)式復(fù)雜程度非確定性問題,NPC)可以說是目前全球最難以高效解決的數(shù)學(xué)問題,比如生物信息里蛋白質(zhì)結(jié)構(gòu)的預(yù)測(cè)、物流交通調(diào)度、芯片設(shè)計(jì)、材料研發(fā)等都會(huì)應(yīng)用到。但目前NPC沒有多項(xiàng)式算法,只能用窮舉法逐個(gè)檢驗(yàn)最終得到答案。但如果我們能夠有效解決其中一個(gè)問題,它也可以被映射到其他問題上去。
而由于光子芯片的特性,PACE可以通過重復(fù)矩陣乘法和巧妙利用受控噪聲組成的緊密回環(huán)來實(shí)現(xiàn)低延遲,于是在進(jìn)行NPC問題的計(jì)算時(shí),PACE就可以相比GPU快上百倍。所以,PCAE在解決NPC問題上有比較多的商業(yè)應(yīng)用前景。
據(jù)了解,與英偉達(dá)RTX3080 GPU相比,在同時(shí)運(yùn)行一樣的循環(huán)神經(jīng)網(wǎng)絡(luò)算法時(shí),PACE所需時(shí)間只有3080的1%不到。
采用光電混合結(jié)構(gòu),基于現(xiàn)有生態(tài)打造
實(shí)際上,PACE的結(jié)構(gòu)由光芯片和電芯片這兩部分組成。電芯片上主要做數(shù)據(jù)的存儲(chǔ),以及數(shù)模混合的調(diào)度,光芯片上主要做數(shù)據(jù)的計(jì)算。這里可以理解為光芯片只是一個(gè)底層的硬件支持,而信息轉(zhuǎn)換和軟件相關(guān)的都采用電芯片進(jìn)行數(shù)字處理,所有指令、編譯、軟件,都會(huì)在數(shù)字電芯片上。所以與現(xiàn)有的數(shù)字芯片生態(tài)一樣,只是在底層計(jì)算端換成了光芯片。
作為光電混合的設(shè)計(jì)的芯片,可能有人會(huì)擔(dān)心在工藝上難以大規(guī)模量產(chǎn)。實(shí)際上,沈亦晨表示,硅光芯片采用的是CMOS工藝,這一點(diǎn)能解決90%最核心的問題。由于基本采用硅基的CMOS工藝,在電學(xué)、熱學(xué),包括仿真上都有相當(dāng)成熟的軟件可以直接使用。
而封裝層面,PACE上采用了芯片堆疊,也就是類似于HBM的2.5D、3D封裝方案。目前唯一不同的是,封裝方案上需要增加一個(gè)接口,將光源導(dǎo)入光芯片中。
光芯片商業(yè)化還有多遠(yuǎn)?
在談到這項(xiàng)技術(shù)的商業(yè)前景時(shí),沈亦晨博士向記者強(qiáng)調(diào),光計(jì)算并不是只有光芯片,在可預(yù)見的未來里,都將會(huì)是和電子芯片深度結(jié)合的光電混合計(jì)算。光芯片相比于電芯片,它更多是承接主要任務(wù)的處理器,主要承接的是線性計(jì)算和數(shù)據(jù)網(wǎng)絡(luò)這兩個(gè)部分。但由電芯片發(fā)出指令的一個(gè)好處是它和目前現(xiàn)有的市場(chǎng)環(huán)境、軟件環(huán)境都是兼容的。
另外要注意的是,目前曦智的光電混合芯片,還不能用于消費(fèi)者熟知的領(lǐng)域,比如PC、手機(jī)、編解碼芯片等,同時(shí)這也不是曦智科技考慮的范疇。而曦智科技在應(yīng)用場(chǎng)景的選擇上,會(huì)先切入大數(shù)據(jù),包括云計(jì)算、智能駕駛、金融上的量化交易、生物藥物研發(fā)等場(chǎng)景。
沈亦晨表示,作為一項(xiàng)顛覆性的技術(shù),本身一定需要經(jīng)歷漫長(zhǎng)的商業(yè)化過程。他透露,在第一階段也就是2022年開始的一到三年內(nèi),對(duì)于算力、延時(shí)等痛點(diǎn)特別強(qiáng)的應(yīng)用場(chǎng)景開始落地,包括金融、大模型云服務(wù)、非AI的方向的優(yōu)化、高性能運(yùn)算等。
而第二個(gè)階段會(huì)隨著產(chǎn)品落地,在不同應(yīng)用場(chǎng)景體現(xiàn)光計(jì)算優(yōu)勢(shì)后,將會(huì)投入更大規(guī)模團(tuán)隊(duì)做人工智能訓(xùn)練的市場(chǎng)。
第三階段曦智將會(huì)延伸到GPU,包括車載芯片等市場(chǎng)。
“這些都是我們覺得對(duì)于算力需求非常大的,但是需要一個(gè)更成熟的硬件、軟件體系和進(jìn)一步切入的市場(chǎng)。”因此沈亦晨認(rèn)為,技術(shù)商業(yè)化會(huì)是一個(gè)相當(dāng)漫長(zhǎng)的過程,需要不斷地去改變、嘗試不同應(yīng)用場(chǎng)景和行業(yè)。
原文標(biāo)題:跨入光子時(shí)代?曦智科技發(fā)布光子計(jì)算處理器,運(yùn)行特定算法性能超3080百倍!
文章出處:【微信公眾號(hào):電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
-
處理器
+關(guān)注
關(guān)注
68文章
19399瀏覽量
230728 -
芯片
+關(guān)注
關(guān)注
456文章
51130瀏覽量
426113 -
物聯(lián)網(wǎng)
+關(guān)注
關(guān)注
2912文章
44889瀏覽量
375769
原文標(biāo)題:?跨入光子時(shí)代?曦智科技發(fā)布光子計(jì)算處理器,運(yùn)行特定算法性能超3080百倍!
文章出處:【微信號(hào):elecfans,微信公眾號(hào):電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論