昨天在底特律舉行的DARPA電子復(fù)興計(jì)劃峰會(huì)上,英特爾重磅發(fā)布了一個(gè)代號(hào)為“Pohoiki Beach”的全新神經(jīng)擬態(tài)系統(tǒng),包含多達(dá)64顆Loihi神經(jīng)擬態(tài)芯片,由800萬(wàn)個(gè)神經(jīng)元組成。
與CPU相比,Pohoiki Beach處理AI算法的能力,速度比普通CPU快1000倍,效率是普通CPU的10000倍,可用于自動(dòng)駕駛、電子機(jī)器人(15.220,-0.41,-2.62%)皮膚、假肢等。
Loihi芯片是英特爾公司于2017年首次推出的一款擁有“自我學(xué)習(xí)”能力的研究芯片,其架構(gòu)比用于深度學(xué)習(xí)或其他形式的人工智能的芯片更接近大腦的工作方式。
更像人類的學(xué)習(xí):Pohoiki Beach將擴(kuò)展到1億神經(jīng)元
一塊英特爾的Nahuku板,每塊板上有8到32顆英特爾Loihi神經(jīng)形態(tài)芯片,接口可以與英特爾Arria 10 FPGA開(kāi)發(fā)工具包連接。英特爾最新的神經(jīng)形態(tài)系統(tǒng)Pohoiki Beach由多塊Nahuku板組成,每塊板包含64顆Loihi芯片。
Loihi芯片安裝在一塊“Nahuku”板上,每塊板包含8到32塊Loihi芯片。Pohoiki Beach系統(tǒng)包含多個(gè)Nahuku板,可以與Intel的Arria 10 FPGA開(kāi)發(fā)工具包接口,如上圖所示。
新的64-Loihi系統(tǒng)相當(dāng)于800萬(wàn)個(gè)神經(jīng)元,不過(guò),這還只是英特爾朝著計(jì)劃于2019年底推出的768顆芯片、1億個(gè)神經(jīng)元的系統(tǒng)邁出的一步。
Davies說(shuō),找到在800萬(wàn)個(gè)神經(jīng)元的系統(tǒng)上運(yùn)行良好的算法,并在軟件中優(yōu)化這些算法,是一項(xiàng)相當(dāng)有挑戰(zhàn)的工作。不過(guò),回報(bào)也是巨大的。更像大腦的神經(jīng)網(wǎng)絡(luò),比如Loihi,可能對(duì)某些人工智能“免疫”。
例如,今天的神經(jīng)網(wǎng)絡(luò)遭受著一種叫做“災(zāi)難性遺忘”的難題。如果你試圖教一個(gè)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)去識(shí)別新事物,比如說(shuō),識(shí)別一個(gè)新的路標(biāo)——通過(guò)簡(jiǎn)單地將網(wǎng)絡(luò)暴露給新的輸入,它會(huì)嚴(yán)重破壞網(wǎng)絡(luò),以至于它在識(shí)別任何東西時(shí)都變得很糟糕。為了避免這種情況,你必須從頭開(kāi)始重新訓(xùn)練網(wǎng)絡(luò)。(DARPA的Lifelong Learning項(xiàng)目致力于解決這個(gè)問(wèn)題。)
英特爾神經(jīng)形態(tài)研究芯片Loihi。英特爾最新的神經(jīng)形態(tài)系統(tǒng)Pohoiki Beach將由64塊這樣的Loihi芯片組成。
Loihi可以運(yùn)行可能對(duì)災(zāi)難性遺忘免疫的網(wǎng)絡(luò),這意味著它學(xué)習(xí)起來(lái)更像人類。事實(shí)上,通過(guò)與康奈爾大學(xué) Thomas Cleland的研究小組的合作,有證據(jù)表明,Loihi可以實(shí)現(xiàn)所謂的one-shot learning。也就是說(shuō),只需看到一次,它就能學(xué)會(huì)新特性。康奈爾大學(xué)的研究小組通過(guò)抽象嗅覺(jué)系統(tǒng)的模型來(lái)證明這一點(diǎn),該系統(tǒng)可以在Loihi上運(yùn)行。當(dāng)暴露在一種新的虛擬氣味中時(shí),系統(tǒng)不僅沒(méi)有災(zāi)難性地忘記它所聞過(guò)的所有其他氣味,它還學(xué)會(huì)了僅僅從一次暴露中就識(shí)別出新的氣味。
Loihi還可能運(yùn)行特征提取算法,這些算法不受困擾當(dāng)今圖像識(shí)別系統(tǒng)的各種對(duì)抗性攻擊的影響。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)并不像我們的大腦那樣真正理解它們從圖像中提取的特征。Davies 解釋說(shuō):“他們可能會(huì)被一些簡(jiǎn)單的攻擊所愚弄,比如改變單個(gè)像素或添加一個(gè)噪音圖案,而這些改變是不會(huì)愚弄人類的。”但Loihi芯片可以運(yùn)行的稀疏編碼算法可以像人類視覺(jué)系統(tǒng)一樣工作,所以不會(huì)因這種攻擊而失敗。
英特爾表示,Pohoiki Beach系統(tǒng)可以很容易地?cái)U(kuò)展到處理更復(fù)雜的問(wèn)題。英特爾計(jì)劃在今年底發(fā)布一個(gè)大10倍的Pohoiki Beach系統(tǒng),擁有多達(dá)1億個(gè)神經(jīng)元。
800萬(wàn)個(gè)神經(jīng)元!神經(jīng)擬態(tài)芯片可為假肢和自動(dòng)駕駛提供動(dòng)力
英特爾神經(jīng)形態(tài)計(jì)算研究主管Mike Davies表示,英特爾及其研究伙伴剛剛開(kāi)始測(cè)試像Pohoiki Beach這樣的大型神經(jīng)系統(tǒng)能做什么,迄今為止的證據(jù)已經(jīng)表明,它的性能和效率甚至可以更高。
Davies說(shuō):“我們正在迅速積累結(jié)果和數(shù)據(jù),證明它(Pohoiki Beach)確實(shí)有優(yōu)勢(shì)……主要是在效率方面。實(shí)際上,在我們進(jìn)行的每一個(gè)基準(zhǔn)測(cè)試中,這個(gè)架構(gòu)都具有顯著的收益。”
Pohoiki Beach將非常擅長(zhǎng)神經(jīng)元類任務(wù),包括稀疏編碼、路徑規(guī)劃和同步定位和建圖(SLAM)。這些都是用于自動(dòng)駕駛、機(jī)器人室內(nèi)測(cè)繪和高效傳感系統(tǒng)的算法。
例如,英特爾表示,這些芯片可以用于使某些類型的假肢更具適應(yīng)性,通過(guò)新型高效的事件攝像機(jī)為目標(biāo)跟蹤提供動(dòng)力,為iCub機(jī)器人的電子皮膚提供觸覺(jué)輸入,甚至實(shí)現(xiàn)桌上足球的自動(dòng)化。
研究人員也一直在使用Loihi來(lái)改進(jìn)機(jī)器人系統(tǒng)的實(shí)時(shí)控制。例如,上周在Telluride神經(jīng)形態(tài)認(rèn)知工程研討會(huì)的一個(gè)活動(dòng)中,研究人員正努力使用一個(gè)基于Loihi的系統(tǒng)來(lái)控制一場(chǎng)桌上足球比賽。“這讓人覺(jué)得很瘋狂,”他說(shuō)。“但這是神經(jīng)形態(tài)技術(shù)的一個(gè)很好的例證。它必須很快,需要快速響應(yīng),快速規(guī)劃和預(yù)期。這就是神經(jīng)形態(tài)芯片擅長(zhǎng)的。”
從1個(gè)Loihi芯片到64個(gè)Loihi芯片,更多的是軟件問(wèn)題而不是硬件問(wèn)題。“我們從一開(kāi)始就在Loihi芯片中設(shè)計(jì)了可伸縮性,”Davies說(shuō)。“該芯片有一個(gè)分層的路由接口,允許我們擴(kuò)展到多達(dá)16000個(gè)芯片。所以64個(gè)只是一小步。”
LOIHI 芯片由 128 個(gè)計(jì)算核心組成,每個(gè)核心有 1024 個(gè)人工神經(jīng)元,整個(gè)芯片共有超過(guò) 13 萬(wàn)個(gè)神經(jīng)元和 1.3 億個(gè)突觸連接。采用異步計(jì)算,有需要才被激活,可以大幅降低能耗。與其他現(xiàn)有神經(jīng)擬態(tài)芯片訓(xùn)練完參數(shù)就固定下來(lái)不同,LOIHI 擁有 “自我學(xué)習(xí)”(self-learning)的能力,它的參數(shù)在使用過(guò)程中,仍然可以通過(guò)脈沖神經(jīng)網(wǎng)絡(luò)里的脈沖傳遞訓(xùn)練去改變,在使用過(guò)程中不斷改變網(wǎng)絡(luò)模型,適應(yīng)當(dāng)前的狀態(tài)。LOIHI 可以在單個(gè)芯片上完成訓(xùn)練和推理,實(shí)際上,訓(xùn)練和推理這兩個(gè)過(guò)程并沒(méi)有分得那么開(kāi),這一點(diǎn)與人腦一樣。
從神經(jīng)元數(shù)量上看,單個(gè) LOIHI 芯片的神經(jīng)元數(shù)量只比蝦子的腦復(fù)雜一點(diǎn)點(diǎn),距離模擬人腦復(fù)雜行為還很遙遠(yuǎn)。但是,這些小的單芯片可以互相連接構(gòu)成更大規(guī)模的陣列,由此模擬更大的神經(jīng)元。不僅如此,LOIHI 芯片直接受益于摩爾定律的發(fā)展,現(xiàn)在是 14 納米的工藝,到了 10 納米、7 納米之后會(huì)大幅提高神經(jīng)元的容量。
-
英特爾
+關(guān)注
關(guān)注
61文章
9999瀏覽量
172091 -
AI
+關(guān)注
關(guān)注
87文章
31338瀏覽量
269749
原文標(biāo)題:800萬(wàn)神經(jīng)元,比CPU快1000倍!英特爾AI芯片系統(tǒng)模擬人腦重大突破
文章出處:【微信號(hào):cas-ciomp,微信公眾號(hào):中科院長(zhǎng)春光機(jī)所】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論