近十年來，對類腦計(jì)算的足夠重視，使得一系列與類腦技術(shù)相關(guān)的研究組織應(yīng)運(yùn)而生。2020年末，IOP英國物理學(xué)會(huì)出版社推出全新期刊《類腦計(jì)算與工程》（NCE），SynSense時(shí)識(shí)科技聯(lián)合創(chuàng)始人、首席科學(xué)家、蘇黎世神經(jīng)信息研究所所長Giacomo Indiveri教授擔(dān)任主編，斯坦福大學(xué)Brains in Silicon創(chuàng)始人Kwabena Boahen、清華大學(xué)吳華強(qiáng)教授、約翰斯霍普金斯大學(xué)計(jì)算感知運(yùn)動(dòng)系統(tǒng)實(shí)驗(yàn)室創(chuàng)始人Ralph Etienne-Cummings、浙江大學(xué)唐華錦教授等組成國際編委會(huì)。

NCE創(chuàng)刊后，Giacomo Indiveri教授撰寫社論“Introducing neuromorphic computing and engineering”。

文章認(rèn)為，在摩爾定律終結(jié)背景下，類腦技術(shù)所面臨的機(jī)遇尤其值得探究。文章還解釋了在“neuromorphic”從提出至今三十余年間，信息通信技術(shù)的“大爆炸”又如何讓其所指代的意義、所涉及的技術(shù)社區(qū)、與之緊密相連的研發(fā)領(lǐng)域發(fā)生了變化。

本文將分為兩部分，第一部分將展示類腦技術(shù)在科技整體背景中的位置，第二部分將介紹類腦領(lǐng)域新材料、新技術(shù)及跨學(xué)科發(fā)展所帶來的機(jī)遇。

“我們正處于一個(gè)激動(dòng)人心的時(shí)代，在這個(gè)時(shí)代，摩爾定律的終結(jié)、對神經(jīng)網(wǎng)絡(luò)的新的關(guān)注以及對低功耗、可持續(xù)‘綠色AI’的需求等匯聚，都指向了類腦計(jì)算和工程領(lǐng)域蘊(yùn)藏著巨大潛力。”

Introducing'Neuromorphic

Computing and Engineering'

Giacomo Indiveri

當(dāng)前，計(jì)算的標(biāo)準(zhǔn)性正受到一系列問題的挑戰(zhàn)，這些問題開始阻礙技術(shù)進(jìn)步。為了解決其中部分問題，開發(fā)新穎的、受生物大腦啟發(fā)的處理方法和技術(shù)被提出，并被用于各種應(yīng)用場景。這一研究極具挑戰(zhàn)性，需要多個(gè)學(xué)科的研究人員共同努力，同時(shí)協(xié)同設(shè)計(jì)處理方法，支持計(jì)算架構(gòu)及其底層技術(shù)。

1.類腦計(jì)算與工程

作為總編，我很高興宣布在《類腦計(jì)算與工程》（NCE）上發(fā)表第一篇內(nèi)容。本篇社論旨在通過指出當(dāng)前信息和通信技術(shù)所面臨的挑戰(zhàn)，來表明NCE在解決這些挑戰(zhàn)中所扮演的角色，以及創(chuàng)辦這樣一本期刊的必要。

雖然幾十年來摩爾定律一直推動(dòng)著技術(shù)進(jìn)步，但直到最近幾年，我們才開始收獲這一進(jìn)步的多項(xiàng)成果：信息和通信技術(shù)（ICT）正在變得無孔不入，并在全球范圍內(nèi)影響我們?nèi)粘Ｉ畹姆椒矫婷妫簭娜蛲ㄐ诺浇逃徒】担瑥慕鹑诘阶詣?dòng)化、交通和氣候變化等等。隨著社會(huì)的數(shù)字化，人們能夠獲取更多的個(gè)性化信息，而計(jì)算技術(shù)和電子設(shè)備每年都在產(chǎn)生越來越多的電子數(shù)據(jù)。

為了應(yīng)對這場技術(shù)革命所帶來的需求，并且利用數(shù)據(jù)可用性所創(chuàng)造的機(jī)會(huì)，新的數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)和人工智能算法已經(jīng)出現(xiàn)。AI算法通常使用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)技術(shù)來解決模式識(shí)別任務(wù)，并已被證明從大量數(shù)據(jù)中提取信息非常成功。其訓(xùn)練方法需要大量的數(shù)據(jù)和計(jì)算資源，這反過來對能源提出需求。

然而，無論是從全球電力供應(yīng)還是計(jì)算的碳足跡來看，這種能源都不可持續(xù)。例如，據(jù)估計(jì)，訓(xùn)練AI神經(jīng)網(wǎng)絡(luò)，如GPT-3，需要在單臺(tái)計(jì)算機(jī)上花費(fèi)超過27年的處理時(shí)間，并且這些計(jì)算總共會(huì)產(chǎn)生超過35000公斤的二氧化碳排放量。

Figure 1. （a）CMOS芯片上的晶體管數(shù)量變化（b）蘇黎世大學(xué)、蘇黎世聯(lián)邦理工類腦芯片

這些高昂的成本源于當(dāng)前的計(jì)算技術(shù)基于經(jīng)典的馮·諾依曼結(jié)構(gòu)，其非神經(jīng)網(wǎng)絡(luò)并行處理這一特性的絕佳匹配。另一方面，生物大腦在功耗要求、訓(xùn)練數(shù)據(jù)的樣本數(shù)量以及適應(yīng)新的和意外情況方面優(yōu)于人工智能系統(tǒng)。這尤其適用于那些對計(jì)算機(jī)和人工智能算法來說仍非常困難，但對人類和動(dòng)物來說輕松完成的任務(wù)，如少量樣本的在線學(xué)習(xí)、與環(huán)境互動(dòng)、感知和運(yùn)動(dòng)控制。

一種極具潛力的方法是通過“類腦計(jì)算和工程”領(lǐng)域的研究開發(fā)新的計(jì)算范式和ICT系統(tǒng)，這類系統(tǒng)能夠智能地與環(huán)境交互，彌合自然智能和人工智能之間的差距，解決未來計(jì)算面臨的許多開放性挑戰(zhàn)。我們現(xiàn)在正處于一個(gè)非常激動(dòng)人心的時(shí)代，在這個(gè)時(shí)代，摩爾定律的終結(jié)、對神經(jīng)網(wǎng)絡(luò)的重新關(guān)注以及對低功耗和可持續(xù)的“綠色AI”需求等匯聚，都指向了類腦計(jì)算和工程領(lǐng)域蘊(yùn)藏著的巨大潛力。

2. 類腦計(jì)算與工程

主題領(lǐng)域

“類腦”這個(gè)詞最初是由卡弗·米德在20世紀(jì)80年代末在加州理工學(xué)院創(chuàng)造的，用來描述包含電子電路的超大規(guī)模集成電路（VLSI），這些電路模仿了神經(jīng)系統(tǒng)中存在的神經(jīng)生物學(xué)結(jié)構(gòu)。

然而，隨著時(shí)間的推移，這個(gè)詞的原始含義已經(jīng)發(fā)生了“變形”，開始用來描述更廣泛的概念和方法。除了原始的“類腦工程”之外，這個(gè)詞也開始用來描述“類腦計(jì)算”系統(tǒng)，這些系統(tǒng)包含純數(shù)字電路或傳統(tǒng)處理器，用于模擬脈沖神經(jīng)網(wǎng)絡(luò)和神經(jīng)計(jì)算模型。

與此同時(shí)，同樣的術(shù)語也開始用來指代由新興存儲(chǔ)技術(shù)領(lǐng)域開發(fā)的納米級“記憶電阻器”設(shè)備組成的系統(tǒng)。今天，這個(gè)術(shù)語也被用來指代算法和機(jī)器學(xué)習(xí)方法，模擬具備生物可解釋性和硬件友好的脈沖神經(jīng)網(wǎng)絡(luò)及學(xué)習(xí)機(jī)制。

2.1 集成在CMOS技術(shù)中的神經(jīng)電路和系統(tǒng)

最初的類腦工程主要目標(biāo)是通過使用在弱反或亞閾值模式下操作的晶體管，直接模擬生物神經(jīng)網(wǎng)絡(luò)的計(jì)算物理特性。這種方法旨在以動(dòng)物大腦中神經(jīng)系統(tǒng)所使用的相同組織原則來構(gòu)建人工神經(jīng)元、突觸、網(wǎng)絡(luò)和感知系統(tǒng)。其具有雙重目標(biāo)：既通過構(gòu)建真實(shí)神經(jīng)電路的物理仿真來理解神經(jīng)計(jì)算，又開發(fā)與當(dāng)代標(biāo)準(zhǔn)數(shù)字計(jì)算機(jī)所不同的小型低功耗感知處理和計(jì)算體系結(jié)構(gòu)。鑒于這種方法的高風(fēng)險(xiǎn)和基礎(chǔ)研究方面，今天仍在追求這一方法的學(xué)術(shù)團(tuán)體數(shù)量很少。這一社區(qū)主要專注于開發(fā)小規(guī)模原型芯片，探索神經(jīng)計(jì)算的不同方面，從感知系統(tǒng)到具有生物可解釋性的神經(jīng)動(dòng)力學(xué)可重構(gòu)網(wǎng)絡(luò)，到基于脈沖的學(xué)習(xí)和可塑性電路。

近年來，“類腦”這個(gè)詞也被用來描述混合信號和純數(shù)字的VLSI系統(tǒng)，以實(shí)現(xiàn)可以用于模擬脈沖神經(jīng)網(wǎng)絡(luò)模型的計(jì)算平臺(tái)。這一方向主要受到了計(jì)算和集成電路技術(shù)進(jìn)步的可能性驅(qū)動(dòng)，旨在構(gòu)建大規(guī)模的專用類腦計(jì)算系統(tǒng)。例如，歐盟人腦計(jì)劃支持開發(fā)了晶圓級集成系統(tǒng)，旨在準(zhǔn)確再現(xiàn)包含大量神經(jīng)元的神經(jīng)科學(xué)建模研究模擬。

與此相似，人腦計(jì)劃支持開發(fā)的SpiNNaker系統(tǒng)，是一個(gè)多核計(jì)算機(jī)，旨在實(shí)時(shí)模擬大量的脈沖神經(jīng)元。在其目前的發(fā)展?fàn)顟B(tài)下，SpiNNaker堆疊600個(gè)印刷電路板（每個(gè)搭載48個(gè)SpiNNaker處理器）而構(gòu)建，支持?jǐn)?shù)億神經(jīng)元的模擬。IBM提出了另一種擴(kuò)大模擬脈沖神經(jīng)網(wǎng)絡(luò)規(guī)模的策略，即在2014年推出了“TrueNorth”神經(jīng)形態(tài)系統(tǒng)，該系統(tǒng)在同一芯片上集成了4096個(gè)核，每個(gè)核包括純數(shù)字的異步電路，能夠模擬256個(gè)神經(jīng)元和256×256的突觸連接。

這是該領(lǐng)域的一項(xiàng)重大突破，因?yàn)樗故玖讼冗M(jìn)的技術(shù)節(jié)點(diǎn)，如三星28納米塊狀CMOS工藝，可以支持集成大量硅神經(jīng)元，同時(shí)保持極低的總體功耗（例如，實(shí)時(shí)運(yùn)行典型循環(huán)網(wǎng)絡(luò)時(shí)平均功耗為70毫瓦，比運(yùn)行相同網(wǎng)絡(luò)的傳統(tǒng)計(jì)算機(jī)低了四個(gè)數(shù)量級）。

2.2憶阻器及新興存儲(chǔ)技術(shù)

3. 開放性挑戰(zhàn)

4.結(jié)論與展望

關(guān)于SynSense時(shí)識(shí)科技 SynSense時(shí)識(shí)科技（原名aiCTX）創(chuàng)立于2017年，是全球領(lǐng)先的類腦智能與應(yīng)用解決方案提供商。 SynSense時(shí)識(shí)科技專注類腦智能的研究與開發(fā)，以蘇黎世大學(xué)和蘇黎世聯(lián)邦理工學(xué)院20+年全球領(lǐng)先的研發(fā)經(jīng)驗(yàn)和技術(shù)積累為基石，聚焦邊緣計(jì)算應(yīng)用場景，提供橫跨感知與計(jì)算的類腦智能應(yīng)用與解決方案。 SynSense時(shí)識(shí)科技率先實(shí)現(xiàn)了類腦芯片商業(yè)化應(yīng)用零的突破，為人工智能向認(rèn)知智能發(fā)展，萬物互聯(lián)向萬物智聯(lián)發(fā)展邁出了關(guān)鍵一步。SynSense將和伙伴一起，共同構(gòu)建“端到芯”“物與物”“物與人”萬物智聯(lián)的認(rèn)知生態(tài)，引領(lǐng)全球類腦智能應(yīng)用與發(fā)展，為人類未來美好生活創(chuàng)造福祉。

審核編輯 ：李倩