近年來，由于大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，數(shù)據(jù)量呈現(xiàn)爆炸性增長態(tài)勢，而傳統(tǒng)的計(jì)算架構(gòu)又無法支撐深度學(xué)習(xí)的大規(guī)模并行計(jì)算需求，于是研究界對人工智能芯片進(jìn)行了新一輪的技術(shù)研發(fā)與應(yīng)用研究。人工智能芯片作為終端實(shí)現(xiàn)人工智能算法的載體，是實(shí)現(xiàn)人工智能技術(shù)創(chuàng)新的重要基礎(chǔ)；同時(shí)，作為人工智能時(shí)代的技術(shù)核心之一，決定了平臺(tái)的基礎(chǔ)架構(gòu)和發(fā)展生態(tài)。

2018年12月，Gartner發(fā)布了《預(yù)測2019：人工智能與未來工作》報(bào)告，對人工智能科技未來七大發(fā)展趨勢及其對工作的影響進(jìn)行分析探討，人工智能芯片位列其中。人工智能芯片作為當(dāng)前衡量一個(gè)國家科技發(fā)展水平及實(shí)力的重要參考標(biāo)準(zhǔn)，一直以來都受到了廣泛的關(guān)注。以谷歌、微軟、英特爾、臉書為代表的科技巨頭爭相加大在人工智能芯片領(lǐng)域的布局。截至2018年5月，全球至少有60家初創(chuàng)公司在研發(fā)語音交互和自動(dòng)駕駛人工智能芯片、至少有5家企業(yè)已經(jīng)獲得超過1億美元的融資；根據(jù)國際權(quán)威基金評級機(jī)構(gòu)Morningstar預(yù)測，到2021年，全球人工智能芯片市場規(guī)模可能超過200億美元。

1

人工智能技術(shù)催動(dòng)芯片市場爆發(fā)

當(dāng)前正處于“后摩爾定律時(shí)代”，萬物互聯(lián)和萬物智能得以實(shí)現(xiàn)，核心推動(dòng)力量來自半導(dǎo)體產(chǎn)業(yè)，數(shù)百億智能設(shè)備連接網(wǎng)絡(luò)，用于數(shù)據(jù)采集的物聯(lián)網(wǎng)芯片和高性能人工智能芯片需求劇增，因萬物互聯(lián)采集海量數(shù)據(jù)，經(jīng)數(shù)據(jù)中心構(gòu)造的云端對數(shù)據(jù)進(jìn)行處理，從而帶動(dòng)整個(gè)半導(dǎo)體發(fā)展。伴隨著大數(shù)據(jù)的發(fā)展，計(jì)算能力的提升，人工智能近年迎來了新一輪的爆發(fā)。谷歌、臉書、微軟、亞馬遜等國外各大科技巨頭公司已紛紛推出了自己的人工智能芯片，預(yù)計(jì)2020年有望突破百億大關(guān)，發(fā)展空間巨大。而各科技巨頭司都在探索不同類型的人工智能芯片專用架構(gòu)：谷歌擁有張量處理單元（TPU），每個(gè)芯片具備一個(gè)核心和用軟件控制的內(nèi)存（而非緩存）；英偉達(dá)的GPU則擁有80多個(gè)內(nèi)核；微軟正在走FPGA的路線；英特爾則在所有類型的人工智能芯片專用架構(gòu)上都有布局，為機(jī)器學(xué)習(xí)推銷傳統(tǒng)的CPU，收購Altera和Nervana，前者專注于FPAG，后者專注于神經(jīng)網(wǎng)絡(luò)專用處理器（類似于谷歌的TPU），當(dāng)前已經(jīng)進(jìn)入計(jì)算系統(tǒng)結(jié)構(gòu)的黃金時(shí)代。2018年，幾乎每個(gè)月，主流科技公司推出的定制人工智能芯片項(xiàng)目數(shù)量都會(huì)較上個(gè)月有所增加。

（1）英特爾方面，在芯片產(chǎn)業(yè)布局上，英特爾在2018年進(jìn)行了一系列收購，加速開發(fā)更新型的芯片。2018年7月，英特爾收購物聯(lián)網(wǎng)芯片組廠商eASIC；2018年9月，英特爾收購NetSpeed Systems，繼續(xù)布局專用片上系統(tǒng)（SoC）芯片產(chǎn)業(yè)。英特爾正在開發(fā)越來越多樣化的SoC芯片產(chǎn)品，包括各種專用SoC，如Movidius VPU和FPGA。此外，英特爾在2018年展示了首款14納米獨(dú)立GPU原型，并確認(rèn)其首款獨(dú)立GPU最早將于2020年問世。

（2）谷歌方面，2018年2月，谷歌開放CloudTPU，專為加速、擴(kuò)展特定的TensorFlow機(jī)器學(xué)習(xí)工作負(fù)載而優(yōu)化。2018年5月，在GoogleI/O2018開發(fā)者大會(huì)期間，谷歌正式發(fā)布了第三代人工智能學(xué)習(xí)專用處理器TPU3.0。TPU3.0采用8位低精度計(jì)算以節(jié)省晶體管數(shù)量，對精度影響很小但可以大幅節(jié)約功耗、加快速度，同時(shí)還有脈動(dòng)陣列設(shè)計(jì)，優(yōu)化矩陣乘法與卷積運(yùn)算，并使用更大的片上內(nèi)存，減少對系統(tǒng)內(nèi)存的依賴；速度能加快到最高每秒1000萬億次浮點(diǎn)計(jì)算。

（3）英偉達(dá)方面，2018年3月，英偉達(dá)推出了一個(gè)更新的、全面優(yōu)化的軟件堆棧，還公布了其全球領(lǐng)先的深度學(xué)習(xí)計(jì)算平臺(tái)所取得的一系列重要進(jìn)展，包括NVIDIA Tesla V100（宣稱是最強(qiáng)大的數(shù)據(jù)中心GPU）的2倍內(nèi)存提升，以及革命性的全新GPU互聯(lián)結(jié)構(gòu)NVIDIA NVSwitch，它可使多達(dá)16個(gè)Tesla V100 GPU同時(shí)以2.4 TB /秒的速度進(jìn)行通信，這一速度創(chuàng)下歷史新高（相較于半年前發(fā)布的上一代產(chǎn)品，其深度學(xué)習(xí)工作負(fù)載性能實(shí)現(xiàn)了10倍提升）。

（4）超威半導(dǎo)體（AMD）方面，2018年6月，AMD公開展示了全球首款7納米制程的GPU芯片原型，含有32GB的高帶寬內(nèi)存，專為人工智能和深度學(xué)習(xí)設(shè)計(jì)，用于工作站和服務(wù)器；2018年11月，AMD發(fā)布了基于7納米工藝的升級版Vega架構(gòu)核心，也是全球首個(gè)7納米GPU。7納米Vega核心集成了132億個(gè)晶體管，比14納米Vega（125億個(gè)晶體管）增加了6.4％，而核心面積為331平方毫米，比現(xiàn)在的484平方毫米縮小了31.6％，晶體管密度翻了一番。同等功耗下，新核心性能提升超過25％；而同等頻率下，新核心功耗降低50％。

（5）蘋果方面，蘋果公司在2018年9月發(fā)布的新款iPhone系列手機(jī)均搭載了A12仿生芯片。A12仿生芯片由4核GPU、6核CPU和神經(jīng)網(wǎng)絡(luò)引擎構(gòu)成，內(nèi)有69億個(gè)晶體管，性能非常卓越，被認(rèn)為是當(dāng)時(shí)“智能手機(jī)中最智能、功能最強(qiáng)大的芯片”，其每秒運(yùn)算數(shù)據(jù)達(dá)到了5萬億次，比2017年推出的A11提高733%，新的iPhone機(jī)器學(xué)習(xí)速度提升了9倍。

（6）國際商用機(jī)器（IBM）公司方面，2018年6月，IBM Research 人工智能團(tuán)隊(duì)利用大規(guī)模的模擬存儲(chǔ)器陣列訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，達(dá)到了與GPU相當(dāng)?shù)木龋徽J(rèn)為是在下一次人工智能突破所需要的硬件加速器發(fā)展道路上邁出的重要一步，相關(guān)成果發(fā)表在《自然（Nature）》期刊上。

2

“邊緣側(cè)智能”發(fā)力，人工智能芯片與物聯(lián)網(wǎng)的緊密結(jié)合成為亮點(diǎn)

2018年12月，Gartner發(fā)布的《預(yù)測2019：人工智能與未來工作》報(bào)告重點(diǎn)提及“邊緣計(jì)算（EdgeComputing）”的潛力與應(yīng)用價(jià)值。近年來，計(jì)算工作負(fù)載一直在遷移：首先是從本地?cái)?shù)據(jù)中心遷移到云，現(xiàn)在越來越多地從云數(shù)據(jù)中心遷移到更靠近正在處理的數(shù)據(jù)源的“邊緣”位置，旨在通過縮短數(shù)據(jù)傳輸距離來提高應(yīng)用和服務(wù)的性能和可靠性，降低運(yùn)行成本，從而減少帶寬和延遲問題。Gartner數(shù)據(jù)顯示，到2025年，80％的企業(yè)將關(guān)閉其傳統(tǒng)數(shù)據(jù)中心，而2018年則為10％；MarketsandMarkets數(shù)據(jù)顯示，到2022年，邊緣計(jì)算市場的價(jià)值將達(dá)到67.2億美元，高于2017年的14.7億美元，年復(fù)合增長率35.4％，關(guān)鍵驅(qū)動(dòng)因素是物聯(lián)網(wǎng)和5G網(wǎng)絡(luò)的出現(xiàn)，“智能”芯片性能提升、“智能”應(yīng)用程序數(shù)量的增加以及云基礎(chǔ)架構(gòu)負(fù)載的增加。

隨著人工智能應(yīng)用的不斷擴(kuò)展，定位于數(shù)據(jù)中心（或稱“云端”）的人工智能應(yīng)用普遍存在功耗高、實(shí)時(shí)性低、帶寬不足、數(shù)據(jù)傳輸過程安全性較低等問題。預(yù)計(jì)，未來會(huì)有更多人工智能芯片部署于網(wǎng)絡(luò)“邊緣側(cè)”。“邊緣側(cè)智能”專指靠近智能終端以及數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合了網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用的開放計(jì)算平臺(tái)，已經(jīng)成為人工智能芯片的重要發(fā)展趨勢。

谷歌的人工智能布局正逐漸走向邊緣測。在2018年7月舉行的谷歌云端服務(wù)年會(huì)Google Cloud Next上，谷歌發(fā)布一款名為“Edge TPU”的人工智能芯片，作為小型人工智能加速器（體積僅為一美分硬幣的1/6），可在物聯(lián)網(wǎng)（IoT）設(shè)備中實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法的訓(xùn)練任務(wù)，這款芯片將為邊緣設(shè)備提供強(qiáng)大的計(jì)算和學(xué)習(xí)能力，已成為谷歌邊緣計(jì)算戰(zhàn)略的重要組成部分；同時(shí)，發(fā)布Cloud IoT Edge，這是一款能夠?qū)oogle的云服務(wù)擴(kuò)展到物聯(lián)網(wǎng)網(wǎng)關(guān)和邊緣設(shè)備的軟件堆棧。2018年11月，英偉達(dá)公開了NVIDIA Jetson AGX Xavier機(jī)器人專用芯片平臺(tái)、面向邊緣計(jì)算的DRIVE AGX Xavier汽車級人工智能芯片等，致力于邊緣側(cè)數(shù)據(jù)感知、匯聚和推演，并基于這些芯片和平臺(tái)開始向公司提供企業(yè)級解決方案，正在逐步從芯片制造商轉(zhuǎn)變?yōu)榉桨柑峁┥痰慕巧?/p>

人工智能芯片將繼續(xù)在物聯(lián)網(wǎng)領(lǐng)域扮演更重要的角色。相比于數(shù)據(jù)中心的人工智能加速器，位于“邊緣側(cè)”智能終端中的人工智能芯片需要更低的延遲性、更低的能耗、更小的體積和更低的成本；其算法要相對成熟，無需進(jìn)行頻繁的迭代更新。目前，越來越多的硬件廠商開始提供邊緣處理的強(qiáng)化產(chǎn)品，例如邊緣服務(wù)器、智能網(wǎng)關(guān)等產(chǎn)品。

3

各大芯片制造商在人工智能領(lǐng)域垂直領(lǐng)域的實(shí)踐深化

各大芯片制造商除了在單純的研發(fā)層面需要更有針對性地進(jìn)行技術(shù)攻堅(jiān)之外，在整個(gè)芯片領(lǐng)域和產(chǎn)業(yè)的應(yīng)用、行業(yè)化縱深發(fā)展等配套層面也積極快速進(jìn)行探索和發(fā)展，推進(jìn)應(yīng)用更加“落地”，推動(dòng)人工智能芯片產(chǎn)品更加實(shí)用化。2018年，人工智能芯片領(lǐng)域的重大進(jìn)展之一體現(xiàn)在各大人工智能芯片制造商立足于解決實(shí)際問題，在人工智能領(lǐng)域的實(shí)踐正在不斷深化。

在2018年11月舉行的2018英特爾人工智能大會(huì)上，英特爾發(fā)布了英特爾神經(jīng)計(jì)算棒二代（英特爾NCS 2），利用該計(jì)算棒可以在網(wǎng)絡(luò)邊緣構(gòu)建更智能的人工智能算法和計(jì)算機(jī)視覺原型設(shè)備。英特爾NCS 2基于英特爾 Movidius Myriad X視覺處理單元（VPU），并得到英特爾 OpenVINO工具包的支持，與上一代神經(jīng)計(jì)算棒相比性能更優(yōu)，能夠以可負(fù)擔(dān)的成本加快深度神經(jīng)網(wǎng)絡(luò)推理應(yīng)用的開發(fā)。英特爾NCS 2支持深度神經(jīng)網(wǎng)絡(luò)測試、調(diào)整和原型制作，可以幫助開發(fā)者進(jìn)入實(shí)際應(yīng)用的量產(chǎn)階段。2018年11月，英特爾牽頭的聯(lián)合研發(fā)團(tuán)隊(duì)開發(fā)的野外智能相機(jī)搭載了Movidius人工智能視覺處理芯片，可完成東北虎及有蹄類動(dòng)物識別，以及人類識別（用于反盜獵）等多重識別任務(wù)。

2018年，雖然高通收購恩智浦以失敗結(jié)尾，但這筆收購案凸顯高通的意圖就是出自于拓展汽車芯片市場，智能汽車芯片的重要性也得以突顯。2018年8月，特斯拉宣布獨(dú)立開發(fā)的人工智能芯片已經(jīng)準(zhǔn)備就緒。2018年11月，早就成為特斯拉、沃爾沃供應(yīng)商的英偉達(dá)發(fā)布了DRIVE AGX Xavier汽車級芯片。芯片的市場已經(jīng)由PC、移動(dòng)互聯(lián)網(wǎng)時(shí)代開始走向“智能汽車”時(shí)代。

4

淺析人工智能芯片的發(fā)展趨勢

作為人工智能技術(shù)的重要物理基礎(chǔ)，人工智能芯片擁有巨大的產(chǎn)業(yè)價(jià)值和戰(zhàn)略地位。人工智能芯片研發(fā)的核心在于芯片架構(gòu)以及“感知-傳輸-處理/執(zhí)行”全流程邏輯的研發(fā)：短期內(nèi)以異構(gòu)計(jì)算（多類型組合方式）為主，來加速各類應(yīng)用算法的落地；中期側(cè)重發(fā)展自重構(gòu)、自學(xué)習(xí)、自適應(yīng)的芯片，來支持算法的演進(jìn)和類人（類腦）的自然智能；長期朝著“通用人工智能芯片”的方面發(fā)展。“通用人工智能芯片”是指能夠支持和加速通用人工智能計(jì)算的芯片，能夠讓系統(tǒng)通過學(xué)習(xí)和訓(xùn)練，準(zhǔn)確高效地處理任意智能主體（例如人）能夠處理的任務(wù)，其面臨通用性（算法和架構(gòu)）和實(shí)現(xiàn)復(fù)雜度等兩個(gè)主要難點(diǎn)。

但從大趨勢來看，目前人工智能芯片發(fā)展尚處于的初級階段，無論是科研還是產(chǎn)業(yè)應(yīng)用都有巨大的創(chuàng)新空間。目前主流人工智能芯片的核心主要是利用乘加計(jì)算加速陣列來實(shí)現(xiàn)對卷積神經(jīng)網(wǎng)絡(luò)中最主要的卷積運(yùn)算的加速。這一代人工智能芯片主要有如下三個(gè)方面的問題：（1）芯片功耗問題，內(nèi)存大量訪問和乘加計(jì)算陣列的大量運(yùn)算，造成人工智能芯片整體功耗的增加；（2）內(nèi)存帶寬問題，基于深度學(xué)習(xí)的人工智能計(jì)算所需數(shù)據(jù)量巨大，造成內(nèi)存帶寬成為整個(gè)系統(tǒng)的瓶頸，計(jì)算框架的高度并行與擴(kuò)展成為亟待解決的關(guān)鍵問題；（3）性能和靈活度之間的平衡問題，深度學(xué)習(xí)對算力要求非常高，提升算力的最好方法是做硬件加速，但是同時(shí)深度學(xué)習(xí)算法的發(fā)展也是日新月異，新的算法可能在已經(jīng)固化的硬件加速器上無法得到很好的支持。

因此，可以預(yù)見下一代人工智能芯片將有如下發(fā)展趨勢：（1）計(jì)算框架的高度并行與擴(kuò)展；（2）更高效的大卷積解構(gòu)與復(fù)用；（3）神經(jīng)網(wǎng)絡(luò)參數(shù)/計(jì)算位寬的迅速減少；（4）更多樣的存儲(chǔ)器定制設(shè)計(jì)；（5）更稀疏的大規(guī)模向量實(shí)現(xiàn)；（6）復(fù)雜異構(gòu)環(huán)境下計(jì)算效率提升；（5）計(jì)算和存儲(chǔ)一體化。

結(jié)束語

人工智能是目前研究的焦點(diǎn)，而為人工智能提供最底層硬件技術(shù)支持的芯片行業(yè)更是處于漩渦之中。隨著人工智能相關(guān)技術(shù)在近年來的跨越式發(fā)展，人們越來越看好人工智能的前景及其潛在的爆發(fā)力，而能否發(fā)展出具有超高運(yùn)算能力且符合市場的人工智能芯片成為人工智能平臺(tái)的關(guān)鍵一役。英偉達(dá)在目前的市場上保持著絕對的領(lǐng)先地位，但隨著包括谷歌、臉書、微軟、亞馬遜等眾多科技巨頭公司相繼加入決戰(zhàn)，人工智能芯片領(lǐng)域未來的格局如何，仍然待解。