ARM發(fā)布了兩款針對(duì)移動(dòng)終端的AI芯片架構(gòu)，物體檢測(cè)（Object Detection，簡(jiǎn)稱(chēng)OD）處理器和機(jī)器學(xué)習(xí)（Machine Learning，簡(jiǎn)稱(chēng)ML）處理器。

以往，ARM都是架構(gòu)準(zhǔn)備好了，才發(fā)公告。這次一反常態(tài)，沒(méi)貨卻先發(fā)公告：OD處理器，計(jì)劃在第一季度才能提供給合作伙伴；ML處理器得等到年中,這也看出了ARM很焦急。

畢竟在過(guò)去的幾個(gè)月中，尤其是在移動(dòng)端圈子里，機(jī)器學(xué)習(xí)在半導(dǎo)體行業(yè)中很熱。

好幾家提供芯片架構(gòu)的公司都宣布了提供消費(fèi)者解決方案，連華為都開(kāi)始自主研發(fā)架構(gòu)了。那么多玩家入場(chǎng)，ARM卻沒(méi)啥動(dòng)作。

直到現(xiàn)在，ARM才把重點(diǎn)放在了Armv8.2的CPU ISA擴(kuò)展上，該擴(kuò)展借助半精度浮點(diǎn)和整數(shù)點(diǎn)產(chǎn)品來(lái)簡(jiǎn)化和加速神經(jīng)網(wǎng)絡(luò)的專(zhuān)用指令。

除了CPU的改進(jìn)之外，還看到了G72中機(jī)器學(xué)習(xí)的GPU改進(jìn)。雖然這兩項(xiàng)改進(jìn)都有所幫助，但想要最大性能和效率，這些改進(jìn)還不夠。

在測(cè)試Kirin 970的NPU和Qualcomm的DSP時(shí)，可以看出，專(zhuān)用架構(gòu)上運(yùn)行推理的效率，比在CPU上運(yùn)行的效率高出一個(gè)數(shù)量級(jí)以上。

正如ARM官方解釋的那樣，Armv8.2和GPU的改進(jìn)只是建立機(jī)器學(xué)習(xí)解決方案的第一步，還必須研究對(duì)專(zhuān)用解決方案的需求。

ARM也從合作的小伙伴那里感受到了行業(yè)的壓力，才熬出來(lái)ML處理器。

下面簡(jiǎn)單介紹一下這次發(fā)布的兩個(gè)新的架構(gòu)：機(jī)器學(xué)習(xí)ML處理器以及OD處理器。

ML處理器，是專(zhuān)門(mén)為加速神經(jīng)網(wǎng)絡(luò)模型推理所設(shè)計(jì)的。這種架構(gòu)比傳統(tǒng)的CPU和GPU架構(gòu)有明顯的優(yōu)勢(shì)。

在執(zhí)行機(jī)器學(xué)習(xí)任務(wù)時(shí)，這款ML處理器可為數(shù)據(jù)優(yōu)化內(nèi)存管理。

這款處理器具有數(shù)據(jù)可高度重復(fù)使用的特點(diǎn)，能最大限度地減少數(shù)據(jù)的輸入和輸出，從而實(shí)現(xiàn)高性能和高效率。

ML處理器，理論上可在1.5W功率下，有超過(guò)4.6TOPs（8位整數(shù)）的理論吞吐量，最高可達(dá)3TOPs / W。

雖然TOPs值并不能完全體現(xiàn)處理器的性能，不過(guò)它對(duì)于行業(yè)標(biāo)準(zhǔn)化仍然有用。

作為一個(gè)完全獨(dú)立的獨(dú)立IP（電路功能）模塊，ML處理器具有自己的ACE-Lite接口，可集成到SoC中，也可以集成到DynamiQ中。

此外，ARM沒(méi)有透露ML處理器更多的架構(gòu)信息。

OD處理器，是針對(duì)物體檢測(cè)的任務(wù)進(jìn)行了優(yōu)化。盡管ML處理器也能完成相同的任務(wù)，但OD處理器可以更快。給單項(xiàng)任務(wù)提供專(zhuān)用架構(gòu)，才能夠獲得最大效率。

ARM也考慮到了可能會(huì)出現(xiàn)OD和ML處理器集成在一起用的情況：OD處理器負(fù)責(zé)把圖像中的目標(biāo)處理區(qū)分割出來(lái)，然后把它們傳遞給ML處理器，進(jìn)行更細(xì)顆粒度的處理。

ARM還提供大量軟件，幫助開(kāi)發(fā)人員將他們的神經(jīng)網(wǎng)絡(luò)模型應(yīng)用到不同的NN框架中。從今天開(kāi)始，這些軟件大家可以在ARM開(kāi)發(fā)者網(wǎng)站找到，同時(shí)也在Github上提供。

考慮到SoC開(kāi)發(fā)的周期，基于新架構(gòu)的芯片大概得在2019年年中或年末才能發(fā)布。ARM這次，可以說(shuō)半導(dǎo)體及架構(gòu)供應(yīng)商中響應(yīng)AI趨勢(shì)比較慢的企業(yè)了。