雖然科技行業(yè)繼續(xù)吹捧人工智能的“復(fù)興”，但人工智能芯片初創(chuàng)公司的數(shù)量已經(jīng)開(kāi)始趨于平穩(wěn)。人工智能初創(chuàng)公司發(fā)現(xiàn)，數(shù)據(jù)中心曾經(jīng)是一個(gè)充滿希望的市場(chǎng)，但其進(jìn)入壁壘很高——也許令人望而卻步。他們的問(wèn)題可以追溯到谷歌、亞馬遜和 Facebook 等超大規(guī)模企業(yè)，他們現(xiàn)在正在開(kāi)發(fā)自己的人工智能處理器和加速器，以滿足他們的特定需求。

需要明確的是，機(jī)器學(xué)習(xí) (ML) 繼續(xù)發(fā)展。更多的神經(jīng)網(wǎng)絡(luò)變體正在涌現(xiàn)。人工智能正在成為每個(gè)電子系統(tǒng)的固有特性。

Arteris 首席運(yùn)營(yíng)官 Laurent Moll 預(yù)測(cè)，在未來(lái)，“每個(gè)人的 SoC 中都有某種人工智能。” 這對(duì) Arteris 來(lái)說(shuō)是個(gè)好消息，因?yàn)樗臉I(yè)務(wù)是通過(guò)提供片上網(wǎng)絡(luò) (NoC) IP 和 IP 開(kāi)發(fā)工具來(lái)幫助公司（無(wú)論大小，或新老）集成 SoC。

對(duì)于人工智能芯片初創(chuàng)公司？沒(méi)那么多。競(jìng)爭(zhēng)越來(lái)越激烈，使破解適合特定 AI 設(shè)計(jì)的細(xì)分市場(chǎng)的挑戰(zhàn)變得更加復(fù)雜。

EE Times 將于下個(gè)月公布我們的“Silicon 100”（2021 版），這是一份新興電子和半導(dǎo)體初創(chuàng)公司的年度名單。該報(bào)告的作者 Peter Clarke 二十年來(lái)一直在密切關(guān)注半導(dǎo)體初創(chuàng)公司。他告訴我們，專注于 GPU 和 AI 的專業(yè)芯片初創(chuàng)公司的數(shù)量“與前一年相比持平”。他觀察到，“我們感覺(jué)到該行業(yè)可能已經(jīng)達(dá)到了‘人工智能高峰’的地步。”

簡(jiǎn)而言之，人工智能芯片初創(chuàng)公司的沙拉時(shí)代可能已經(jīng)結(jié)束。

Tirias Research 的首席分析師 Kevin Krewell 預(yù)計(jì)會(huì)有更多的 AI 芯片初創(chuàng)公司被收購(gòu)。“畢竟，人工智能啟動(dòng)資金的爆炸式增長(zhǎng)發(fā)生在英特爾收購(gòu) Nervana 之后。風(fēng)投和天使投資人看到了一種可能有利可圖的退出策略。” 他補(bǔ)充說(shuō)，“今天有太多的 [AI] 初創(chuàng)公司超出了該行業(yè)的長(zhǎng)期支持能力。我敢肯定，還會(huì)出現(xiàn)更多涉及模擬或光學(xué)的更奇特的解決方案。[但]最終，AI/ML 功能將被納入更大的 SoC 或小芯片設(shè)計(jì)中。”

洛朗摩爾

在這種背景下，EE Times最近與 Arteris 新任命的首席運(yùn)營(yíng)官進(jìn)行了會(huì)談。曾擔(dān)任 Arteris 首席技術(shù)官的 Moll 在高通公司工作了七年多，最近擔(dān)任這家移動(dòng)芯片巨頭的工程副總裁。

我們向 Moll 詢問(wèn)了 AI 芯片領(lǐng)域的變化以及初創(chuàng)公司的發(fā)展方向。

淘金熱

不出所料，Moll 將行業(yè)對(duì) AI 的沖刺描述為他所見(jiàn)過(guò)的“最大的淘金熱之一”。然而，這些后來(lái)的 49 人不再只是初創(chuàng)公司或小公司。探礦者包括“長(zhǎng)期以來(lái)一直在制造硅片的公司，以及許多[以前]沒(méi)有制造過(guò)硅片的新人，”Moll 說(shuō)。每個(gè)人都“在同一個(gè)舞臺(tái)上比賽”，每個(gè)人都在“努力解決問(wèn)題”。

不斷增長(zhǎng)的開(kāi)發(fā)人員基礎(chǔ)和多樣化的應(yīng)用程序發(fā)揮了 Arteris 的優(yōu)勢(shì)，但它為 AI 芯片初創(chuàng)公司描繪了一幅截然不同的畫面。他們不再只與具有類似新想法的 AI 初創(chuàng)公司競(jìng)爭(zhēng)。但現(xiàn)在他們也在對(duì)抗大男孩。超大規(guī)模生產(chǎn)商和汽車原始設(shè)備制造商正在大力發(fā)展人工智能，以便他們可以將自己的芯片用于他們的系統(tǒng)。

仍處于擴(kuò)張階段

Arteris 的 Moll 觀察到，人工智能芯片市場(chǎng)“仍處于擴(kuò)張階段”，“每個(gè)人都在探索”。盡管如此，他還是看到數(shù)據(jù)中心方面出現(xiàn)了“一點(diǎn)點(diǎn)秩序”。這主要是因?yàn)槌笠?guī)模企業(yè)正在通過(guò)開(kāi)發(fā)自己的人工智能處理器和加速器來(lái)控制自己的命運(yùn)。

超大規(guī)模和其他 AI 芯片設(shè)計(jì)者之間的區(qū)別歸結(jié)為一個(gè)因素。“他們擁有數(shù)據(jù)集，”Moll 說(shuō)。Hyperscaler 不與其他人共享數(shù)據(jù)集，但他們正在開(kāi)發(fā)專有軟件堆棧。“而且他們覺(jué)得他們可以創(chuàng)建芯片，更加優(yōu)化他們自己的數(shù)據(jù)訪問(wèn)。”

與此同時(shí)，外部供應(yīng)商——較小的人工智能芯片初創(chuàng)公司——正在“開(kāi)發(fā)構(gòu)建 SoC 的新方法、使用 SRAM 和 DRAM 的新方法、堆疊、使用光學(xué)器件，”Moll 說(shuō)。“有很多方法可以創(chuàng)造出秘方，使他們能夠比現(xiàn)成的 AI 芯片做得更好。小個(gè)子正在改變游戲規(guī)則，他們非常聰明地以與眾不同的方式做事。”

相比之下，超大規(guī)模企業(yè)所追求的人工智能芯片就沒(méi)有那么創(chuàng)新了。Moll 觀察到，超大規(guī)模用戶可以負(fù)擔(dān)得起使用更傳統(tǒng)的方法。一個(gè)很好的例子是谷歌的 TPU。“如果你看它，架構(gòu)很棒，但它不是革命性的——在很多方面。” 盡管如此，“它非常適合谷歌想要做的事情。所以，這符合他們的目的。”

如果小型 AI 初創(chuàng)公司的芯片如此新穎，他們不應(yīng)該鉆進(jìn)超大規(guī)模的數(shù)據(jù)中心嗎？

“不，不，不，”莫爾說(shuō)。“任何小型企業(yè)都不太可能在數(shù)據(jù)中心市場(chǎng)擴(kuò)張……或者超大規(guī)模企業(yè)購(gòu)買他們的產(chǎn)品。” 然而，他指出，“一旦他們看到他們的技術(shù)有用并適用于他們想做的事情，他們肯定會(huì)購(gòu)買其中一些初創(chuàng)公司。”

Moll 將超大規(guī)模的思路描述為：“我知道我的數(shù)據(jù)集是什么。我知道如何做一種更集中的架構(gòu)。如果有人有一個(gè)很好的想法，讓我們抓住這組人和IP，讓我們改進(jìn)我們自己的產(chǎn)品。”

Tirias Research 的 Krewell 表示同意。“你必須做一些驚人的事情才能讓超標(biāo)量承諾使用你的機(jī)器學(xué)習(xí)芯片。” Krewell 說(shuō)，例如，Cerebras憑借其晶圓大小的芯片突破了極限。“由于其無(wú)處不在的軟件和可擴(kuò)展性，Nvidia 仍然是 AI 開(kāi)發(fā)工作的默認(rèn)平臺(tái)。”

邊緣呢？

Moll 指出，對(duì)于 AI 芯片設(shè)計(jì)師來(lái)說(shuō)，與數(shù)據(jù)中心相比，“邊緣是一個(gè)完全不同的故事”。邊緣的終端市場(chǎng)是多功能的，需要更廣泛的解決方案。“很多人仍在弄清楚在哪里應(yīng)用人工智能，以及如何實(shí)施它，”Moll 說(shuō)。

點(diǎn)擊查看完整大小的圖片

到 2025 年，19% 的半導(dǎo)體可用市場(chǎng)將與 AI/ML 相關(guān)。（來(lái)源：伯恩斯坦；思科；Gartner；IC Insights；IHS Markit；Machina Research；麥肯錫分析——由 Arteris 編譯）

Tirias Research 的 Krewell 對(duì)此表示贊同。“邊緣仍然是一個(gè)相對(duì)未開(kāi)發(fā)的領(lǐng)域。仍有機(jī)會(huì)將 ML 添加到傳感器和邊緣設(shè)備。非常低功耗的模擬和內(nèi)存設(shè)備以及 MCU 和應(yīng)用處理器中的加速器具有前景。我看到邊緣處理器中 INT4 和 INT2 推理的巨大潛力——準(zhǔn)確度高，功耗和內(nèi)存要求低得多。”

雖然多樣化的應(yīng)用程序聽(tīng)起來(lái)令人興奮，但它存在陷入邊緣人工智能炒作周期的危險(xiǎn)。

Edge AI 成為流行語(yǔ)并不是因?yàn)檫吘壥且粋€(gè)新市場(chǎng)，也不是因?yàn)樗砣魏翁囟ǖ漠a(chǎn)品類別。相反，缺乏定義已經(jīng)將“優(yōu)勢(shì)”變成了初創(chuàng)公司可以將其產(chǎn)品與之關(guān)聯(lián)的包羅萬(wàn)象的東西。

在廣泛的邊緣應(yīng)用中，Moll 看到了兩個(gè)不同的趨勢(shì)。他指出，一個(gè)是“芯片內(nèi)的人工智能，可以做其他事情”。“這就是爆炸的地方。”

他補(bǔ)充說(shuō)，嵌入式系統(tǒng)市場(chǎng)是“外形尺寸、功率和散熱等因素真正重要的地方”。

另一端的另一個(gè)趨勢(shì)是“只做人工智能的巨大芯片”，Moll 指出。然而，邊緣大芯片的應(yīng)用仍在不斷發(fā)展。

“芯片內(nèi)的人工智能”最好的例子可能是智能手機(jī)的應(yīng)用處理器，Moll 很清楚這一點(diǎn)。人工智能加速器在語(yǔ)音識(shí)別和視覺(jué)處理中發(fā)揮了關(guān)鍵作用。如今，人工智能已成為手機(jī)銷售吸引力的重要組成部分。一個(gè)結(jié)果是“移動(dòng)領(lǐng)域的老牌廠商（如高通）具有優(yōu)勢(shì)，”Moll 承認(rèn)。

汽車中的人工智能

Moll 認(rèn)為車輛中的人工智能是一個(gè)完全不同的故事。

他指出，將會(huì)有一系列解決方案，從重人工智能的計(jì)算機(jī)視覺(jué)芯片到完成所有繁重處理的大型人工智能芯片。隨著汽車從 ADAS 向自動(dòng)駕駛發(fā)展，Moll 預(yù)計(jì)更大的 AI 處理器將在高端汽車市場(chǎng)發(fā)揮關(guān)鍵作用。

雖然汽車行業(yè)的老牌企業(yè)通常擁有自己的小型 AI 芯片，但在 ADAS 方面具有優(yōu)勢(shì)，但在擁有相當(dāng)大的 AI 芯片的自動(dòng)駕駛市場(chǎng)中，AI 芯片初創(chuàng)公司仍有充足的空間。

但這就是轉(zhuǎn)折點(diǎn)。

汽車原始設(shè)備制造商——模仿超大規(guī)模制造商——也在垂直化。特斯拉已經(jīng)設(shè)計(jì)了自己的芯片，稱為“全自動(dòng)駕駛”計(jì)算機(jī)。幾周前，大眾汽車首席執(zhí)行官赫伯特·迪斯 (Herbert Diess) 告訴一家德國(guó)報(bào)紙，該公司計(jì)劃設(shè)計(jì)和開(kāi)發(fā)自己的自動(dòng)駕駛汽車高性能芯片以及所需的軟件。

Moll 證實(shí)，汽車制造商“都在非常仔細(xì)地看待這個(gè)問(wèn)題”。盡管 Arteris 是一家 IP 公司，“我們接到汽車 OEM 的電話，因?yàn)樗麄兿胍私庹麄€(gè)堆棧，并且想要控制”即將到來(lái)并改變車輛架構(gòu)的“大堆硅片” .

Recogni、Blaize和Mythic等 AI 芯片初創(chuàng)公司將汽車列為他們瞄準(zhǔn)的邊緣 AI 細(xì)分市場(chǎng)。汽車制造商最終將如何在車輛中實(shí)施此類芯片還有待觀察。

Krewell 強(qiáng)調(diào)：“汽車平臺(tái)仍在不斷發(fā)展。分布式功能具有模塊化和降低風(fēng)險(xiǎn)的優(yōu)勢(shì)，但其構(gòu)建和維護(hù)成本高于集中式處理綜合體。”

他補(bǔ)充說(shuō)：“另一個(gè)問(wèn)題是數(shù)據(jù)。傳感器將發(fā)送大量數(shù)據(jù)，邊緣智能會(huì)減少數(shù)據(jù)傳輸，但需要權(quán)衡傳感器延遲增加和機(jī)箱中更多分布式電源。傳感器上輕量級(jí)邊緣處理的某種平衡可以減少中央處理器的負(fù)載，而不會(huì)增加過(guò)多的延遲或需要過(guò)多的分布式電源。”

人工智能之戰(zhàn)從芯片轉(zhuǎn)向軟件

Krewell 觀察到，“我看到人工智能的重點(diǎn)從芯片轉(zhuǎn)移到軟件。部署 ML 功能需要好的軟件。為了讓更多嵌入式設(shè)計(jì)工程師和程序員能夠使用 ML，需要讓 ML 成為低代碼。它還需要為特定應(yīng)用程序自動(dòng)創(chuàng)建自定義模型。”

摩爾也得出了類似的結(jié)論。當(dāng)被問(wèn)及為什么決定從高通回到 Arteris 時(shí)，他列舉了兩點(diǎn)。

首先，Arteris 曾經(jīng)在一個(gè)小眾市場(chǎng)中發(fā)揮作用——“IP 供應(yīng)商之間的狹隘地方”。但這個(gè)利基現(xiàn)在已成為“關(guān)鍵空間之一”，人工智能芯片設(shè)計(jì)人員在此尋求幫助，通過(guò)在芯片上構(gòu)建大量網(wǎng)絡(luò)來(lái)“組裝非常龐大和復(fù)雜的 SoC”。這就是 Arteris 的片上網(wǎng)絡(luò) (NOC) 可以進(jìn)來(lái)以整體方式解決問(wèn)題的地方。

其次，Arteris IP 去年收購(gòu)了 Magillem。Moll 認(rèn)為 Magillem 提供的“軟件層”是創(chuàng)建一個(gè)非常龐大和復(fù)雜的 SoC 的另一個(gè)關(guān)鍵。在高通負(fù)責(zé)提供頂級(jí)芯片的團(tuán)隊(duì)后，“我開(kāi)始認(rèn)識(shí)到 Arteris 作為用戶而非營(yíng)銷人員所提供的價(jià)值。”

審核編輯 黃昊宇