近期的一些消息顯露出AI芯片初創公司的前景，似乎不太妙！Wave Computing破產關閉的還歷歷在目，現在，AI芯片領域的初創公司似乎正遭遇前所未有的挑戰。在英偉達的“陰影”下，一些潛在的投資者對初創公司望而卻步。面對全球經濟的不穩定性不斷增強，投資者因而變得越發審慎，他們對風險的忍受度顯著降低，這進一步增加了AI芯片制造商在籌資時的困難。根據 PitchBook 的數據，對專注于人工智能的芯片制造商的風險投資從2021年的90億美元降至40億美元。

雖然像Cerebras Systems、Graphcore和SambaNova這樣的企業成功籌集了大量資金，并在自己的技術領域取得了一定的成就，但要撼動英偉達這樣的行業巨擘仍非易事。尤其是在像ChatGPT這類大型模型應用興起之際，英偉達的地位愈發穩固，其GPU芯片在眾多AI應用中都扮演著不可或缺的角色，這使得任何試圖挑戰英偉達的初創公司都面臨著巨大的壓力。這些AI芯片初創企業需要不懈努力，以證明他們的技術不僅能與英偉達媲美，甚至具有超越的潛力和價值。

資金流動性的減少、創新步伐的放緩，以及消費者信心的衰退，都在很大程度上制約了這些初創公司的成長。在這種大環境下，AI芯片初創公司不僅要與技術巨頭競爭，還要在經濟大潮的沖擊下穩住陣腳，這無疑對它們的生存和發展提出了更高的要求。

幾近破產、融資困難、裁員，艱難的AI芯片公司

Mythic是模擬AI芯片的一家明星公司，但是據科技網站The Register報道，這家專注于模擬內存計算（CIM）的AI芯片初創公司總共籌集了約1.6億美元資金，去年現金耗盡，幾乎被迫停止運營。好在2023年3月，它成功籌集到了1300萬美元投資。Mythic首席執行官Dave Rick表示，英偉達“間接”加劇了整體 AI 芯片融資困境，因為投資者希望投資巨額、回報豐厚的全壘打型投資。

在資金籌集方面，Graphcore堪稱歐洲半導體初創企業中的佼佼者。這家公司由Nigel Toon和Simon Knowles在2016年創立，此前他們將自己的硬件公司賣給了英偉達。Graphcore致力于開發IPU（智能處理單元），這一點與目前主流的針對人工智能應用的GPU（圖形處理單元）截然不同。Graphcore稱，其IPU在滿足人工智能的特定需求方面，比GPU更具有優勢。據PitchBook的數據顯示，截至目前，Graphcore已經成功籌集了超過6億美元的投資。然而，相比所籌集的資金，Graphcore的收入卻相對微薄。

故事在2020年出現了重大轉變，當時微軟決定停用Graphcore的芯片于其云計算中心，這一舉措使得Graphcore失去了一個主要客戶，從而面臨了更加嚴峻的挑戰。根據金融時報的報道，到2022年，Graphcore的收入驟降了46％，僅為270萬美元，同時稅前虧損增加了11%，高達2.046億美元，年終現金余額為1.57億美元。Graphcore表示，到明年5月份需要進一步融資才能實現收支平衡。公司將這一不利局面歸咎于“宏觀經濟環境的逆境”和“關鍵戰略客戶”的硬件采購推遲，尤其是來自“中國的主要客戶”。據路透社的消息，Graphcore關閉了在挪威、日本和韓國的業務，并縮減了在其他國家的業務。目前，Graphcore也開始重新調整業務方向，將其IPU芯片從數據中心轉向部署在云計算環境中。

Rivos，一家服務器芯片制造商，正面臨蘋果公司的訴訟，被指控非法挖角其工程師并竊取商業機密。今年八月，Rivos裁減了大約二十名員工，約占公司員工總數的6%，在此過程中，管理層向留下的員工透露，公司獲取新資金的可能性正在減少。聯合創始人還向部分員工透露，蘋果針對該公司及其幾位前蘋果員工的訴訟，嚴重阻礙了他們的籌資活動。

芯片公司燒錢是常態，巨額的研發投入、激烈的市場競爭以及對頂尖人才的爭奪，都使得這些公司在成長的道路上不得不投入大量的資金。如今，人工智能領域初創公司給予初級工程師的薪酬往往十分可觀，這一方面反映了人才市場的供不應求，另一方面也凸顯了這些初創公司對技術人才的極度渴求。然而，這種高薪策略是否可持續，卻是一個值得深思的問題。對于AI芯片初創公司而言，成功融資是其發展的關鍵一步，但資金的有效利用同樣至關重要——這不僅關乎公司的現階段運營，更影響到其長遠的戰略目標和市場地位。

英偉達的一些勁敵?

Cerebras是一家“一鳴驚人”的公司，該公司因為芯片大，而捕獲了行業的眼球。英偉達的A100 GPU已經相當大了，差不多826平方毫米。但Cerebras的新型芯片WSE-2 芯片，面積為 45,225平方毫米，幾乎覆蓋了8英寸硅晶圓的整個表面。自2016年成立以來它已籌集了7.3億美元。根據CB Insights全球獨角獸俱樂部的數據，該公司目前估值為 40 億美元。目前，Cerebras已經與阿布扎比G42合作建造了九臺人工智能超級計算機中的第一臺，這臺超級計算機的造價超過1億美元。Cerebras也正在朝著生成式AI領域奮進，雖然它已經證明了其CS-2在GPT模型中訓練的速度，但是其仍沒有獲得大型廠商的采用。

Cerebras研究人員在AI硬件公司中首次在Andromeda AI 超級計算機上訓練了一系列七個 GPT 模型，參數分別為 111M、256M、590M、1.3B、2.7B、6.7B 和 13B

Tenstorrent也是業界很看好的一家初創公司，由頂級芯片設計師Jim Keller于2016年所創立。截止目前，該公司已經融資了近3.35億美元，最近的一次投資者中包括三星和現代，目前估值約為10億美元。Tenstorrent將利用RISC-V和Chiplet技術打造AI CPU，以此來挑戰英偉達的AI主導地位。最近，Tenstorrent剛與三星達成生產合作的協議，計劃使用三星的4nm工藝來生產芯片。

該公司擁有全面的路線圖（如下圖所示），其中包括基于 RISC-V 的高性能 CPU 小芯片以及先進的 AI 加速器小芯片，有望為機器學習提供強大的解決方案。目前，Tenstorrent有兩款產品：一種名為Grayskull的機器學習處理器，可提供約315 INT8 TOPS的性能，可插入PCIe Gen4插槽；另一種是聯網Wormhole ML處理器，可提供約350 INT8 TOPS的性能并使用GDDR6內存子系統，一個 PCIe Gen4 x16 接口，并具有與其他機器的 400GbE 連接。今年他們將推出其 Black Hole獨立ML計算機芯片。該公司的重頭戲"Grendel "將于2024年推出，這是一種高配置、高性能的ML芯片設計，將CPU芯片與專用的 ML/AI 芯片相結合，與英偉達的GH200和 Grace/Hopper超級芯片的實現方式類似。

Tenstorrent的AI芯片路線圖（圖片來源：Tenstorrent）

成立于2017年的SambaNova已成為AI芯片創業領域中資金最雄厚的公司之一。截至目前，該公司已成功籌集了高達10億美元的融資，投資方包括如軟銀和英特爾等知名機構。這使SambaNova不僅成為融資額最高的AI芯片初創公司，也被視為英偉達最有力的新興競爭者之一，公司估值達到了50億美元。

SambaNova最近推出了其最新的第四代SN40L處理器。這款處理器擁有超過1,020億個晶體管，采用了臺積電的5nm工藝，其計算速度高達638 teraflops。獨特的三層內存系統（包括片上內存、高帶寬內存和高容量內存）旨在處理與AI工作負載相關的龐大數據流。SambaNova宣稱，一個只有8個此類芯片組成的節點就能夠支持多達50萬億參數的模型，這幾乎是OpenAI的GPT-4 LLM報告規模的三倍。該公司的首席執行官Rodrigo Liang表示，使用標準的GPU來執行相同任務將需要數百個芯片，這意味著總成本只有使用標準方法的1/25。然而，SambaNova并不直接將芯片銷售給其他公司。相反，它提供對其定制技術棧的訪問權限，其中包含了為運行最大型AI模型而專門設計的專有硬件和軟件。

避免與之正面競爭，會否是AI芯片初創公司的新出路？

盡管英偉達在人工智能計算領域占據主導地位，但該公司并沒有牢牢鎖定該領域，市場機會仍然有很多。如果按照英偉達的馮·諾依曼架構+HBM+先進工藝+互聯這樣的路線，可能將無人能敵英偉達，而且GPU價格和功耗一直在上漲，這對于人工智能行業本身來說是不可持續的。所以一些AI芯片公司選擇不與英偉達正面競爭，另辟蹊徑，走出一些差異化的路線，試圖在市場中分一杯羹。

d-Matrix：存內計算芯片

d-Matrix公司也是一家AI芯片初創公司，該公司認為，隨著生成式人工智能的爆發，當前的基礎設施無法維持成本和需求，生成式人工智能需要變革性的計算范式。所以d-Matrix

設計的芯片具有數字“內存計算”功能，使人工智能計算機代碼能夠更有效地運行。d-Matrix 宣稱可以將TCO降低十倍，并在性能和延遲方面具有二十倍的優勢。

據The Register的報道，這家初創公司的最新芯片名為Jayhawk II，將采用通過高速結構連接的八個小芯片，總共 2GB 的 SRAM，而且只需要350瓦就能提供大約 2,000 TFLOPs 的 FP8 性能和多達 9,600 TOPs 的 Int4 或塊浮點數學性能。

d-Matrix 路線圖（來源：d-Matrix）

該芯片可幫助ChatGPT等生成型AI應用提供支持。不過該公司所針對的僅是人工智能的推理部分，訓練部分則不涉獵。也就是說他們講不與英偉達正面競爭，而是發力在3-600億參數模型領域。對于這種尺寸的模型，在人工智能推理方面，英偉達的H100不一定是最經濟的選擇。運行這些模型的大部分成本都歸結于快速高帶寬內存的使用。相比之下，d-Matrix 加速器中使用的SRAM更快、更便宜，但容量也有限。

d-Matrix已經在微軟的支持下融資1.1億美元，微軟已承諾在明年推出該芯片時對其自用進行評估。d-Matrix預計兩年內年收入將超過 7000 萬至 7500 萬美元，并實現收支平衡。

Ceremorphic：模擬計算AI芯片

Ceremorphic正在設計一款采用臺積電5nm工藝的超低功耗超級計算芯片，利用其自己的專利技術和多線程處理架構ThreadArch。該公司的創始人兼首席執行官Venkat Mattela，此前他所創立的Redpine Signals于2020年3月以3.14億美元的價格出售給了Silicon Labs。Ceremorphic所研發的芯片的核心在于數字電路之下的模擬電路，在芯片功能的層次結構的最低層進行模擬計算，更高層次上則不做模擬計算。該公司的創始人兼首席執行官Venkat Mattela認為，模擬乘法將比數字乘法更有效地利用電壓，更好的實現低功耗。

該公司的主要技術包括可靠、低能耗和安全的機器學習、圖形神經處理器、抗量子和硅高效安全處理器、高性能模擬電路、可靠的時序電路和系統級互連，使產品能夠針對不同的細分市場進行擴展。右圖描繪了 Ceremorphic的技術組合，涵蓋當前和未來的計算需求。

Ceremorphic的技術組合

結語

就目前的事實證明，在英偉達所主導的GPU生態中，初創芯片公司想要打入自己的產品不是易事，“替代英偉達”難。強如AMD和英特爾都很難撬動這塊大蛋糕。對于這些AI芯片公司而言，機會之窗口很窄，英偉達已經發布了其最新的路線圖。而且，大型的云廠商幾乎都已經躬身自研芯片了，亞馬遜擁有Inferentia芯片，谷歌最近展示了其第五代張量處理單元，微軟即將發布其自研芯片，這進一步擠壓了希望通過云提供商進入市場的初創企業的機會。

芯片初創企業所承擔的風險甚至超越了傳統軟件初創公司，因為它們不僅需要巨額資金來支持復雜的半導體設計和軟件開發，還要承擔實物產品的制造成本。隨著時間的推移，我們可能會目睹一些此類企業的破產倒閉、被收購，但它們中的每一個都懷揣著成為下一個英偉達的夢想。隨著時間的推進，可能會有更多這樣的公司失敗，但每個公司內心都懷揣著一個共同的夢想——成為下一個英偉達。