OpenAI 的權(quán)力之爭才剛剛落幕,一場關(guān)鍵交易悄悄浮出了水面。
據(jù)外媒《連線》(Wired)報道,在 Sam Altman 擔(dān)任 OpenAI 的首席執(zhí)行官期間,OpenAI 與 Rain AI 簽訂了一份價值 5100 萬美元的意向書,承諾會在 Rain AI 的芯片上市后購買芯片。
Rain AI 是一家 AI 芯片初創(chuàng)公司,旨在大幅降低 AI 算力的成本。通過研發(fā)一種模仿人腦的工作方式的 AI 芯片——NPU,從而為 OpenAI 和 Anthropic 等 AI 公司提供「低成本、高能效的硬件」。
該公司稱,「相比傳統(tǒng)的 GPU,NPU 將為 AI 開發(fā)者(如 OpenAI)提供潛在的 100 倍計算能力,并在訓(xùn)練方面提供 10,000 倍的能效?!?/p>
鑒于,OpenAI 一直受困于算力短缺,也就不難理解,它會愿意花費(fèi)大量資金,來確保自己的 AI 項(xiàng)目所需的芯片供應(yīng)。
Rain AI 研發(fā)的芯片有什么特點(diǎn)呢?該公司又是如何顯露頭角的?這筆投資揭示了 Altman 和 OpenAI 在芯片領(lǐng)域怎樣的布局?
“類腦”AI芯片
Rain AI 的核心產(chǎn)品是基于神經(jīng)擬態(tài)(Neuromorphic)技術(shù)的「類腦」AI 芯片——NPU。芯片旨在實(shí)現(xiàn)低耗、高效地處理信息,從而滿足 AI 任務(wù)的苛刻計算需求。
它模仿了人腦的結(jié)構(gòu)和功能,類似于大腦中的神經(jīng)連接,建立在了人工突觸相互連接的網(wǎng)絡(luò)上。這種架構(gòu)允許 NPU 以并行和分布式的方式處理信息,使其非常適合 AI 應(yīng)用中的「計算密集型任務(wù)」。
而且,Rain AI 率先采用了數(shù)字內(nèi)存計算(D-IMC)模式,進(jìn)一步提升了 AI 處理、數(shù)據(jù)移動和數(shù)據(jù)存儲的效率。
此外,Rain 還為數(shù)字內(nèi)存計算磁貼和軟件棧,提供了知識產(chǎn)權(quán)(IP)許可機(jī)會,該 IP 是專門為要求超低延遲和高能效的設(shè)備上的 AI 工作負(fù)載而定制的,涵蓋了長距離以太網(wǎng) (Long Reach Ethernet, LRE) 的一系列計算用例,包括智能汽車、智能手表等。
針對自家產(chǎn)品,Rain 打出的 solgan 是「重新定義 AI 計算的極限」,并宣傳「我們的 AI 加速器在速度、功耗、面積、精度和成本之間實(shí)現(xiàn)了創(chuàng)紀(jì)錄的平衡」。
鑒于,Rain 所設(shè)計的「類腦」芯片(NPU)承諾具有高效和低耗的運(yùn)行,這對于克服英偉達(dá)、AMD 等公司制造的重型芯片相關(guān)的「瓶頸」至關(guān)重要。
Rain AI 的創(chuàng)始者之一,Gordon Wilson 更是在 LinkedIn 上直言,「NPU 芯片將定義新的 AI 芯片市場,并大幅顛覆現(xiàn)有市場?!?/p>
不過,值得注意的是,盡管 Rain AI 號稱自己相比于英偉達(dá)的 GPU 有更好的能效,但Rain 的初始芯片,其實(shí)是基于谷歌、高通和其他科技公司支持的傳統(tǒng)的 RISC-V 開源架構(gòu),旨在用于遠(yuǎn)離數(shù)據(jù)中心的所謂邊緣設(shè)備,如手機(jī)、無人機(jī)、汽車和機(jī)器人等。
但是,當(dāng)前的大多數(shù)邊緣芯片設(shè)計,如智能手機(jī)采用的芯片,都專注于神經(jīng)網(wǎng)絡(luò)的推理階段。而 Rain 的目標(biāo)是提供一種芯片,既能用于模型和算法的訓(xùn)練,又能用于之后的推理運(yùn)行。
目前,Rain AI 已經(jīng)推出首個 AI 平臺,可進(jìn)行 AI 推理和訓(xùn)練,還宣稱「類腦」芯片(NPU)將允許 AI 模型,根據(jù)周圍環(huán)境實(shí)時定制或微調(diào)。
對此,Sam Altman 還曾公開表示,「這種神經(jīng)擬態(tài)方法能大幅降低 AI 開發(fā)成本,并有望為實(shí)現(xiàn)真正的 AGI 提供幫助?!?/p>
據(jù)悉,OpenAI 希望利用這些芯片來降低數(shù)據(jù)中心的成本,并將自己的模型部署在手機(jī)和手表等設(shè)備中,那么「類腦」芯片(NPU)更是無疑對 OpenAI 來說有著巨大的吸引力,盡管如此,這些也都只是猜測。目前,OpenAI 將如何使用 Rain 芯片還是不得而知。
與 OpenAI 聯(lián)系緊密
Rain AI 成立于 2017 年,旨在為為未來的 AI 構(gòu)建「低成本」的計算平臺。
Rain AI 有三位聯(lián)合創(chuàng)始人,分別是 Jack Kendall、Gordon Wilson、Juan Claudio Nino,他們在佛羅里達(dá)大學(xué)大學(xué)結(jié)識,此外,還聘請了 OpenAI 的軟件工程師 Scott Gray 擔(dān)任公司顧問。
目前,Rain AI 約有 40 名員工,包括 AI 算法開發(fā)和傳統(tǒng)芯片設(shè)計方面的專家。
有趣的是,Rain AI 的總部也位于舊金山,與 OpenAI 相距不到一英里。
公司成立的次年,Rain AI 就在種子輪融資中,獲得了 500 萬美元的融資,投資者包括知名的創(chuàng)業(yè)孵化器 Y Combinator。
彼時,Altman 正在擔(dān)任 Y Combinator 的 CEO,同時還以個人名義向 Rain AI 投資了 100 萬美元。一年后,OpenAI 通過了這份價值 5100 萬美元的芯片購買協(xié)約。
截至 2022 年 4 月,經(jīng)歷了由沙特阿拉伯附屬基金 Prosperity7 Ventures 領(lǐng)投的價值 2500 萬美元的一輪融資,Rain 的總?cè)谫Y額達(dá)到 3300 萬美元,估值也達(dá)到了 9000 萬美元。
今年年初,該公司向潛在投資者「夸炫」其進(jìn)展,表示預(yù)計本月就可以推出「測試」芯片,這將意味著芯片設(shè)計已經(jīng)完成,可以開始制造。
Rain AI 還表示最早于明年 10 月可向客戶提供第一批芯片,甚至向投資者強(qiáng)調(diào),自己已經(jīng)與谷歌、甲骨文、Meta、微軟和亞馬遜等科技巨頭進(jìn)行了高級談判,以銷售系統(tǒng)給它們。但對此,微軟拒絕置評,其他公司沒有回應(yīng)置評請求。
簡而言之,Rain AI 仍處于開發(fā)階段,目前尚不清楚何時才能投入商用。盡管該公司的「類腦」芯片(NPU)技術(shù)前景廣闊,支持者也備受矚目,但它仍面臨著許多挑戰(zhàn)。
Open AI 的野心
不管 Altman 投資 Rain AI 這番舉動有沒有私心在里頭,芯片短缺確實(shí)是 OpenAI 面臨的一大難題。
事實(shí)上,一年前,ChatGPT 剛剛發(fā)布不到一周,Altman 就感覺到計算成本「慘不忍睹」。之后,更是不止一次公開抱怨 AI 芯片的「殘酷緊缺」和「令人瞠目」的成本。
今年 5 月份,Altman 更是無奈承認(rèn),「OpenAI 正在經(jīng)歷嚴(yán)重的算力短缺,許多短期計劃都推遲了?!?/p>
眾所周知,OpenAI 利用其主要投資者微軟的強(qiáng)大云服務(wù),但由于硬件限制,經(jīng)常關(guān)閉 ChatGPT 的某些功能。
對此,Altman 表示,「AI 的進(jìn)展速度可能取決于新的芯片設(shè)計和供應(yīng)鏈?!巩吘乖诋?dāng)下,算力就是一切。
事實(shí)上,Altman 本人很早之前就對芯片進(jìn)行了投資布局。除了 Rain AI,2021 年前后他還參與投資了 Cerabras,就是芯片像盤子一樣大,需要兩只手捧著的那家 AI 公司。
像盤子一樣大的芯片 | 圖片來源:Cerabras 官網(wǎng)
今年初「硅仙人」Jim Keller 與「硅神童」Sam Zeloof 成立的 Atomic Semi(通過簡化和縮小半導(dǎo)體工廠和集成電路原型,快速制造價格合理的芯片),Altman 也有關(guān)注,OpenAI Startup Fund 還參與了投資。
此外,就在 Altman 被 OpenAI 解雇的前幾周,還有消息稱他正在試圖籌集數(shù)十億美元,創(chuàng)辦一個新的芯片公司。
項(xiàng)目的詳情還不得而知,只知道代號為「Tigris」,旨在與英偉達(dá)在 AI 芯片領(lǐng)域展開競爭。
據(jù)悉,為了「Tigris」項(xiàng)目,Altman 曾在中東籌集資金。地點(diǎn)的「巧合」,不禁讓人懷疑這個項(xiàng)目和 Rain 是否有什么關(guān)聯(lián)。
另外,Altman 還曾與包括芯片設(shè)計公司 Arm 在內(nèi)的半導(dǎo)體高管進(jìn)行過討論,商討如何盡早設(shè)計出新的芯片,為 OpenAI 這樣的大語言模型公司降低成本。
而且,不止 Altman,OpenAI 也正在尋找更低成本造大模型的可能,從而擺脫對英偉達(dá)的依賴。
除了尋找像 Rain AI 這樣的芯片供應(yīng)商,對外投資之外,OpenAI 前段時間也開始嘗試自研芯片,評估潛在收購目標(biāo),并招聘硬件相關(guān)崗位。
圖片來源:OpenAI 官網(wǎng) 前不久,OpenAI 任命了前谷歌 TPU 的負(fù)責(zé)人,Richard Ho 為硬件主管,還聘請了不少編譯器和內(nèi)核方面的專家,并且正在招聘「數(shù)據(jù)中心設(shè)施設(shè)計專家」。
Richard Ho 將領(lǐng)導(dǎo) OpenAI 的新部門,并且?guī)椭鷥?yōu)化合作伙伴的,數(shù)據(jù)中心網(wǎng)絡(luò)、機(jī)架和建筑。
但這些前瞻性的投資布局,還是很難解決眼前的 GPU 短缺的問題,目前,OpenAI 大規(guī)模使用的還是英偉達(dá)的芯片。
據(jù)觀察,OpenAI 正在動態(tài)的調(diào)整 ChatGPT 等產(chǎn)品的能力來節(jié)省算力。這也就不難理解,有網(wǎng)友最近發(fā)現(xiàn) GPT-4 相比 GPT-3.5 更容易「偷懶」。
隨著大模型的出現(xiàn),人們開始關(guān)注大型 AI 模型數(shù)據(jù)中心的耗電情況。Rain 和其他一些芯片初創(chuàng)公司,旨在重新配置數(shù)據(jù)處理方式,從而減少傳輸需求,降低功耗。
谷歌、微軟、AMD、英特爾、亞馬遜,以及 Cerabras、Sambanova,Rain 等初創(chuàng)公司相繼入局 AI 芯片未來,AI 算力供應(yīng)的市場是否會有所變化?而 OpenAI 能否擺脫算力受制于人的局面?從芯片超長的周期來看,這些難題還將繼續(xù)存在相當(dāng)長的一段時間。
-
AI芯片
+關(guān)注
關(guān)注
17文章
1887瀏覽量
35027 -
OpenAI
+關(guān)注
關(guān)注
9文章
1089瀏覽量
6517
原文標(biāo)題:OpenAI 重金押注的 “類腦” AI 芯片,到底是什么?
文章出處:【微信號:ICViews,微信公眾號:半導(dǎo)體產(chǎn)業(yè)縱橫】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論