盡管提倡在整個(gè)行業(yè)范圍內(nèi)停止人工智能訓(xùn)練,但據(jù)報(bào)道,埃隆·馬斯克 (Elon Musk)已經(jīng)在 Twitter 內(nèi)啟動(dòng)了一個(gè)重大的人工智能項(xiàng)目。據(jù)Business Insider報(bào)道,該公司已經(jīng)購買了大約 10,000 個(gè) GPU,并從 DeepMind 招募了 AI 人才,用于涉及大型語言模型 (LLM) 的項(xiàng)目 。
以昇思為基,盤古生態(tài)引領(lǐng)中國AI未來
一位知情人士表示,馬斯克的 AI 項(xiàng)目仍處于初始階段。然而,根據(jù)另一個(gè)人的說法,獲得大量額外的計(jì)算能力表明他致力于推進(jìn)該項(xiàng)目。同時(shí),生成人工智能的確切目的尚不清楚,但潛在的應(yīng)用包括改進(jìn)搜索功能或生成有針對(duì)性的廣告內(nèi)容。
目前,尚不清楚 Twitter 采購了哪些具體硬件。然而,據(jù)報(bào)道,盡管 Twitter 一直存在財(cái)務(wù)問題,但據(jù)報(bào)道 Twitter 在這些計(jì)算 GPU 上花費(fèi)了數(shù)千萬美元,馬斯克將其描述為“不穩(wěn)定的財(cái)務(wù)狀況”。這些 GPU 預(yù)計(jì)將部署在 Twitter 剩余的兩個(gè)數(shù)據(jù)中心之一,亞特蘭大是最有可能的目的地。有趣的是,馬斯克在 12 月下旬關(guān)閉了 Twitter 在薩克拉門托的主要數(shù)據(jù)中心,這顯然降低了公司的計(jì)算能力。
除了為其生成式 AI 項(xiàng)目購買 GPU 硬件外,Twitter 還在招聘更多的工程師。今年早些時(shí)候,該公司從Alphabet 的子公司AI Research DeepMind招募了工程師 Igor Babuschkin 和 Manuel Kroiss。至少從 2 月開始,馬斯克一直在積極尋找 AI 行業(yè)的人才,以與 OpenAI 的 ChatGPT 競爭。
OpenAI使用Nvidia 的 A100 GPU 來訓(xùn)練其 ChatGPT 機(jī)器人,并繼續(xù)使用這些機(jī)器來運(yùn)行它。到目前為止,Nvidia 已經(jīng)推出了 A100 的后繼產(chǎn)品,其H100計(jì)算 GPU 在大約相同的功率下速度快了幾倍。
Twitter 可能會(huì)在其 AI 項(xiàng)目中使用 Nvidia 的 Hopper H100 或類似硬件,盡管我們?cè)诖诉M(jìn)行推測??紤]到該公司尚未確定其 AI 項(xiàng)目的用途,因此很難估計(jì)它可能需要多少個(gè) Hopper GPU。
通常Twitter 這樣的大公司購買硬件時(shí),他們會(huì)以特價(jià)購買,因?yàn)樗麄儾少徚藬?shù)千臺(tái)。與此同時(shí),如果單獨(dú)從 CDW 等零售商處購買,Nvidia 的 H100 主板單價(jià)可能超過 10,000 美元,由此可以看出該公司可能為其 AI 計(jì)劃在硬件上花費(fèi)了多少。
ChatGPT邁向商用,GPU需求上看3萬顆
ChatGPT近期掀起云端與AI產(chǎn)業(yè)話題,Microsoft、Google、百度等相繼推出基于生成式AI衍生的產(chǎn)品服務(wù),根據(jù)集邦(TrendForce)最新報(bào)告「從AIGC看云端AI應(yīng)用趨勢與挑戰(zhàn)」,未來邁向商用將上看3萬顆;在此熱潮下, GPU及AI芯片相關(guān)供應(yīng)鏈業(yè)者可望受惠。
不過,集邦指出,市場普及度和產(chǎn)品服務(wù)的功能優(yōu)化仍待考驗(yàn),且由于AI是以用戶體驗(yàn)為核心,涉及個(gè)資及內(nèi)容提供的正確性,因此下個(gè)發(fā)展階段或?qū)⑦€會(huì)面臨法規(guī)問題。
TrendForce表示,生成式AI是透過GAN、CLIP、Transformer、Diffusion等演算法、預(yù)訓(xùn)練模型、多模態(tài)等AI技術(shù)的整合,在既有數(shù)據(jù)或資料中尋找規(guī)律,并在資料匯整、社交互動(dòng)、文案產(chǎn)出等領(lǐng)域帶出高效的內(nèi)容產(chǎn)出,以及與用戶互動(dòng)體驗(yàn)。現(xiàn)行市面上已有不少生成式AI之應(yīng)用,較常見的產(chǎn)出類別包括文字、圖像、音樂、編碼等。
集邦表示,數(shù)據(jù)、算力、算法是深耕生成式AI不可或缺的三大關(guān)鍵,且產(chǎn)品服務(wù)易做但優(yōu)化困難,因此,握有相關(guān)資源的云端大廠在發(fā)展上將更具優(yōu)勢。就廠商角度而言,由于ChatGPT等生成式AI聊天機(jī)器人不僅能與用戶自然對(duì)話,「類理解需求」的能力使其針對(duì)各式咨詢能進(jìn)一步提供建議,加上使用搜尋引擎已相當(dāng)普遍,因此透過強(qiáng)化搜尋引擎已是各云端大廠的首要任務(wù)。
據(jù)TrendForce調(diào)查,目前全球搜尋引擎市場以超過9成的Google引擎為首,Microsoft Bing僅占3%,短期間不致造成威脅,但隨著用戶擴(kuò)大、數(shù)據(jù)回饋與模型優(yōu)化的循環(huán),是否會(huì)產(chǎn)生服務(wù)差異甚或搶占廣告商機(jī),也是Google不得不預(yù)防的潛在風(fēng)險(xiǎn)。
集邦表示,由于生成式AI必須投入巨量資料進(jìn)行訓(xùn)練,為縮短訓(xùn)練就得采用大量高效能GPU。以ChatGPT背后的GPT模型為例,其訓(xùn)練參數(shù)從2018年約1.2億個(gè)到2020年已暴增至近1,800億個(gè),估GPU需求量預(yù)估約2萬顆,未來邁向商用將上看3萬顆。
集邦表示,生成式AI發(fā)展將成為趨勢,將帶動(dòng)GPU需求顯著提升,連帶使相關(guān)供應(yīng)鏈?zhǔn)芑?,其中最大受益者是GPU芯片龍頭的英偉達(dá)(NVIDIA),旗下可達(dá)到5 PetaFLOPS運(yùn)算效能的DGX A100,幾乎是目前用于大規(guī)模資料分析、AI加速運(yùn)算的首選;此外,尚有推出MI100、MI200、MI300系列芯片的超微(AMD)。
審核編輯 :李倩
-
AI
+關(guān)注
關(guān)注
87文章
30897瀏覽量
269111 -
人工智能
+關(guān)注
關(guān)注
1791文章
47279瀏覽量
238513 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1561瀏覽量
7675
原文標(biāo)題:買10000個(gè)GPU,入局大模型
文章出處:【微信號(hào):AI_Architect,微信公眾號(hào):智能計(jì)算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論