電子發燒友網報道(文/李彎彎)最近,ChatGPT持續火爆,隨著微軟在其搜索引擎必應中使用ChatGPT,谷歌、百度、阿里等都在計劃推出類似ChatGPT的聊天機器人。谷歌母公司Alphabet Inc.于2月6日宣布推出聊天機器人“巴德(Bard)”;百度2月7日確認正在研發“文心一言”;阿里2月9日透露類ChatGPT的對話機器人正在研發。
而無論是ChatGPT,還是巴德(Bard)、文心一言、阿里的對話機器人,它們要運行,都需要大量的算力,數據中心、算力芯片業因此成為熱門。
對數據中心需求量大
ChatGPT背后有著巨額的算力成本,數據顯示,ChatGPT的總算力消耗約為3640PF-days(即每秒一千萬億次計算,運行3640個整日)。隨著更多ChatGPT同類產品出現,且在相關服務不斷升級和更新的情況下,未來數據中心的負擔會越來越重,對數據中心數量的需求也更大。
另外,數據中心在龐大的增量面前也透露出一個問題,便是網絡設備的巨額能耗。數據中心是耗能大戶。因此國家在去年11月1日在全國范圍內強制實施了《數據中心能效限定值和能效等級》,決定在2025年實現節能量超過2143億千瓦時。
近日工信部等七部門同樣發布了《信息通信行業綠色低碳發展計劃(2022-2025年)》,按照最新的國標要求到2025年,新建大型、超大型數據中心電能利用效率(PUE)降到1.3以下。
而在ChatGPT等AI技術發展的同時,降低能耗成了數據中心產業的趨勢。對于數據中心而言,能耗主要來自三個方面:決定交換機性能的交換芯片、承載網絡通信帶寬的光模塊、提高傳輸速率的SerDes。因此相關技術和芯片將會成為需求的重點。
事實上,在數據中心能耗問題方面,早在2020年,亞馬遜、微軟、谷歌等云計算巨頭,思科、IBM、英特爾、英偉達等網絡設備及芯片龍頭,就已在投入研發一項名為CPO的技術。CPO是通過將交換芯片和光模塊整合,形成芯片和模組的共封裝,可降低原來功耗的50%。
據LightCounting預測,按照端口數量統計,CPO的出貨量將從2023年的5萬件增加到2027年的450萬件,以800G和1.6T CPO為主。目前我國已有不少企業在進行相關技術研發,包括新易盛、銳捷網絡、聯特科技、光迅科技等。
帶動AI芯片需求增長
ChatGPT橫空出世,意味著一系列AI應用進入大規模的落地階段。業內人士認為,這將對AI芯片在訓練和推理等環節支撐大量數據高效處理提出新的挑戰,芯片算力、存儲容量、帶寬、軟件棧等多個維度上的技術要求將提高,并推動AI芯片市場增長。
首先是GPU,GPU可以支撐強大的算力需求。以ChatGPT為例,具體來看,從AI模型構建的角度:第一階段是用超大算力和數據構建預訓練模型;第二階段是在預訓練模型上進行針對性訓練。而GPU由于具備并行計算能力,可兼容訓練和推理,所以目前被廣泛應用。
ChatGPT訓練模型中就已導入至少1萬顆英偉達GPU,曾經風靡一時的AlphaGO也只需要8塊GPU。ChatGPT推理部分使用微軟的Azure云服務,也需要GPU進行運作。所以,ChatGPT的火熱興起對GPU的需求可見一斑。
在ChatGPT火熱的浪潮中,英偉達是主要受益者。英偉達是全球GPU和AI計算平臺的領軍者,其高端GPU占據了AI算法訓練市場絕大部分的份額,ChatGPT之前,AlphaGo、GPT-3等明星AI產品都在英偉達的硬件上運行。花旗集團預估,ChatGPT可能會在未來12個月內為英偉達帶來30億美元至110億美元的銷售額。
英偉達之外,Intel和AMD也占據全球GPU主要市場。國內市場,目前在人工智能用GPU領域有所布局,包括摩爾線程、壁仞科技、沐曦、天數智芯、燧原科技等,不過整體產品應用情況仍不及英偉達等國際廠商。
隨著AI應用進入大規模落地,可想而知除了GPU之外,其他AI訓練、推理芯片也有很大的市場空間,像百度、阿里自己研發類ChatGPT的對話機器人,其本身也有在做訓練芯片,另外還有寒武紀、鯤云科技、墨芯人工智能、瀚博半導體等廠商。
另外,從深度學習的角度來看,雖然GPU是最適合深度學習應用的芯片,但 CPU和FPGA也能發揮其重要性。本身ChatGPT的運行需要大量的服務器支撐,而其中少不了對CPU的需求。FPGA作為可編程芯片,可以針對特定功能進行擴展,在AI模型構建第二階段具有一定的發揮空間。FPGA與CPU結合,也可以共同用于深度學習模型,實現對大算力的需求。
小結
ChatGPT的爆火預示著人工智能的大規模落地應用成為可能,隨著微軟、谷歌、百度、阿里的入局,人工智能大模型的技術和應用也將更快向前推進。這必然造成對數據中心、服務器的大量需求,在“低碳”目標下,低能耗數據中心建設將會是未來發展重點。
同時,在ChatGPT等技術和應用的加速發展下,AI訓練芯片、推理芯片的市場需求也將大幅提升,相關企業需要做好準備。
發布評論請先 登錄
相關推薦
評論