新冠肺炎疫情對(duì)人們的工作、消費(fèi)方式均產(chǎn)生巨大影響,但同時(shí)提振在線教育、遠(yuǎn)程辦公、遠(yuǎn)程政務(wù)、在線游戲、生鮮采購(gòu)等一系列需求。
未來(lái)將有更多行業(yè)向云上遷移,加速各行業(yè)線上化、云化過(guò)程,帶動(dòng)服務(wù)器市場(chǎng)增長(zhǎng)。受下游需求變化影響,服務(wù)器市場(chǎng)正在發(fā)生的結(jié)構(gòu)性變化不容忽視,例如產(chǎn)品高端化、AI化成為確定性的趨勢(shì)。
AI服務(wù)器成為服務(wù)器廠商競(jìng)爭(zhēng)焦點(diǎn)
回顧2019年服務(wù)器市場(chǎng),全球范圍內(nèi)表現(xiàn)欠佳。不過(guò),AI的興起給整個(gè)行業(yè)帶來(lái)了生命力,AI服務(wù)器將成為服務(wù)器廠商未來(lái)的競(jìng)爭(zhēng)點(diǎn)。對(duì)算力的渴求+海量數(shù)據(jù)爆發(fā)成為當(dāng)前AI服務(wù)器崛起的主要驅(qū)動(dòng)因素。一方面,大多數(shù) AI 算法需要大量的數(shù)據(jù)和算力來(lái)完成任務(wù),依靠云服務(wù)來(lái)執(zhí)行計(jì)算;另一方面,在提供智能云體驗(yàn)上,由 AI 驅(qū)動(dòng)的解決方案將決定企業(yè)能否在 AI 時(shí)代快速占領(lǐng)制高點(diǎn)。
目前,在中國(guó)的AI服務(wù)器市場(chǎng),浪潮的市場(chǎng)占有率最大,占據(jù)約50.2%的市場(chǎng)份額,華為位居第二,約占15.7%,曙光以7.8%位居第三(數(shù)據(jù)來(lái)源于IDC 2019H1 PRC AI Infrastructure Tracker)。包括浪潮、華為、曙光、新華三、戴爾等在內(nèi)的主流OEM、ODM廠商均有不止一款的AI服務(wù)器。
浪潮目前推出的AI服務(wù)器主要包括AGX-5、AGX-2、NF5488M5、NF5468M5、NF5280M5以及NF5280M5-V。其中,AGX-5單機(jī)可以配置16顆NVIDIA Tesla V100 Tensor Core 32GB GPUs,擁有10240個(gè)張量計(jì)算核心,計(jì)算性能達(dá)每秒2千萬(wàn)億次。去年,浪潮還推出了浪潮元腦一體化解決方案。既包括了AI計(jì)算能力,也包括了AI PaaS平臺(tái),同時(shí)包括了浪潮面向人工智能所推出的AutoML Suite套件。
華為自2018年10月發(fā)布AI戰(zhàn)略以來(lái),于去年8月發(fā)布其算力最強(qiáng)的AI處理器昇騰910和全場(chǎng)景AI計(jì)算框架MindSpore,完成全棧全場(chǎng)景AI解決方案的構(gòu)建。在典型的ResNet50 網(wǎng)絡(luò)的訓(xùn)練中,昇騰910與MindSpore配合,與現(xiàn)有主流訓(xùn)練單卡配合TensorFlow相比,顯示出接近2倍的性能提升。
AI服務(wù)器的競(jìng)爭(zhēng),已經(jīng)不只是簡(jiǎn)單的產(chǎn)品升級(jí)迭代,而是上升到了整體的布局,是包括芯片、云、數(shù)據(jù)處理能力、框架、算法開(kāi)發(fā)基礎(chǔ)、部署環(huán)境等在內(nèi)的整體能力。
隨著數(shù)據(jù)的爆炸增長(zhǎng)與深度神經(jīng)網(wǎng)絡(luò)日趨復(fù)雜,單機(jī)或小型服務(wù)器已經(jīng)無(wú)法滿足算力需求,未來(lái)將有大量的人工智能應(yīng)用和服務(wù)被放在云端。AI算力需求逐步邁入高峰期,更高性能的AI服務(wù)器將在線下場(chǎng)景落地。
互聯(lián)網(wǎng)仍是AI服務(wù)器主戰(zhàn)場(chǎng)
雖然AI落地被認(rèn)為是“架起梯子遠(yuǎn)遠(yuǎn)夠不到月亮”階段,但在某些細(xì)分領(lǐng)域已經(jīng)開(kāi)始從“AI產(chǎn)業(yè)化”向“產(chǎn)業(yè)AI化”的逐步轉(zhuǎn)變。勇于嘗試新技術(shù)的互聯(lián)網(wǎng)公司仍是AI服務(wù)器的主戰(zhàn)場(chǎng)。新型冠狀病毒疫情爆發(fā)后,阿里巴巴、騰訊、百度等公司,通過(guò)開(kāi)放核心算法和計(jì)算能力的方式,與醫(yī)學(xué)研究機(jī)構(gòu)共同抗擊疫情,AI算力對(duì)于與疫情賽跑的分分秒秒中都起到了關(guān)鍵作用,助力病毒基因測(cè)序、疫苗及藥物研發(fā)、蛋白篩選等藥物研發(fā)攻關(guān)。
受疫情影響,在線辦公、教育、娛樂(lè)等應(yīng)用需求加速增長(zhǎng),互聯(lián)網(wǎng)巨頭和細(xì)分領(lǐng)域頭部企業(yè),開(kāi)始對(duì)服務(wù)器進(jìn)行擴(kuò)容,數(shù)據(jù)中心和服務(wù)器市場(chǎng)有望迎來(lái)擴(kuò)容機(jī)遇。
企業(yè) | 服務(wù)器擴(kuò)容情況 |
阿里巴巴 | 2月3日擴(kuò)容1萬(wàn)臺(tái),2月4日擴(kuò)容1萬(wàn)臺(tái) |
騰訊 | 1月29日至2月6日,8天總擴(kuò)容超過(guò)10萬(wàn)臺(tái)云服務(wù)器 |
金山辦公 | 1月25日前后,WPS表單服務(wù)器擴(kuò)容5倍;2月3日后,金山文檔遠(yuǎn)程會(huì)議服務(wù)器擴(kuò)了3倍,金山文檔在線office擴(kuò)了1倍。 |
叮當(dāng)快藥 | 2月12日后,服務(wù)器擴(kuò)容30倍 |
<電子發(fā)燒友>整理于2020.2.18 |
根據(jù)IDC《2019-2020中國(guó)AI計(jì)算力發(fā)展評(píng)估報(bào)告》顯示,互聯(lián)網(wǎng)是投資AI算力最多的行業(yè),占據(jù)了中國(guó)62.4%的人工智能算力投資市場(chǎng)份額。而算力這一AI基礎(chǔ)設(shè)施,主要由AI芯片和AI服務(wù)器玩家提供,這一市場(chǎng)正在高速增長(zhǎng)。
不過(guò),在互聯(lián)網(wǎng)行業(yè)之外,傳統(tǒng)行業(yè)和AI的結(jié)合也越來(lái)越緊密,其中服務(wù)行業(yè)正在加大對(duì)AI技術(shù)的投入,政府、教育、金融等傳統(tǒng)行業(yè)也進(jìn)一步加深與AI應(yīng)用的融合。
AI服務(wù)器需要多樣性算力
以AI帶來(lái)的多種數(shù)據(jù)類(lèi)型和場(chǎng)景為代表,驅(qū)使計(jì)算架構(gòu)優(yōu)化、多種計(jì)算架構(gòu)并存,已經(jīng)成為實(shí)現(xiàn)最優(yōu)性能計(jì)算的必然選擇。AI爆發(fā)前,算力主要來(lái)源于x86服務(wù)器。而隨著單顆CPU性能提升遭遇瓶頸,傳統(tǒng)服務(wù)器難以滿足并行算力需求,以GPU為主的AI服務(wù)器開(kāi)始了高速增長(zhǎng)。擅長(zhǎng)多線程并行的GPU在處理海量數(shù)據(jù)上有著先天優(yōu)勢(shì),通過(guò)CPU+GPU異構(gòu)組成的AI服務(wù)器成為當(dāng)下主流,是服務(wù)器廠商紛紛發(fā)力的產(chǎn)品。
根據(jù)IDC對(duì)中國(guó)GPU服務(wù)器出貨量的預(yù)測(cè),2018-2023年,整體市場(chǎng)年復(fù)合增長(zhǎng)率(CAGR)為27.1%,到2023年市場(chǎng)規(guī)模將達(dá)到43.2億美金(約合人民幣298億元)。
在剛剛過(guò)去的2019年,由于互聯(lián)網(wǎng)行業(yè)采購(gòu)的縮減以及中美貿(mào)易戰(zhàn)的不斷升級(jí),給中國(guó)GPU服務(wù)器市場(chǎng)帶來(lái)了一定程度上的影響,使其市場(chǎng)增速稍有放緩,但依然高于中國(guó)x86服務(wù)器市場(chǎng)。
從產(chǎn)品角度看,8卡GPU服務(wù)器和英偉達(dá)的V100加速卡成為去年上半年的采購(gòu)熱點(diǎn),均占據(jù)30%以上的份額。
值得一提的是,在GPU稱(chēng)霸的AI服務(wù)器領(lǐng)域,FPGA正以“加速”之形象變得深入人心。微軟是全球首個(gè)真正意義上在云數(shù)據(jù)中心中大規(guī)模成功部署FPGA的公司,他們牢牢抓住FPGA靈活性這一最重要的特點(diǎn),通過(guò)使用FPGA,一方面可以盡早開(kāi)展定制化計(jì)算與定制芯片的研究與設(shè)計(jì),另一方面,可以保持與現(xiàn)有架構(gòu)相互兼容的同構(gòu)性。目前,包括浪潮、華為、戴爾、百度等均已宣布在其服務(wù)器中部署FPGA加速卡。
在異構(gòu)方式上,除了CPU+GPU、CPU+FPGA,還有CPU+TPU、CPU+ASIC或CPU+多種加速卡等形式,隨著場(chǎng)景應(yīng)用的逐漸豐富,AI服務(wù)器架構(gòu)應(yīng)了一句話“合適的才是最好的”,步入多樣化的算力需求時(shí)代。
算力缺口持續(xù)放大,巨頭、創(chuàng)企混戰(zhàn)
在筆者早先與雪湖科技聯(lián)合創(chuàng)始人兼COO王韻的交流中,他對(duì)于AI三要素:算法、算力、數(shù)據(jù),有個(gè)形象的比喻:算法是菜譜,算力是鍋,數(shù)據(jù)是食材。在AI發(fā)展初期,為什么算法公司占據(jù)明顯優(yōu)勢(shì)?因?yàn)橐龀鲆坏来蟛?,必須有好的菜譜。但是,當(dāng)大家慢慢掌握了燒菜方法后,菜譜就變得不像最初那么重要了,反而是,一口好鍋和好的食材非常關(guān)鍵。這就是AI正在經(jīng)歷的從算法霸權(quán),向算力霸權(quán)和數(shù)據(jù)霸權(quán)的演進(jìn)。隨著AI、5G、無(wú)人駕駛等確定性趨勢(shì)技術(shù)的發(fā)展,算力缺口仍在不斷放大。我們所處的世界,計(jì)算的邊界也在不斷延伸,從數(shù)據(jù)中心到邊緣再到終端,智能計(jì)算將無(wú)所不及。AI終將成為一種基礎(chǔ)能力,連接芯片提供商、應(yīng)用提供商、服務(wù)提供商和算法提供商。算力也將作為一切人工智能產(chǎn)業(yè)發(fā)展的核心,從早期的集中在訓(xùn)練場(chǎng)景,發(fā)展到在推理場(chǎng)景的大規(guī)模應(yīng)用階段。
對(duì)于服務(wù)器市場(chǎng)正在發(fā)生的變化,巨頭們?cè)缫验_(kāi)始了改變。
英特爾不斷提升其數(shù)據(jù)中心的異構(gòu)計(jì)算的能力,并在跨多架構(gòu)的開(kāi)發(fā)過(guò)程中進(jìn)行統(tǒng)一和簡(jiǎn)化。剛剛斥資約20億美元收購(gòu)的以色列人工智能公司Habana Labs,有助于提振英特爾面向數(shù)據(jù)中心的AI服務(wù)。Habana Labs的AI訓(xùn)練處理器Gaudi,與使用同等數(shù)量GPU構(gòu)建的系統(tǒng)相比,基于Gaudi的大節(jié)點(diǎn)訓(xùn)練系統(tǒng)的吞吐量預(yù)計(jì)將增加4倍。Gaudi訓(xùn)練產(chǎn)品和Goya推理產(chǎn)品能夠提供豐富的、易于編程的開(kāi)發(fā)環(huán)境,幫助客戶部署差異化解決方案。
英偉達(dá)顯然也沒(méi)有掉以輕心,雖然在其剛剛宣布的2020財(cái)年第四季度及全年的財(cái)務(wù)報(bào)告中顯示,數(shù)據(jù)中心收入達(dá)到創(chuàng)紀(jì)錄的29.8億美元,比上年增長(zhǎng)2%。對(duì)于未來(lái),英偉達(dá)方面表示,“我們看到了一個(gè)新的計(jì)算時(shí)代的開(kāi)始。固定功能加速器根本不是正確的答案。我們認(rèn)為未來(lái)需要加速的計(jì)算平臺(tái),并且軟件豐富性至關(guān)重要,數(shù)據(jù)中心可以由軟件定義。”
國(guó)內(nèi)創(chuàng)企也在崛起的AI服務(wù)器市場(chǎng)中激流勇進(jìn)。不過(guò),由于云端訓(xùn)練芯片的研發(fā)投入大、流片風(fēng)險(xiǎn)高,僅有為數(shù)不多的公司能夠進(jìn)入該領(lǐng)域。目前主要有海思、阿里、依圖、寒武紀(jì)、燧原等。
應(yīng)對(duì)未來(lái)數(shù)據(jù)量的爆炸性增長(zhǎng),硬件本身的能力有一定的局限性,軟硬協(xié)同的平臺(tái)組合,才能做到前端承接多源數(shù)據(jù)、后端支撐智能應(yīng)用。算力、算法和數(shù)據(jù)的協(xié)同也至關(guān)重要,算力和算法的提升,數(shù)據(jù)的開(kāi)放和共享,將共同推動(dòng)AI向產(chǎn)品乃至行業(yè)智能化的普及。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9160瀏覽量
85421 -
算力
+關(guān)注
關(guān)注
1文章
977瀏覽量
14820
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
企業(yè)AI算力租賃是什么
企業(yè)AI算力租賃是指企業(yè)通過(guò)互聯(lián)網(wǎng)向?qū)I(yè)的算力提供商租用所需的計(jì)算資源,以滿足其AI應(yīng)用的
算力再躍升!億萬(wàn)克發(fā)布新一代AI服務(wù)器——G882N7+!
的特質(zhì),但算力告急。想要打破數(shù)智時(shí)代的算力瓶頸,異構(gòu)智算成為有效方案。 近期,億萬(wàn)克面向激增的AI
什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢(shì)是什么?
AI服務(wù)器是一種專(zhuān)門(mén)為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來(lái)滿足高吞吐量互聯(lián)的
大模型時(shí)代的算力需求
現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型的算力,以及相關(guān)的穩(wěn)定性和性能,是一個(gè)極為重要的問(wèn)題,帶著這個(gè)極為重要的問(wèn)題,我需要在此書(shū)中找到答案。
發(fā)表于 08-20 09:04
算力服務(wù)器為什么選擇GPU
隨著人工智能技術(shù)的快速普及,算力需求日益增長(zhǎng)。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU
AI高算力服務(wù)器散熱,需要用到哪些導(dǎo)熱界面材料?
在數(shù)字經(jīng)濟(jì)、AI大模型等發(fā)展的帶動(dòng)下,全球服務(wù)器的市場(chǎng)需求急劇提升,利用其強(qiáng)大的計(jì)算能力,能夠處理復(fù)雜的算法和海量數(shù)據(jù)。與此同時(shí),生成式人工智能的大算
華為云新一代柔性算力服務(wù)器,加速企業(yè)輕松上云數(shù)智化轉(zhuǎn)型
在數(shù)字化浪潮的推動(dòng)下,云計(jì)算已經(jīng)成為企業(yè)發(fā)展的必由之路。然而,面對(duì)各行各業(yè)不斷變化的業(yè)務(wù)需求,傳統(tǒng)云服務(wù)器的固定規(guī)格往往難以滿足。華為云在不斷創(chuàng)新之中,推出了下一代柔性算
引領(lǐng)柔性算力新風(fēng)潮,加速企業(yè)數(shù)智轉(zhuǎn)型首選服務(wù)器就是它
規(guī)格,難以滿足不同業(yè)務(wù)場(chǎng)景的多樣化需求,用戶常常面臨著資源浪費(fèi)和性能瓶頸的困擾。為解決這一難題,華為云推出了顛覆行業(yè)的華為云耀云服務(wù)器 X 實(shí)例(以下簡(jiǎn)稱(chēng):云耀 X 實(shí)例),以創(chuàng)新的柔性算
智能算力存在缺口,AI服務(wù)器市場(chǎng)規(guī)模持續(xù)提升
商的資本支出將大幅增加。全球前四大云服務(wù)商資本支出調(diào)升,預(yù)計(jì)將從2023年的1400億美元提升至2024年的超過(guò)2000億美元。 ? AI 服務(wù)器市場(chǎng)規(guī)模持續(xù)增長(zhǎng) ? 近些年,人工智能技術(shù)在各個(gè)領(lǐng)域廣泛應(yīng)用,包括智能制造、智慧醫(yī)
聯(lián)想首臺(tái)搭載國(guó)產(chǎn)AI算力芯片服務(wù)器成功交付
在聯(lián)想(全球)最大的智能計(jì)算設(shè)備研發(fā)和制造基地——聯(lián)寶科技,一場(chǎng)科技界的盛事吸引了業(yè)界的廣泛關(guān)注。這一天,中國(guó)領(lǐng)先的智能IT基礎(chǔ)設(shè)施提供商聯(lián)想成功交付了首臺(tái)可搭載國(guó)產(chǎn)AI算
【算能RADXA微服務(wù)器試用體驗(yàn)】Radxa Fogwise 1684X Mini 規(guī)格
通過(guò)網(wǎng)絡(luò)可以了解到,算能RADXA微服務(wù)器的具體規(guī)格:
處理器:BM1684X
算力:高達(dá)32Tops INT8峰值
發(fā)表于 02-28 11:21
AI算力應(yīng)用中的光模塊產(chǎn)品
以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長(zhǎng),服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一
認(rèn)識(shí)一下AI算力應(yīng)用中的光模塊產(chǎn)品
以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長(zhǎng),服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一
評(píng)論