在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大模型對算力需求指數(shù)級增長,集群成必然選擇

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2024-01-23 00:21 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近年來,AIGC技術(shù)的火爆,代表著AI正在從感知理解世界向生成創(chuàng)造世界躍遷。在近日舉辦的全球人工智能算力論壇上,寶德計(jì)算信創(chuàng)BU副總裁鄧克武談到,AIGC產(chǎn)業(yè)發(fā)展創(chuàng)新正在加速,預(yù)計(jì)到2030年市場規(guī)模會(huì)到達(dá)萬億。然而隨著AI技術(shù)的飛速發(fā)展,算力也成為了制約AI大模型應(yīng)用普及的關(guān)鍵因素。

大模型重塑產(chǎn)業(yè)格局

在鄧克武看來,AIGC產(chǎn)業(yè)發(fā)展預(yù)計(jì)將會(huì)經(jīng)歷三個(gè)階段。第一個(gè)階段是2023年到2025年,屬于培育摸索期,該階段主要以遵循指令性加工和拼接式為主,例如,播報(bào)類(語音合成的電子書)、數(shù)字人(支持多種類型任務(wù)的數(shù)字人)、營銷推廣等。

第二個(gè)階段是2025年到2027年,這個(gè)時(shí)期會(huì)是AIGC的應(yīng)用蓬勃期,該階段主要以人機(jī)聯(lián)合共創(chuàng)的模式為主,例如,各種類型的生成任務(wù),以AI生成為基礎(chǔ)進(jìn)行迭代;行業(yè)生態(tài)完善,底層大模型對外開發(fā)。

第三階段是2028年以后,這個(gè)時(shí)期為AIGC增長期,到這個(gè)時(shí)候,產(chǎn)業(yè)鏈逐漸完善,商業(yè)化場景持續(xù)拓展拓深,深入變革各行業(yè),預(yù)計(jì)2030年市場規(guī)模超萬億。

鄧克武認(rèn)為,大模型將重構(gòu)人工智能生產(chǎn)范式。他還提到“人工智能行業(yè)的二八定律”,即進(jìn)入大模型時(shí)代,未來軟件80% 的價(jià)值將由AI大模型提供,剩余20% 會(huì)由提示工程和傳統(tǒng)業(yè)務(wù)開發(fā)組成。

同時(shí),他認(rèn)為,MaaS將重構(gòu)商業(yè)化生態(tài),大模型“訓(xùn)練基礎(chǔ)設(shè)施-底層技術(shù)-基礎(chǔ)應(yīng)用-垂直應(yīng)用”發(fā)展路線逐漸清晰。MaaS,即Model as a Service,模型即服務(wù),能夠降低AI應(yīng)用開發(fā)門檻,重構(gòu)AI產(chǎn)業(yè)的商業(yè)化結(jié)構(gòu)生態(tài),激發(fā)新的產(chǎn)業(yè)鏈分工和商業(yè)模式不斷涌現(xiàn)。MaaS將可能成為未來大模型的主流商業(yè)模式。

wKgaomWuQcWAK2UiAAOkfzX9rA0549.jpg

隨著大模型的發(fā)展,其應(yīng)用也會(huì)逐步拓展,從初期To C現(xiàn)象級應(yīng)用向通用To B應(yīng)用,再向場景化To B應(yīng)用發(fā)展。當(dāng)然,這個(gè)過程也面臨不同的挑戰(zhàn),To C應(yīng)用的挑戰(zhàn)在于用戶商業(yè)付費(fèi)挑戰(zhàn)大:使用門檻較低,用戶量大且接受度高,落地及成長速度快,但客戶付費(fèi)意愿偏低,商業(yè)閉環(huán)挑戰(zhàn)大。To B應(yīng)用的挑戰(zhàn)在于和行業(yè)數(shù)據(jù)&應(yīng)用的深度融合:行業(yè)數(shù)據(jù)積累、模型調(diào)測和行業(yè)應(yīng)用集成均需要時(shí)間,但客戶付費(fèi)能力強(qiáng),未來增長及盈利空間廣闊。

wKgZomWuQc2AR164AANGfIPU7Rc847.jpg

算力集群化發(fā)展是必然趨勢

目前,國內(nèi)已有超100+企業(yè)在戰(zhàn)略布局大模型機(jī)會(huì)。對于企業(yè)來說,需要準(zhǔn)備迎接產(chǎn)業(yè)變革,構(gòu)筑新的競爭優(yōu)勢。如何做呢?其一,對內(nèi)提升自身業(yè)務(wù)效率與感知,即與自身行業(yè)、業(yè)務(wù)特點(diǎn)和需求等深度結(jié)合;其二,面向中小企業(yè)提供AI模型服務(wù),通過API/三方插件吸引更多應(yīng)用及數(shù)據(jù),通過提供模型開發(fā)服務(wù),深度切入行業(yè),掌握行業(yè)經(jīng)驗(yàn)和數(shù)據(jù);其三,面向AI創(chuàng)業(yè)者/企業(yè)提供算力服務(wù),滿足企業(yè)AI算力需求,構(gòu)筑數(shù)字基礎(chǔ)設(shè)施格局。

算力方面,大算力集群是業(yè)界廠家AI模型開發(fā)的共同選擇,如騰訊數(shù)萬卡規(guī)模的星星海AI集群,阿里巴巴12EFLOPS的靈駿AI集群,百度4EFLOPS 百舸AI集群,商湯3.7EFLOPS AIDC集群,華為數(shù)萬卡規(guī)模昇騰AI集群等。

在鄧克武看來,大模型對算力的需求將指數(shù)級增長,AI算力將從單機(jī)走向集群時(shí)代。據(jù)鄧克武介紹,大模型算力需求每兩年以750倍增長,而硬件算力供給每兩年僅增長3倍。比如,從ResNet-50(2500萬參數(shù)),到GPT-1(1.7億參數(shù)),再到GPT-4(萬億級參數(shù)),計(jì)算需求需要十倍,到千倍的增長,存儲(chǔ)需求經(jīng)歷百倍,到千倍的增長。AI算力和數(shù)據(jù)中心集群發(fā)展,可以加速產(chǎn)業(yè)創(chuàng)新。

wKgaomWuQdeAEc6VAAMNjqXMsYk852.jpg

寶德計(jì)算作為中國領(lǐng)先的計(jì)算產(chǎn)品方案提供商,構(gòu)建了自強(qiáng)昇騰高密算力平臺(tái),以支撐大模型系統(tǒng)工程建設(shè)。在上述論壇上,鄧克武詳細(xì)介紹了公司的兩款服務(wù)器:PR420KI G2訓(xùn)練服務(wù)器和PR410EI 訓(xùn)練服務(wù)器。

PR420KI G2訓(xùn)練服務(wù)器CPU采用了4顆鯤鵬920處理器,NPU采用了8顆昇騰910,節(jié)點(diǎn)內(nèi)互聯(lián)采用HCCS Full mesh互聯(lián)高速網(wǎng)絡(luò);PR410EI 訓(xùn)練服務(wù)器CPU采用2顆第四代Intel至強(qiáng)可拓展處理器Sapphire Rapids,NPU采用8顆昇騰910,節(jié)點(diǎn)內(nèi)互聯(lián)采用HCCS Full mesh互聯(lián)高速網(wǎng)絡(luò)。

同時(shí),他還介紹了公司的Pod集群組網(wǎng),以256臺(tái)訓(xùn)練服務(wù)器為例,共計(jì)2048顆Ascned910芯片。分成16組,每組16臺(tái)服務(wù)器,里面放置一個(gè)完整的模型,每組之間采用數(shù)據(jù)并行;每組16臺(tái)服務(wù)器,采用模型并行,每臺(tái)服務(wù)器放1/16的模型。

wKgZomWuQeGAHZa7AANDrZbF8yY786.jpg

據(jù)鄧克武介紹,寶德面向多種大模型部署方式,還構(gòu)建了差異化解決方案。此外,公司聯(lián)合生態(tài)伙伴不斷深化合作,成功實(shí)踐了100多個(gè)AI項(xiàng)目,涵蓋了電力、安平、教育、金融、互聯(lián)網(wǎng)、智慧城市等行業(yè),寶德將繼續(xù)探索更多行業(yè)和細(xì)分領(lǐng)域智能化實(shí)踐,共同加速AI行業(yè)智能化升級和落地。

寫在最后

經(jīng)過一年多時(shí)間的發(fā)展,大模型商業(yè)化應(yīng)用已經(jīng)成為業(yè)界探索的焦點(diǎn),并且已經(jīng)進(jìn)展明顯。與此同時(shí),隨著大模型訓(xùn)練和部署的持續(xù)加速,這對算力的需求也會(huì)大幅增長。為了滿足大模型訓(xùn)練和部署需求,集群成為廠家模型開發(fā)的共同選擇。而能夠?yàn)楦鞣N大模型部署提供算力支持的企業(yè)也必然會(huì)乘風(fēng)而起。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31077

    瀏覽量

    269411
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    990

    瀏覽量

    14860
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    363

    瀏覽量

    1558
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2479

    瀏覽量

    2844
收藏 人收藏

    評論

    相關(guān)推薦

    國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)隨著人工智能技術(shù)的快速發(fā)展,對于計(jì)算能力的需求日益增長。特別是在大模型訓(xùn)練方面,對
    的頭像 發(fā)表于 06-11 07:50 ?3325次閱讀
    國產(chǎn)千卡GPU<b class='flag-5'>集群</b>完成大<b class='flag-5'>模型</b>訓(xùn)練測試,極具高兼容性和穩(wěn)定性

    國產(chǎn)智集群黑馬!曦源一號SADA集群綜合評測表現(xiàn)優(yōu)異

    近日,加佳科技曦源一號SADA集群項(xiàng)目一期順利通過工信部中國軟件評測中心權(quán)威評測認(rèn)證。本次測試涵蓋了項(xiàng)目一期已上線的1024張沐曦高性能GPU加速卡集群。評測結(jié)果顯示,該
    的頭像 發(fā)表于 12-25 11:16 ?271次閱讀
    國產(chǎn)智<b class='flag-5'>算</b><b class='flag-5'>集群</b>黑馬!曦源一號SADA<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>綜合評測表現(xiàn)優(yōu)異

    未來智中心:從單數(shù)據(jù)中心到多數(shù)據(jù)中心AI訓(xùn)練集群的演變趨勢

    ? 去年以來,以ChatGPT為代表的大模型迅速紅遍全球,展現(xiàn)出變革經(jīng)濟(jì)社會(huì)的巨大潛能。全球主流科技公司紛紛參與其中,推動(dòng)智能需求高速增長
    的頭像 發(fā)表于 11-13 10:05 ?505次閱讀
    未來智<b class='flag-5'>算</b>中心:從單數(shù)據(jù)中心到多數(shù)據(jù)中心AI訓(xùn)練<b class='flag-5'>集群</b>的演變趨勢

    【「大模型時(shí)代的基礎(chǔ)架構(gòu)」閱讀體驗(yàn)】+ 未知領(lǐng)域的感受

    算法的引擎GPU、GPU硬件架構(gòu)剖析、GPU服務(wù)器的設(shè)計(jì)與實(shí)現(xiàn)、GPU集群的網(wǎng)絡(luò)設(shè)計(jì)與實(shí)現(xiàn)、GPU板卡調(diào)度技術(shù)、基于云平臺(tái)的GPU集群
    發(fā)表于 10-08 10:40

    模型時(shí)代的需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭相部署大模型,但如何保證大模型,以及相關(guān)的穩(wěn)定性和性能,是一個(gè)極為重要的問題,帶著這個(gè)極為重要的問
    發(fā)表于 08-20 09:04

    名單公布!【書籍評測活動(dòng)NO.41】大模型時(shí)代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    工作日內(nèi)未聯(lián)系,視為放棄本次試用評測資格! 書籍介紹 大模型是近年來引人注目的熱點(diǎn)之一。大模型蓬勃發(fā)展的基礎(chǔ),是針對其需求設(shè)計(jì)的及基礎(chǔ)架
    發(fā)表于 08-16 18:33

    服務(wù)器為什么選擇GPU

    隨著人工智能技術(shù)的快速普及,需求日益增長。智中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器
    的頭像 發(fā)表于 07-25 08:28 ?671次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)器為什么<b class='flag-5'>選擇</b>GPU

    從千卡集群卡到萬卡集群,燧原科技打造更好的AI底座

    電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)是新質(zhì)生產(chǎn)的代表,隨著以ChatGPT為代表的Transformer架構(gòu)大模型的參數(shù)規(guī)模越來越大,對計(jì)算資源的
    的頭像 發(fā)表于 07-07 09:45 ?2361次閱讀
    從千卡<b class='flag-5'>集群</b>卡到萬卡<b class='flag-5'>集群</b>,燧原科技打造更好的AI<b class='flag-5'>算</b><b class='flag-5'>力</b>底座

    萬卡集群解決大模型訓(xùn)需求,建設(shè)面臨哪些挑戰(zhàn)

    解決大模型訓(xùn)練對需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量從百億
    的頭像 發(fā)表于 06-02 06:18 ?4773次閱讀
    萬卡<b class='flag-5'>集群</b>解決大<b class='flag-5'>模型</b>訓(xùn)<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>,建設(shè)面臨哪些挑戰(zhàn)

    摩爾線程張建中:以國產(chǎn)助力數(shù)智世界,滿足大模型需求

    摩爾線程創(chuàng)始人兼CEO張建中在會(huì)上透露,為了滿足國內(nèi)對AI的迫切需求,他們正在積極尋求與國內(nèi)頂尖科研機(jī)構(gòu)的深度合作,共同推動(dòng)更大規(guī)模的AI智
    的頭像 發(fā)表于 05-10 16:36 ?977次閱讀

    北京:規(guī)劃建設(shè)支撐萬億參數(shù)大模型訓(xùn)練需求的超大規(guī)模智集群

    ”局面,集中建設(shè)一批智單一大集群,到2025年,本市智供給規(guī)模達(dá)到45EFLOPS,2025-2027年根據(jù)人工智能大模型發(fā)展需要和國家相關(guān)部署進(jìn)一步優(yōu)化
    的頭像 發(fā)表于 04-29 08:26 ?335次閱讀
    北京:規(guī)劃建設(shè)支撐萬億<b class='flag-5'>級</b>參數(shù)大<b class='flag-5'>模型</b>訓(xùn)練<b class='flag-5'>需求</b>的超大規(guī)模智<b class='flag-5'>算</b><b class='flag-5'>集群</b>

    液冷是大模型需求必然選擇?|英偉達(dá) GTC 2024六大亮點(diǎn)

    在這個(gè)以高性能計(jì)算和大模型推動(dòng)未來通用人工智能時(shí)代,已成為科技發(fā)展的隱形支柱。本文將重點(diǎn)探討的演進(jìn),深入分析在不同領(lǐng)域中
    的頭像 發(fā)表于 04-10 12:57 ?620次閱讀
    液冷是大<b class='flag-5'>模型</b>對<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>的<b class='flag-5'>必然選擇</b>?|英偉達(dá) GTC 2024六大亮點(diǎn)

    英偉達(dá)GB200芯片引領(lǐng)銅纜高速連接熱潮!

    人工智能時(shí)代到來,AI大模型批量商業(yè)化落地,帶動(dòng)需求指數(shù)
    的頭像 發(fā)表于 04-02 11:45 ?1636次閱讀

    中國電信規(guī)劃在上海建設(shè)首個(gè)國產(chǎn)超大規(guī)模液冷集群

    中國電信規(guī)劃建設(shè)首個(gè)國產(chǎn)超大規(guī)模液冷集群 人工智能技術(shù)的快速發(fā)展催生了巨大的需求;中國電
    的頭像 發(fā)表于 02-22 18:48 ?1342次閱讀

    智能規(guī)模超通用,大模型對智能提出高要求

    的縮寫,即每秒所能夠進(jìn)行的浮點(diǎn)運(yùn)算數(shù)目(每秒浮點(diǎn)運(yùn)算量)。 ? 可以分為通用、智能
    的頭像 發(fā)表于 02-06 00:08 ?6405次閱讀
    主站蜘蛛池模板: 午夜看片网站| 日夜操在线视频| 成年人啪啪网站| 色综合色综合色综合色综合网| 一级看片| 播放一级毛片| 久久综合精品视频| 日本www高清| 久久夜色tv网站免费影院| 欧美特黄一区二区三区| 欧美色成人综合| 黄色毛片免费网站| 亚洲 欧美 校园| 国产性夜夜春夜夜爽| kkk4444免费观看| 不卡视频一区二区三区| www爽| 午夜肉伦伦影院在线观看| 国产成人精品高清免费| 在线视频亚洲一区| 182.t v香蕉人人网站| 视色4setv.com| 2021久久精品99精品久久| 国产手机视频在线| 欧美肥妇性| 国产精品一级香蕉一区| 色色色色网站| 老司机成人精品视频lsj| a理论片| 亚洲午夜影视| 手机成人在线视频| 美女一级牲交毛片视频| 天天操天天干天天射| tube性欧美另类| 六月综合激情| 在线播放你懂| 亚洲aaaa级特黄毛片| 特黄一级真人毛片| 激情网网站| 69成人免费视频| 天天做天天爱天天综合网2021|