在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

從訓(xùn)練到推理,AI 大模型發(fā)展有哪五大趨勢?IDC專家解讀

章鷹觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:章鷹 ? 2024-04-22 07:57 ? 次閱讀
電子發(fā)燒友原創(chuàng) 章鷹

2024年兩會召開后,兩會報告把加快發(fā)展新質(zhì)生產(chǎn)力列為十大任務(wù)舉措之首。新質(zhì)生產(chǎn)力的核心是用新技術(shù)促進(jìn)產(chǎn)業(yè)高端化、智能化和綠色化。ICT產(chǎn)業(yè)是發(fā)展新質(zhì)生產(chǎn)力的核心支撐要求,ICT產(chǎn)業(yè)正在進(jìn)入AI無處不在的大轉(zhuǎn)型階段。

縱觀全球,2024年中國GDP增長預(yù)期5%,全球平均增長率達(dá)到2.6%,美國預(yù)期增長2%,印度最為樂觀預(yù)期今年的GDP增長達(dá)到6.2%。從科教興國的戰(zhàn)略看,新質(zhì)生產(chǎn)力主要涉及的是數(shù)字中國的底層基礎(chǔ)技術(shù),AI 無處不在,從2022年,ChateGPT3.5發(fā)布以來,全球掀起了生成式AI 的熱潮。到了2024年,大家都在考慮生成式AI到底給企業(yè)帶來了哪些價值。

IDC最新的調(diào)研顯示,28%的受訪者表示在過去投資了生成是AI不到一年時間就看到了投資回報,每投資1美元,平均可以獲得3.5倍的投資回報,投資回報率最高的用例是自動化IT任務(wù),達(dá)到46.5%,也有高達(dá)27.1%受訪者選擇產(chǎn)品與服務(wù)創(chuàng)新。AI大模型在使用當(dāng)中,實際應(yīng)用開發(fā)過程中,開源大模型和商業(yè)化模型同時并存,開發(fā)者更加傾向于使用開源模型。而且IDC調(diào)研顯示,數(shù)據(jù)倉庫作為生成式AI 的數(shù)據(jù)平臺發(fā)揮著主導(dǎo)作用。

生成式AI支出在全球和中國有什么差異?2024年AI大模型將呈現(xiàn)哪些新的發(fā)展趨勢?全球AI基礎(chǔ)設(shè)施市場規(guī)模預(yù)測?4月6日,來自IDC中國區(qū)副總裁兼首席分析師武連峰和IDC中國區(qū)副總裁鐘振山做了最新解讀。

生成式AI在全球和中國高速增長

IDC中國區(qū)副總裁兼首席分析師武連峰表示,IDC預(yù)測,2024年全球生成式AI支出將會達(dá)到387.9億美元,占整體AI比例為16.7%,未來到2027年,生成式AI的全球支持將達(dá)到1454.2億美元,年復(fù)合增長率會達(dá)到55.3%。2024年,中國生成式AI支出將達(dá)到35.3億美元,占整體AI比例達(dá)到16%,未來到2027年中國生成式AI支出預(yù)測將達(dá)到129.3億美元。
武連峰指出,整體ICT市場從以增量市場為主轉(zhuǎn)向以存量市場為主,存量市場是小幅度增長的特征,其中企業(yè)移動軟件、IoT連接、可穿戴設(shè)備、移動數(shù)據(jù)服務(wù)增長率在10%以下,增量市場主要包括AI平臺、機器人相關(guān)的OT服務(wù)、AI相關(guān)的商業(yè)服務(wù)等,增長率達(dá)到18%到40%之間。

AI大模型未來發(fā)展的五大趨勢

IDC中國區(qū)副總裁鐘振山表示,2024年AI大模型發(fā)展呈現(xiàn)五大趨勢。一、中國基礎(chǔ)大模型數(shù)量趨于收斂,2024年將卷向產(chǎn)業(yè)。去年發(fā)布的國內(nèi)大通用大模型發(fā)布達(dá)到百款,今年我們調(diào)研發(fā)現(xiàn)更多面向行業(yè)或者場景的大模型出現(xiàn),關(guān)注大模型在行業(yè)或者企業(yè)應(yīng)用場景的落地,比如網(wǎng)易有道的子曰、好未來的MathGPT、孩子王的KidsGPT面向教育行業(yè),螞蟻集團推出貞儀、百靈面向金融,還有中科聞歌的雅意大模型面向媒體行業(yè),京東的言犀ChatJD模型面向商業(yè)應(yīng)用場景,加速AI大模型在行業(yè)場景的落地。
AI大模型趨勢二、開源和閉源共存,共同促進(jìn)大模型應(yīng)用生態(tài)走向繁榮。鐘振山表示,更多企業(yè)選擇開源的AI大模型來構(gòu)建自身的應(yīng)用,現(xiàn)有的開源模型參數(shù)大多數(shù)是十億到千億之間,基于MoE架構(gòu)的稀疏大模型參數(shù)可以達(dá)到萬億參數(shù),微調(diào)和多種計算資源并行技術(shù)變得十分重要。他強調(diào),AI 進(jìn)入一個變革期,大家關(guān)注三個方向:第一、如何快速部署和開發(fā)模型;第二、大模型的壓縮量化蒸餾;第三、如何搭建一套有效的開源生態(tài),以及不同CPUGPU和XPU的分配。

AI大模型趨勢三、大模型向端側(cè)轉(zhuǎn)移,AI推理引起廣泛關(guān)注。蘋果計劃推出更智能的Siri, 為端側(cè)大模型生態(tài)做積極準(zhǔn)備,國內(nèi)手機廠商華為、小米、Vivo、OPPO和榮耀都推出了手機端大模型,華為手機適配盤古大模型,小米推出MiLM大模型,Vivo適配藍(lán)心大模型,OPPO和榮耀分別推出了安第斯大模型和魔方大模型。AI推理將在手機、PC、耳機、音箱、XR、汽車,以及其他可穿戴新型終端上運行。

鐘振山分析說,端側(cè)大模型帶來三大優(yōu)勢:1、本地數(shù)據(jù)處理效率更高,節(jié)省云端服務(wù)器帶寬和算力成本;2、對用戶數(shù)據(jù)可以形成更好的隱私保護(hù);3、端側(cè)大模型可以帶來更多交互方式和新體驗。

AI大模型趨勢四、多模態(tài)發(fā)展可能會促進(jìn)市場出現(xiàn)殺手級應(yīng)用。現(xiàn)在生成式AI 主要在文本、視頻、圖像、音頻領(lǐng)域應(yīng)用。GPT是基于自然語言技術(shù),對話聊天機器人已經(jīng)普遍出現(xiàn),現(xiàn)場他也介紹一家公司通過訓(xùn)練AI垂類模型,初步實現(xiàn)文字生成劇本+漫畫+動態(tài)視頻。

AI大模型趨勢五、新一代AI基礎(chǔ)設(shè)施可能成為下一個戰(zhàn)場。新架構(gòu)主要指靈活調(diào)配CPU和GPU資源,邊緣計算將云服務(wù)擴展到遠(yuǎn)程,私有云解決數(shù)據(jù)和運營的合規(guī)性問題,高性能主要針對高性能計算和人工智能優(yōu)化的計算和存儲服務(wù),多云集成促進(jìn)管理和安全的工具,深化合作伙伴關(guān)系,主要與行業(yè)用戶、基礎(chǔ)設(shè)施提供商和ISV搭建橋梁。
鐘振山指出,AI主要用于訓(xùn)練和推理,從訓(xùn)練看,還是云上和本地部署為主的投資方式,推理市場主要是云上算力為主,但是本地、邊緣層面都有大量推理算力的需求。推理市場需要一種面向AI工作負(fù)載的混合架構(gòu)模式。

未來隨著生成式AI和大模型在企業(yè)內(nèi)部落地之后,在推理方面的需求會大于訓(xùn)練的需求。面向AI的基礎(chǔ)架構(gòu),包括高性能處理器、下一代存儲、超融合系統(tǒng)、高性能AI網(wǎng)絡(luò),甚至精密計算、數(shù)據(jù)中心技術(shù),未來的量子計算都可能成為AI基礎(chǔ)架構(gòu)市場的基石。IDC預(yù)測,到2027年,用于邊緣推理的AI服務(wù)器價值將超過用于本地推理的服務(wù)器價值。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1887

    瀏覽量

    35018
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2448

    瀏覽量

    2701
  • 生成式AI
    +關(guān)注

    關(guān)注

    0

    文章

    504

    瀏覽量

    474
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    316

    瀏覽量

    308
收藏 人收藏

    評論

    相關(guān)推薦

    GPU是如何訓(xùn)練AI模型

    AI模型訓(xùn)練過程中,大量的計算工作集中在矩陣乘法、向量加法和激活函數(shù)等運算上。這些運算正是GPU所擅長的。接下來,AI部落小編帶您了解GPU是如何
    的頭像 發(fā)表于 12-19 17:54 ?119次閱讀

    AI云平臺的未來趨勢發(fā)展方向

    AI云平臺通過提供高效的數(shù)據(jù)處理、模型訓(xùn)練推理服務(wù)以及便捷的開發(fā)工具,極大地降低了企業(yè)應(yīng)用AI的門檻,加速了
    的頭像 發(fā)表于 12-02 17:34 ?175次閱讀

    FPGA和ASIC在大模型推理加速中的應(yīng)用

    隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進(jìn)行推理加速的研究也越來越多,目前的市場來說,有些公司已經(jīng)了專門做
    的頭像 發(fā)表于 10-29 14:12 ?441次閱讀
    FPGA和ASIC在大<b class='flag-5'>模型</b><b class='flag-5'>推理</b>加速中的應(yīng)用

    未來AI模型發(fā)展趨勢

    未來AI模型發(fā)展趨勢將呈現(xiàn)多元化和深入化的特點,以下是對其發(fā)展趨勢的分析: 一、技術(shù)驅(qū)動與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應(yīng)用,
    的頭像 發(fā)表于 10-23 15:06 ?617次閱讀

    摩爾線程攜手東華軟件完成AI模型推理測試與適配

    Agent平臺。該平臺集成了摩爾線程提供了軟硬一體化、訓(xùn)練到部署的系統(tǒng)級解決方案,涵蓋自研大語言模型MUSAChat、推理引擎MT Transformer以及大
    的頭像 發(fā)表于 07-31 10:51 ?739次閱讀

    ai模型訓(xùn)練方法哪些?

    AI模型訓(xùn)練方法是一個復(fù)雜且不斷發(fā)展的領(lǐng)域。以下是ai模型
    的頭像 發(fā)表于 07-16 10:11 ?1495次閱讀

    解讀PyTorch模型訓(xùn)練過程

    PyTorch作為一個開源的機器學(xué)習(xí)庫,以其動態(tài)計算圖、易于使用的API和強大的靈活性,在深度學(xué)習(xí)領(lǐng)域得到了廣泛的應(yīng)用。本文將深入解讀PyTorch模型訓(xùn)練的全過程,包括數(shù)據(jù)準(zhǔn)備、模型
    的頭像 發(fā)表于 07-03 16:07 ?1069次閱讀

    摩爾線程和滴普科技完成大模型訓(xùn)練推理適配

    近日,摩爾線程與滴普科技宣布了一項重要合作成果。摩爾線程的夸娥(KUAE)千卡智算集群與滴普科技的企業(yè)大模型Deepexi已完成訓(xùn)練推理適配,共同實現(xiàn)了700億參數(shù)LLaMA2大語言模型
    的頭像 發(fā)表于 05-30 10:14 ?547次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    。 **英偉達(dá)Blackwell架構(gòu)在數(shù)據(jù)中心方面的應(yīng)用哪些?** 1. **AI **大模型訓(xùn)練 Blackwell 架構(gòu)的 GPU 針對當(dāng)前火爆的
    發(fā)表于 05-13 17:16

    【大語言模型:原理與工程實踐】揭開大語言模型的面紗

    的進(jìn)步,大語言模型的應(yīng)用范圍和影響力將持續(xù)擴大,成為AI領(lǐng)域的重要推動力。其中,GPT系列模型發(fā)展尤為引人注目,GPT到GPT-2,再到
    發(fā)表于 05-04 23:55

    AI推理,和訓(xùn)練什么不同?

    如果要用一句話概括AI訓(xùn)練推理的不同之處,我覺得用“臺上一分鐘,臺下十年功”最為貼切。話說小明已經(jīng)和心目中的女神交往數(shù)年,在邀約女神出門這件事上積累了大量的經(jīng)驗數(shù)據(jù),但卻依然捉摸不透其中的玄機
    的頭像 發(fā)表于 04-29 08:06 ?210次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>,和<b class='flag-5'>訓(xùn)練</b><b class='flag-5'>有</b>什么不同?

    訓(xùn)練到推理AI模型發(fā)展五大趨勢IDC專家最新解讀

    生成式AI支出在全球和中國有什么差異?2024年AI模型將呈現(xiàn)哪些新的發(fā)展趨勢?全球AI基礎(chǔ)設(shè)施市場規(guī)模預(yù)測?4月16日,在
    的頭像 發(fā)表于 04-17 16:07 ?2213次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>訓(xùn)練到</b><b class='flag-5'>推理</b>,<b class='flag-5'>AI</b> 大<b class='flag-5'>模型</b><b class='flag-5'>發(fā)展</b><b class='flag-5'>有</b><b class='flag-5'>哪</b><b class='flag-5'>五大趨勢</b>?<b class='flag-5'>IDC</b><b class='flag-5'>專家</b>最新<b class='flag-5'>解讀</b>

    Groq LPU崛起,AI芯片主戰(zhàn)場訓(xùn)練轉(zhuǎn)向推理

    人工智能推理的重要性日益凸顯,高效運行端側(cè)大模型AI軟件背后的核心技術(shù)正是推理。不久的未來,全球芯片制造商的主要市場將全面轉(zhuǎn)向人工智能推理
    的頭像 發(fā)表于 02-29 16:46 ?1176次閱讀

    黑馬Groq單挑英偉達(dá),AI芯片要變天?

    AI訓(xùn)練到AI推理
    的頭像 發(fā)表于 02-26 12:01 ?344次閱讀

    混合專家模型 (MoE)核心組件和訓(xùn)練方法介紹

    ) 的 Transformer 模型在開源人工智能社區(qū)引起了廣泛關(guān)注。在本篇博文中,我們將深入探討 MoEs 的核心組件、訓(xùn)練方法,以及在推理過程中需要考量的各種因素。 讓我們開始吧! 簡短總結(jié) 混合
    的頭像 發(fā)表于 01-13 09:37 ?1255次閱讀
    混合<b class='flag-5'>專家</b><b class='flag-5'>模型</b> (MoE)核心組件和<b class='flag-5'>訓(xùn)練</b>方法介紹
    主站蜘蛛池模板: 天天色天天综合| 国产小视频在线| 欧美成人午夜精品免费福利| 国产欧美乱码在线看| 久热国产精品| 久久婷婷人人澡人人爱91| 欧美一级视频在线| 久久一级毛片| 99久久免费精品视频| 97射射| 在线免费观看视频你懂的| 美国一级毛片免费看成人| 特黄一级视频| 欧美极品第1页专区| 午夜欧美视频| 9色网站| 69xxx欧美| 日本.www| 天天爱夜夜爽| 俄罗斯aaaaa一级毛片| 久久精品女人天堂| 国产午夜久久精品| 性色在线播放| 伊人久久影视| 日本一卡精品视频免费| 免费艹逼视频| 成人黄色三级| 欲色影视| www射射一区| 国产精品午夜寂寞视频| 午夜三级a三点| 一级黄色片在线| 欧美a级网站| 欧洲无线区一二区| 久久精品免费看| 国产美女精品久久久久久久免费| 久久久久久青草大香综合精品| 大香线蕉97久久| 日本精品一在线观看视频| www.色.con| 欧亚精品卡一卡二卡三|