在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

GPU如何突破算力供需瓶頸

沐曦MetaX ? 來源:沐曦MetaX ? 2023-08-22 10:26 ? 次閱讀

近日,2023中國算力大會在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉受邀出席由中國信息通信研究院、中國互聯(lián)網(wǎng)協(xié)會聯(lián)合舉辦的智能計算論壇,并擔任演講嘉賓,探討后GPT時代算力需求激增帶來的挑戰(zhàn)以及GPU如何突破算力供需瓶頸、推動人工智能產(chǎn)業(yè)普惠化發(fā)展。

沐曦聯(lián)合創(chuàng)始人、CTO兼首席硬件架構(gòu)師彭莉

發(fā)表主題演講

在題為“后GPT時代的算力需求”的演講中,彭莉預(yù)測大模型商業(yè)模式將分為通用計算市場和專用定制化市場兩大類:在通用計算市場,大語言模型將終結(jié)多數(shù)NLP任務(wù),NLP技術(shù)水平被強行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場,開源大模型將呈現(xiàn)百花齊放的發(fā)展態(tài)勢,可針對私有數(shù)據(jù)、敏感數(shù)據(jù)進行快速定制和領(lǐng)域?qū)R,大模型開發(fā)和部署能力將趨于普及化。

彭莉指出,區(qū)別于傳統(tǒng)AI,生成式AI技術(shù)可以借助接入類ChatGPT應(yīng)用發(fā)揮顯著的技術(shù)優(yōu)勢,為大語言模型的開發(fā)降本增效,同時也對算力提出更高和更迫切的要求。由于大模型訓(xùn)練的一次性成本被大規(guī)模推理攤薄,大模型盈利的一大難點是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態(tài)解決方案,通過GPU軟件生態(tài)優(yōu)勢、硬件架構(gòu)優(yōu)勢、先進封裝等方面全面提升GPU算力,降低大模型訓(xùn)練和推理的算力成本,在產(chǎn)品路線和生態(tài)戰(zhàn)略上均可滿足大模型對算力基礎(chǔ)設(shè)施的大規(guī)模需求,為推進智能產(chǎn)業(yè)可持續(xù)發(fā)展打造堅實的算力底座。

審核編輯:彭菁

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 集成電路
    +關(guān)注

    關(guān)注

    5388

    文章

    11556

    瀏覽量

    361974
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4742

    瀏覽量

    128976
  • 硬件
    +關(guān)注

    關(guān)注

    11

    文章

    3341

    瀏覽量

    66251
  • 沐曦
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    1166
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2474

    瀏覽量

    2773
收藏 人收藏

    評論

    相關(guān)推薦

    未來邊緣GPU在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用(下)

    本文來源:壹靈海科技隨著5G通信技術(shù)的普及和人工智能技術(shù)的飛速發(fā)展,邊緣GPU將在車聯(lián)網(wǎng)領(lǐng)域發(fā)揮更加重要的作用。5G網(wǎng)絡(luò)的高帶寬和低延遲特性為車聯(lián)網(wǎng)提供了強大的支持,使得車輛能夠?qū)崟r地交換大量
    的頭像 發(fā)表于 12-19 11:16 ?186次閱讀
    未來邊緣<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用(下)

    芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    在數(shù)據(jù)挖掘工作中,我經(jīng)常需要處理海量數(shù)據(jù)的深度學習任務(wù),這讓我對GPU架構(gòu)和張量運算充滿好奇。閱讀《芯片》第7-9章,讓我對這些關(guān)鍵技術(shù)有了全新認識。 GPU架構(gòu)從早期的固定功能流
    發(fā)表于 11-24 17:12

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解芯片GPU

    著色器(Pixel shader)是圖形流水線中相當強大的功能單元,因為它可以為每個片段執(zhí)行復(fù)雜的計算,從而為最終渲染的圖像添加細節(jié)和視覺效果。 DirectX API推動 GPU 演進
    發(fā)表于 11-03 12:55

    GPU開發(fā)平臺是什么

    隨著AI技術(shù)的廣泛應(yīng)用,需求呈現(xiàn)出爆發(fā)式增長。AI租賃作為一種新興的服務(wù)模式,正逐漸成為企業(yè)獲取
    的頭像 發(fā)表于 10-31 10:31 ?190次閱讀

    【一文看懂】大白話解釋“GPUGPU

    隨著大模型的興起,“GPU”這個詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計等工作場景中,什么是GPU,它與CPU的區(qū)別是什么?以及到底什么是GPU
    的頭像 發(fā)表于 10-29 08:05 ?701次閱讀
    【一文看懂】大白話解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    未來邊緣GPU在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用

    的發(fā)展提供了強大的技術(shù)支撐。未來邊緣GPU在車聯(lián)網(wǎng)中的應(yīng)用及創(chuàng)新,將有力推動車聯(lián)網(wǎng)技術(shù)的快速發(fā)展,提升交通運行效率,降低交通事故發(fā)生率,為人們創(chuàng)造更加安全、便捷
    的頭像 發(fā)表于 10-25 08:08 ?291次閱讀
    未來邊緣<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用

    GPU租用平臺怎么樣

    GPU租用平臺以其成本效益、靈活性與可擴展性、簡化運維以及即時訪問等優(yōu)勢,在深度學習、科學計算、圖形渲染等多個領(lǐng)域發(fā)揮著重要作用。
    的頭像 發(fā)表于 10-17 10:03 ?218次閱讀

    GPU租用平臺是什么

    GPU租用平臺是一種基于云計算的服務(wù)模式,它允許用戶通過互聯(lián)網(wǎng)按需租用高性能GPU資源,而無需自行購買、部署和維護這些硬件。
    的頭像 發(fā)表于 10-16 10:15 ?238次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    GPU、NPU,給我們剖析了芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    中國大會召開,業(yè)界首個高質(zhì)量評估體系發(fā)布

    首次完整地構(gòu)建了人工智能時代高質(zhì)量的理論體系,并探索性提出業(yè)界首個 "五位一體"的高質(zhì)量評估體系。 發(fā)布現(xiàn)場 在當前由大模型和AIGC驅(qū)動的AI時代,
    的頭像 發(fā)表于 09-28 16:50 ?274次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會召開,業(yè)界首個<b class='flag-5'>算</b><b class='flag-5'>力</b>高質(zhì)量評估體系發(fā)布

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    紙質(zhì)媒體的高質(zhì)量和專業(yè)網(wǎng)絡(luò)媒體的信息更新速度。 芯片在最近15年有著巨大性能突破,這些年Intel的CPU芯片從雙核128位SIMD到眾核512位SIMD;NVIDIA的GPU產(chǎn)品
    發(fā)表于 09-02 10:09

    服務(wù)器為什么選擇GPU

    隨著人工智能技術(shù)的快速普及,需求日益增長。智中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進入了大眾的視野,成為高性能計算的首選。那
    的頭像 發(fā)表于 07-25 08:28 ?648次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)器為什么選擇<b class='flag-5'>GPU</b>

    Sora需求引發(fā)業(yè)界對集結(jié)國內(nèi)AI企業(yè)的探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠超千億規(guī)模模型。因而,考慮到如今國內(nèi)芯片供應(yīng)受限,問題至關(guān)重要。事實上,Meta已有約50萬臺 GPU
    的頭像 發(fā)表于 02-25 10:03 ?593次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    GPU是顯卡嗎 cpu和gpu哪個

    很大的區(qū)別,因此它們的計算能力也不同。 首先,我們來看一下CPU(中央處理器)的。CPU是一種通用處理器,它被設(shè)計用于處理各種不同類型的任務(wù),包括數(shù)據(jù)處理、指令執(zhí)行、邏輯控制等。CPU的核心數(shù)量和頻率是衡量其
    的頭像 發(fā)表于 01-10 15:45 ?5327次閱讀
    主站蜘蛛池模板: 亚洲免费观看视频| 香蕉视频一级| 717影院理伦午夜论八戒| 欧美五月| 亚洲综合在线观看一区www| 亚洲欧美综合一区二区三区四区| 亚洲综合激情另类专区| 男啪女色黄无遮挡免费视频 | 国产一级做a爰大片免费久久 | 一本到卡二卡三卡视频| 亚洲电影一区二区| 色婷婷激婷婷深爱五月小说| 琪琪see色原网一区二区| 久久亚洲成人| 成年人电影黄色| 天天干天天操天天摸| 91午夜剧场| 日本一二区视频| 亚洲国产综合久久精品| 色婷婷久久合月综| 久久青草免费免费91线频观看| 丁香婷婷影院| 天天做天天爱天天综合网| 国产精品青草久久久久福利99| 中文字幕一区二区三区不卡 | 久久久黄色大片| 久久精品第一页| 四虎国产精品影库永久免费| 毛片网站在线| 亚洲成网站www久久九| 国产在线小视频| 午夜湿| 天堂男人网| 好男人社区www的视频免费| 午夜看片网| 午夜 dy888理论久久| 综合网天天| 欧亚色视频| 1717国产精品久久| 超人碰碰碰人人成碰人| aaaaaa精品视频在线观看|