在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

ChatGPT等大模型的發展,對GPGPU有怎樣的性能要求?

lPCU_elecfans ? 來源:電子發燒友網 ? 2023-03-10 09:51 ? 次閱讀

最近,在ChatGPT火了之后,國內互聯網科技圈不時傳出計劃或者正在研究類ChatGPT大模型的消息。

然而在相關技術真正面世之前,近日,OpenAI又放出新消息,該公司正式開放了ChatGPT的API接口,開發人員可以將ChatGPT模型集成到他們的應用程序和產品中。這意味著ChatGPT將會以更快的速度占領市場,因此國內企業在大模型的研究中更要加快進度。

在大模型發展中,國內具備了怎樣的條件

在類ChatGPT及其他大模型的發展中,國內是否具備相應的條件呢?登臨科技聯合創始人王平日前在接受電子發燒友采訪的時候談到了幾點:

他認為,國內在這方面是具備一定條件的,首先是數據,這是大模型技術中非常重要的一個生產要素,國內在數據上是有一定積累的;其次是人才,在這方面國內有不少優秀的算法人才,在大模型方面具備一定的知識基礎與經驗;此外,目前國內也有比較不錯的AI框架平臺以及具備核心技術完全自主研發能力的GPGPU廠商。整體來說整套的生產要素上都有一定的基礎,只不過在成熟度上跟OpenAI相比還存在一定差距。

具體來看,在AI框架方面,OpenAI能夠推出能力如此強大的ChatGPT,它應該有自己專門的框架?,F在各種商用的框架,包括國產的飛槳paddlepaddle,以及Tensorflow或者Pytorch,其實更多是用于常規模型,而不是大模型的調度。因此在發展ChatGPT類大模型方面,還存在一些挑戰,需要去持續創新。

在人才方面,雖然目前國內具備一些算法相關的人才,然而整體而言是處于較為緊缺的狀態。另外大模型的訓練,也需要算法工程師具備豐富的經驗積累,因為模型太大,中間涉及很多技術,這并不是短時間砸錢就能達到的。

在硬件層面,國內的GPGPU具有自身的特色,甚至在一些領域比NVIDIA更具優勢,在ChatGPT或者相關大模型上,也有它的優勢。不過整體來看,還是存在差距,需要不斷進行創新和迭代,要不停的向前走。

大模型發展對GPGPU提出了怎樣的要求

ChatGPT火熱之后,可以明顯看到國內在AI大模型方面的發展將會加速,這對國內GPGPU來說意味著什么呢?大模型的發展,必然少不了GPGPU,GPGPU對于大模型就相當于是發動機之于汽車。王平認為,近十幾年AI的再度興起,到現在ChatGPT的爆火,以及未來AI產業的發展再上一個臺階,如果沒有GPGPU,這些都不大可能會實現。

因為每個大模型訓練和部署的背后,都有幾萬個GPGPU在支持??上攵?,未來隨著這方面的研發和應用的普及,GPGPU市場需求將會再度迎來爆發式增長。

以電力為例,就可以很清楚的看到這個市場未來可能發生的變化。幾十年前,電力只是用在一些小用量的場景,隨著電力的供給越來越多,電器也越來越多的時候,最后電力就成了一個基本設施??梢哉f,算力也是朝著基礎設施的方向在發展。在王平看來,現在GPGPU還遠沒有到爆炸式需求的階段。

當然在ChatGPT或者其他大模型訓練和部署,對GPGPU或者說算力也會有更高的要求。王平談到了幾個方面:

首先從單卡層面來看,先來看一組數據,1月份的時候ChatGPT的用戶數突破1億,日訪問量有幾千萬,在這種情況下,它的運營成本會相當高,每天的電費在幾十萬人民幣量級。這時候計算效率很重要,如果計算架構相比于傳統的GPGPU更有優勢的話,比如,登臨科技一些計算密度更大的產品,在計算效率上就更有優勢。

其次是單卡之外,卡片間的互聯也很重要。因為在用戶側工作的實際上是一個超級計算機系統,在訓練的時候,帶寬、片間、服務器間的信息傳遞很重要,這就需要針對大模型的訓練框架,在整個服務器集群的調度和協同工作中進行升級優化。

再者就是軟件方面,一般來說在軟硬件協同的系統里,軟件的重要作用不可忽視,因為一些軟件棧的原因,或者軟件協同調度的問題,硬件往往不能完全發揮出能力。所以我們經常可以看到,在一些場景下,軟件稍微進行優化,整體應用性能就會有百分之幾十,甚至百分之百的提升。

從硬件公司的角度來看,GPGPU是一個通用平臺,行業整體有產品異構化的走向,總體來說,GPGPU存在一些性能瓶頸。登臨科技是一家專注于高性能通用計算平臺的芯片研發與技術創新的公司,登臨自主研發的GPU+架構正式采用了軟件定義的片內異構體系,目前首款基于GPU+的系列產品—Goldwasser已在云至邊緣的各個應用場景實現規?;涞?。據王平介紹:登臨科技希望通過異構,從由點及面在一些足夠大的市場領域,把產品做到比英偉達同系列產品更具性價比優勢,甚至超過英偉達。

帶著這樣的出發點,在大型語言模型方面,登臨科技會更關心如何更好的提升產品的能效比。簡單來說,在同樣功耗下,登臨科技可以提供英偉達1.5到2倍的算力,在算力一致的情況下,做到單位功耗更低這樣從計算的整體性能上實現英偉達同類產品的能效比3倍的優勢。如此一來,上面提到的電費、運維成本都將會有很大的節省。

小結

不難看出,以ChatGPT為代表的大語言模型發展和應用,對人們生產生活意義重大。隨著它的技術和應用逐步成熟,其對GPGPU等算力硬件的需求將會持續增加,就如同文中提到的電力的發展路徑一樣。當然大模型對GPGPU及算力集群系統的也有更高的要求,比如計算效率更高,能夠節省電費和運維成本等,可想而知,對于硬件公司來說,誰能夠在這方面更具優勢,誰就更能在未來大模型處處落地的時候,更占據優勢。

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4626

    瀏覽量

    93151
  • API
    API
    +關注

    關注

    2

    文章

    1509

    瀏覽量

    62245
  • ChatGPT
    +關注

    關注

    29

    文章

    1566

    瀏覽量

    7886
  • 大模型
    +關注

    關注

    2

    文章

    2519

    瀏覽量

    2972

原文標題:ChatGPT等大模型的發展,對GPGPU有怎樣的性能要求?

文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    【「大模型啟示錄」閱讀體驗】+開啟智能時代的新鑰匙

    閱讀之旅。在翻開這本書之前,我對大模型的認知僅僅停留在它是一種強大的人工智能技術,可以進行自然語言處理、圖像識別任務。我知道像 ChatGPT 這樣的應用是基于大模型開發的,能夠與人
    發表于 12-24 13:10

    ChatGPT怎樣打造智能客服體驗的重要工具?

    ChatGPT作為智能對話生成模型,可以幫助打造智能客服體驗的重要工具。以下是一些方法和步驟:1.數據收集和準備:收集和整理與客服相關的數據,包括常見問題、回答示例、客戶對話記錄。這將用于訓練
    的頭像 發表于 11-01 11:12 ?203次閱讀
    <b class='flag-5'>ChatGPT</b>:<b class='flag-5'>怎樣</b>打造智能客服體驗的重要工具?

    如何提升 ChatGPT 的響應速度

    同時進行,從而減少總體響應時間。 模型壓縮 :通過模型壓縮技術,如量化、剪枝,可以減少模型的大小,從而加快模型的加載和推理速度。 知識蒸餾
    的頭像 發表于 10-25 17:39 ?763次閱讀

    怎樣搭建基于 ChatGPT 的聊天系統

    搭建一個基于ChatGPT的聊天系統是一個涉及多個步驟的過程,包括理解ChatGPT的API、設計用戶界面、處理數據和集成ChatGPT模型。以下是一個簡化的指南,用于創建一個基本的聊
    的頭像 發表于 10-25 16:23 ?560次閱讀

    如何使用 ChatGPT 進行內容創作

    ChatGPT平臺。 選擇模型ChatGPT目前支持GPT3.5和GPT4兩個模型。根據創作需求,選擇合適的模型。一般來說,GPT4
    的頭像 發表于 10-25 16:08 ?506次閱讀

    模型LLM與ChatGPT的技術原理

    在人工智能領域,大模型(Large Language Model, LLM)和ChatGPT自然語言處理技術(Natural Language Processing, NLP)正逐步改變著人類
    的頭像 發表于 07-10 10:38 ?953次閱讀

    llm模型chatGPT的區別

    許多不同的LLM模型,如BERT、GPT、T5。 ChatGPT是一種基于GPT(Generative Pre-trained Transformer)
    的頭像 發表于 07-09 09:55 ?1232次閱讀

    名單公布!【書籍評測活動NO.34】大語言模型應用指南:以ChatGPT為起點,從入門到精通的AI實踐教程

    了備受矚目的ChatGPT。在接下來的不到一年的時間里,大語言模型的生態系統迅速壯大并蓬勃發展。 大語言模型的生態系統可以分為 模型層、框架
    發表于 06-03 11:39

    OpenAI 深夜拋出王炸 “ChatGPT- 4o”, “她” 來了

    當地時間5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前邁出的一大步。在GPT-4turbo的強大基礎上,這種迭代擁有顯著的改進。在發布會的演示中,OpenAI展示該模型的高級
    發表于 05-27 15:43

    ChatGPT、Gemini、通義千問一眾大語言模型,哪家更適合您?

    隨著人工智能技術的飛速發展,大語言模型(Large Language Models, LLMs)在各行各業的應用日益廣泛,尤其是在軟件開發、數據分析、客戶服務領域。蘑菇云創客空間[445期開放夜
    的頭像 發表于 05-14 17:35 ?679次閱讀

    大語言模型:原理與工程實踐+初識2

    前言 深度學習是機器學習的分支,而大語言模型是深度學習的分支。機器學習的核心是讓計算機系統通過對數據的學習提高性能,深度學習則是通過創建人工神經網絡處理數據。近年人工神經網絡高速發展,引發深度學習
    發表于 05-13 00:09

    蘋果擬推出自研大語言模型Ajax,以優化iOS 18,但排除ChatGPT選項

    早在2023年7月,Ajax模型就曾引發關注。該模型采用Google的Jax機器學習框架,運行在谷歌Cloud平臺上,被部分工程師稱為“Apple GPT”,與OpenAI的ChatGPT、微軟的Bing以及谷歌的Bard
    的頭像 發表于 05-06 15:25 ?418次閱讀

    名單公布!【書籍評測活動NO.30】大規模語言模型:從理論到實踐

    評測資格! 2022年11月,ChatGPT的問世展示了大模型的強大潛能,對人工智能領域重大意義,并對自然語言處理研究產生了深遠影響,引發了大模型研究的熱潮。 距
    發表于 03-11 15:16

    【國產FPGA+OMAPL138開發板體驗】(原創)6.FPGA連接ChatGPT 4

    方面。而且,由于ChatGPT 4是一個大型的語言模型。通常,FPGA會用于處理一些底層的數據流或執行特定的硬件加速任務,而ChatGPT 4這樣的模型則會在云端或高
    發表于 02-14 21:58

    模型之戰的下半場:垂直化應用與生態化發展

    模型發展與互聯網的發展類似。回看剛剛過去的2023年,以ChatGPT為代表的語言大模型發展
    發表于 01-26 14:43 ?594次閱讀
    主站蜘蛛池模板: 一级特黄性色生活片一区二区| bt天堂资源在线种子| 综合婷婷| 一级爱片| 天堂色| 日韩午夜精品| 永久免费看www色视频| 伊人精品成人久久综合欧美| 亚洲欧美色视频| 日韩欧美中文字幕在线播放| 欧美日韩亚洲色图| 狠狠色丁香九九婷婷综合五月| 成年啪啪网站免费播放看| 亚洲第一视频在线播放| 色综合天天干| 天天操夜夜操视频| 又黄又爽又猛午夜性色播在线播放| 黄色短视频免费观看| 丁香月婷婷| 天天透天天干| 午夜无遮挡怕怕怕免费视频| 操你啦在线视频| 天天摸夜夜操| 国产紧缚jvid| 亚洲性视频网站| 亚洲国产成人精彩精品| 日本免费一级| 欧美精品video| 精品欧美一区二区三区 | 午夜免费在线观看| 国产小视频免费观看| 亚洲日本免费| 亚洲成人看片| 毛茸茸成熟妇女亚洲人| 毛片.com| 一级特黄aaa免费| 国产性夜夜春夜夜爽| 日本a级精品一区二区三区| 日本丝瓜着色视频| 男女互插小说| 色婷婷色99国产综合精品|