在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型時代,國產AI芯片最新進展!算力集群化是必然趨勢

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2023-07-11 09:05 ? 次閱讀

電子發燒友網報道(文/李彎彎)在剛過去的2023世界人工智能大會上,大模型可以說是其中的大亮點之一,華為盤古、商湯日日新、網易伏羲等30多款國產AI大模型集中亮相。與此同時,各類人工智能芯片公司、算力提供商也針對大模型展示了相應的方案。

大模型時代,國產AI芯片進展如何?

在這次大會上,瀚博半導體、燧原科技、登臨科技、天數智芯等紛紛展示了針對大模型的產品方案,呈現出國產AI芯片在大模型領域的進展情況。

瀚博半導體成立于2018年12月,是一家自研GPU芯片及解決方案提供商。在此次大會上,瀚博發布了第二代GPU SG100,并推出南禺系列GPU加速卡VG1600、VG1800、VG14,以及LLM大模型AI加速卡VA1L、AIGC大模型一體機、VA12高性能生成式AI加速卡等6款新品。

據介紹,瀚博SG100芯片采用7nm先進制程,具備業界領先的渲染性能,同時兼具低延時高吞吐的AI算力和強大的視頻處理能力。

值得關注的,針對大模型時代算力需求,瀚博本次首發了LLM大模型AI加速卡VA1L,具備200 TOPS INT8/72 TFLOPS FP16算力,并支持ChatGPT、LLaMA、Stable Diffusion等主流AIGC網絡模型。

與此同時,瀚博此次還推出了AIGC大模型一體機,共使用8張LLM大模型AI加速卡VA1L,支持512GB顯存,進而支持1750億參數的大模型。

另外,作為瀚博VA1和VA10的升級版,VA12是一塊通用AI加速卡,支持檢測、分類、分割、視頻增強、語義理解、BERT、Transfomer和視頻編解碼等應用。

燧原科技在此次大會上發布了燧原曜圖文生圖MaaS平臺服務產品。該產品以燧原科技“邃思”系列芯片為算力支撐,由首都在線提供計算服務,燧原曜圖MaaS平臺服務產品為用戶提供面向AIGC時代的高效易用、安全可靠、企業級的文生圖服務。

燧原科技表示,它具備開箱即用可用、所想即所見、創意無限的文本生成圖像能力,通過軟硬一體方案降低大規模AIGC應用的工程難度與算力成本,開啟AIGC應用規模化落地時代。

燧原科技創始人兼CEO趙立東在某論壇上提到,目前燧原已經為大型科研機構部署了千卡規模的AI訓練算力集群,并成功落地;而且與騰訊合作,在OCR文字識別、智能交互、智能會議等方面,性能達到了業界同類產品兩倍以上,性價比上具有很高優勢。此外,在智慧城市方面,燧原完成2022年成都高新區國產化AI視頻基礎設施平臺項目建設。

此次大會上,登臨科技展示了最新一代創新通用GPU產品Goldwasser II系列以及基于開源大語言模型可交互界面。據了解,Goldwasser II針對基于Transformer和生成式AI 大模型進行專門優化,在性能有大幅提升,已于2022年流片,目前已開始規模化量產和商業客戶驗證。據現有客戶測試結果,二代產品針對基于transformer類型的模型提供3-5倍的性能提升,大幅降低類ChatGPT及生成式AI應用的硬件成本。

天數智芯在此次會上也展示了在大模型訓練、推理所取得的顯著進展,包括圖片識別/以圖搜圖、3D建模、大模型推理等。在大模型領域,天數智芯今年上半年,搭建了40P算力320張天垓100加速卡算力集群,完成智源研究院70億參數大模型全量訓練,

天垓100是天數智芯2018年研發的通用AI訓練芯片,據天數智芯董事長蓋魯江介紹,目前天垓100這款產品還已經成功跑通了清華智譜 AI 大模型ChatGLM,Meta研發的LLaMA模型。此外,天數智芯正在幫智源研究院跑650億參數的模型,預計10月份可以跑完。

針對于A800芯片在無許可證的情況下將被禁售的話題,蓋魯江談到,事實上,不管英偉達的產品能不能賣給中國,我們的產品已經能夠用起來了。

算力集群化是發展趨勢

伴隨大模型帶來的生成式AI突破,人工智能正在進入一個新的時代。算力是人工智能產業創新的基礎,大模型的持續創新,驅動算力需求的爆炸式增長。可以說,大模型訓練的效率或者是創新的速度,根本上取決于算力的大小。

然而,中國的算力已經成為一個越來越稀缺的資源。華為輪值董事長胡厚崑在某論壇上談到,大模型的研發高度依賴高端AI芯片、集群及生態。高計算性能、高通信帶寬和大顯存成為大模型訓練必不可少的算力底座,單AI芯片進步速度還未跟上大模型對大算力的需求,算力集群化成為不可逆轉的發展趨勢。

在2023世界人工智能大會上,華為宣布昇騰AI集群全面升級,集群規模從最初的4000卡集群擴展至16000卡,擁有更快的訓練速度和30天以上的穩定訓練周期。

胡厚崑表示,華為在各個單點創新的基礎上,充分發揮云、計算、存儲、網絡以及能源的綜合優勢,進行架構創新,推出了昇騰AI集群,相當于把AI算力中心當成一臺超級計算機來設計,使得昇騰AI集群性能更高,并且可靠性更高。

據他介紹,昇騰AI集群目前已經可以達到10%以上的大模型訓練效率的提升,可以提供10倍以上的系統穩定的提高,支持長期穩定訓練。

華為昇騰計算業務總裁張迪煊表示,基于昇騰AI,原生孵化和適配了30多個大模型,到目前為止,中國有一半左右的大模型創新,都是由昇騰AI來支持的。

除了華為,阿里、騰訊等也打造了較大的算力集群,不過主要還是依靠英偉達的GPU芯片。阿里云表示,其擁有國內最強的智能算力儲備,智算集群可支持最大十萬卡GPU規模,承載多個萬億參數大模型同時在線訓練。

騰訊云此前大量采購了英偉達A100/H800芯片,發布新一代HCC高性能計算集群,用于大模型訓練、自動駕駛、科學計算等領域。基于新一代集群,騰訊團隊在同等數據集下,將萬億參數的AI大模型混元NLP訓練由50天縮短到4天。

小結

無論是大模型的訓練,還是后期的推理部署,對算力的需求都相當大。雖然,當前國產AI芯片與國際領先GPU產品在大模型的訓練上有差距,不過可以看到,已經有不少產品,在較大模型的訓練上已經取得成績,后續必然還會有更大的進展。同時,為了滿足大模型對大算力的需求,算力集群化將會是未來趨勢。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31028

    瀏覽量

    269381
收藏 人收藏

    評論

    相關推薦

    FF將發布FX品牌最新進展

    "、"FF"或 "公司")今天宣布,將于2025年1月8日盤后公布其自2024年9月19日FX品牌發布以來的最新進展,包括最新項目進展、重大里程碑、新產品品類戰略及下一步計劃。
    的頭像 發表于 01-03 15:58 ?129次閱讀

    揭秘超以太網聯盟(UEC)1.0 規范最新進展(2024Q4)

    近期,由博通、思科、Arista、微軟、Meta等國際頂級半導體、設備和云廠商牽頭成立的超以太網聯盟(UEC)在OCP Global Summit上對外公布其最新進展——UEC規范1.0的預覽版本。讓我們一睹為快吧!
    的頭像 發表于 11-18 16:53 ?463次閱讀
    揭秘超以太網聯盟(UEC)1.0 規范<b class='flag-5'>最新進展</b>(2024Q4)

    Qorvo在射頻和電源管理領域的最新進展

    了半導體行業的重大變革,還成功引領Qorvo成為射頻技術的領導者。在本次專訪中,Philip將為大家分享Qorvo在射頻和電源管理領域的最新進展,并探討HPA事業部如何通過技術創新應對全球電氣化和互聯化的挑戰。
    的頭像 發表于 11-17 10:57 ?498次閱讀

    小鵬汽車圖靈芯片及L4自動駕駛新進展

    的特定領域架構,進一步提升了其處理能力。 據悉,小鵬汽車已在今年10月份成功在圖靈芯片上跑通了智能駕駛功能,這標志著公司在智能駕駛領域取得了重要進展。 除了圖靈芯片,何小鵬還透露了小鵬汽車在L4級自動駕駛方面的
    的頭像 發表于 11-08 11:01 ?997次閱讀

    芯片和封裝級互連技術的最新進展

    近年來,計算領域發生了巨大變化,通信已成為系統性能的主要瓶頸,而非計算本身。這一轉變使互連技術 - 即實現計算系統各組件之間數據交換的通道 - 成為計算機架構創新的焦點。本文探討了通用、專用和量子計算系統中芯片和封裝級互連的最新進展,并強調了這一快速發展領域的關鍵技術、挑
    的頭像 發表于 10-28 09:50 ?458次閱讀

    AI模型的最新研究進展

    AI模型的最新研究進展體現在多個方面,以下是對其最新進展的介紹: 一、技術創新與突破 生成式AI技術的爆發 : 生成式
    的頭像 發表于 10-23 15:19 ?472次閱讀

    【「大模型時代的基礎架構」閱讀體驗】+ 未知領域的感受

    國慶前就收到《大模型時代的基礎架構》一書,感謝電子發燒友論壇。歡度國慶之余,今天才靜下心來體驗此書,書不厚,200余頁,彩色圖例,印刷精美! 當初申請此書,主要是看到副標題“大模型
    發表于 10-08 10:40

    開啟全新AI時代 智能嵌入式系統快速發展——“第六屆國產嵌入式操作系統技術與產業發展論壇”圓滿結束

    計算機學院牛建偉教授主持。 中科院軟件所副所長、總工程師,武延軍研究員做了“AI模型時代下的操作系統發展思考”主題演講。 武延軍介紹了操作系統的發展歷程,指出應用的高速發展給操作系統帶來的
    發表于 08-30 17:24

    模型時代需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型
    發表于 08-20 09:04

    名單公布!【書籍評測活動NO.41】大模型時代的基礎架構:大模型中心建設指南

    工作日內未聯系,視為放棄本次試用評測資格! 書籍介紹 大模型是近年來引人注目的熱點之一。大模型蓬勃發展的基礎,是針對其需求設計的及基礎架構。本書針對如何為大
    發表于 08-16 18:33

    萬卡集群解決大模型需求,建設面臨哪些挑戰

    解決大模型訓練對需求的巨大增長問題,尤其是現在模型參數量從百億級、千億級邁向萬億級。 ? 國內外企業積極構建萬卡集群 ? 目前,在國際上
    的頭像 發表于 06-02 06:18 ?4771次閱讀
    萬卡<b class='flag-5'>集群</b>解決大<b class='flag-5'>模型</b>訓<b class='flag-5'>算</b><b class='flag-5'>力</b>需求,建設面臨哪些挑戰

    摩爾線程張建中:以國產助力數智世界,滿足大模型需求

    摩爾線程創始人兼CEO張建中在會上透露,為了滿足國內對AI的迫切需求,他們正在積極尋求與國內頂尖科研機構的深度合作,共同推動更大規模的AI
    的頭像 發表于 05-10 16:36 ?973次閱讀

    百度首席技術官王海峰解讀文心大模型的關鍵技術和最新進展

    4月16日,以“創造未來”為主題的Create 2024百度AI開發者大會在深圳國際會展中心成功舉辦。百度首席技術官王海峰以“技術筑基,星河璀璨”為題,發表演講,解讀了智能體、代碼、多模型等多項文心大模型的關鍵技術和
    的頭像 發表于 04-18 09:20 ?708次閱讀
    百度首席技術官王海峰解讀文心大<b class='flag-5'>模型</b>的關鍵技術和<b class='flag-5'>最新進展</b>

    中國電信規劃在上海建設首個國產超大規模液冷集群

    中國電信規劃建設首個國產超大規模液冷集群 人工智能技術的快速發展催生了巨大的需求;中國電
    的頭像 發表于 02-22 18:48 ?1342次閱讀

    兩家企業有關LED項目的最新進展

    近日,乾富半導體與英創兩家企業有關LED項目傳來最新進展
    的頭像 發表于 01-15 13:37 ?700次閱讀
    主站蜘蛛池模板: 天天做天天爱天天一爽一毛片| 国产成人久视频免费| 亚洲综合激情六月婷婷在线观看| 欧美成人亚洲欧美成人| 日本不卡一| 综合六月| 天堂资源在线bt种子8| 色中文网| 欧美xxxx色视频在线观看免费| 免费中国一级啪啪片| 国产在线一区二区三区四区| 成人免费看毛片| 午夜影视在线| 国产午夜免费一区二区三区| 国产精品欧美激情第一页| 国产亚洲欧美日韩俺去了| 婷婷色综合网| 日本高清色图| 国产农村三片免费网站| 午夜毛片在线观看| 国产成人综合网在线播放| 亚洲日本欧美| 亚洲国产婷婷综合在线精品| 日本国产黄色片| 国产美女主播在线| 视频免费观看网址| 日本内谢69xxxx免费| 精品国产成人三级在线观看| 四虎国产精品永久在线播放| 久久久国产精品网站| 亚洲第一网站| 8天堂资源在线| 717影院理论午夜伦八戒| 日日噜噜噜噜人人爽亚洲精品| 国产色婷婷精品综合在线观看| 日本人视频-jlzz jlzz jlzz| yiren22亚洲综合高清一区| 毛片在线看免费版| 日韩欧美一区二区三区不卡视频 | 色视频免费在线| 黄色网址在线播放|