2024年,在數(shù)字化時代浪潮中,人工智能正成為推動社會進步的關(guān)鍵力量。澎峰科技在人工智能領(lǐng)域持續(xù)深耕,不斷開拓創(chuàng)新,書寫著屬于自己的輝煌篇章,為行業(yè)發(fā)展注入了源源不斷的動力。
技術(shù)創(chuàng)新與產(chǎn)品突破
1PerfXCloud 大模型服務(wù)平臺
2024年7月16日,在長沙聯(lián)合中科曙光發(fā)布PerfXCloud 大模型開發(fā)與服務(wù)平臺,目前已經(jīng)完成與國內(nèi)頭部各智算平臺的適配(海光、華為、沐曦、天數(shù)智芯、景嘉微等)和聯(lián)合測試,實現(xiàn)了全面兼容,為國產(chǎn)化算力融合提供堅實保障。平臺已支持超80種大模型的推理、微調(diào)(包括Qwen2.5 系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等),并不斷豐富模型倉庫,以滿足多樣化的應(yīng)用需求,為用戶提供更優(yōu)質(zhì)和便捷的模型服務(wù),幫助智算中心升級進化為超級AI Foundry。
部署案例:太行實驗室、湘江實驗室、長沙智算、天津超算、深圳先進院、等等。
2PerfXLM高性能大模型推理引擎
2024年5月1日,發(fā)布PerfXLM高性能大模型推理引擎,采用云邊端一體架構(gòu),支持云端和本地推理,完成對X86、RISC-V、ARM等主流CPU指令集的適配,完成對NVIDIA、Imagination、CUDA兼容GPU、以及多款NPU的適配,對計算硬件平臺的兼容性、穩(wěn)定性和可靠性上遠超vLLM。PerfXLM通過分層架構(gòu)(模型轉(zhuǎn)換層、推理引擎層、性能層),實現(xiàn)功能的深度優(yōu)化,同時憑借高性能定制優(yōu)化算子,極大提升推理效率與性能。特別是對于部分大模型,PerfXLM 展現(xiàn)了無與倫比的優(yōu)化成果,實現(xiàn)了平均吞吐量最高達到 vLLM 的300%的提升,為大模型的高效運行筑牢根基。
3PerfXAPI異構(gòu)計算軟件棧
自2021年4月23日,澎峰科技發(fā)布的PerfXAPI異構(gòu)計算軟件棧獲得“數(shù)字中國集成電路賽道|特等獎”,是我國發(fā)布的首個“異構(gòu)計算軟件棧”。2024年,發(fā)布PerfXAPI 2.0,支持多卡并行,支持Python等高層編程接口等新特性,扎實做強我國自研的PerfXAPI異構(gòu)計算軟件棧,并已經(jīng)成為國內(nèi)商業(yè)化程度最好、性能最優(yōu)、支持最全面的國產(chǎn)異構(gòu)計算軟件棧,包括且不限于x86/c86 CPU+XPU/DCU、ARM CPU+XPU等。PerfXAPI針對各類計算硬件全面支持了BLAS、FTT、VML、VRAND、LAPACK、AI-inference、Custom等庫函數(shù),為開發(fā)者提供一個開放、基于開源標準的跨架構(gòu)API編程模型,進而簡化開發(fā)工作,加速科學(xué)工程計算和人工智能計算領(lǐng)域應(yīng)用落地。在信號處理領(lǐng)域、CAE/CFD 領(lǐng)域、EDA領(lǐng)域、AI計算等領(lǐng)域取得了豐碩的成果。
案例:助力中國移動發(fā)布智算“芯合”算力原生基礎(chǔ)軟件棧2.0
4軟硬件融合智能計算一體機
4.1大模型AI實訓(xùn)一體機
2024年11月12日,澎峰科技聯(lián)合湖南中科曙光發(fā)布“PerfXCloud智算服務(wù)一體機”,助力教育行業(yè)邁向AI新紀元。產(chǎn)品發(fā)布后,即獲得國內(nèi)35所高等院校和科研機構(gòu)的一致好評,為大模型人工智能的教學(xué)提供充沛的高性能算力和強大的實訓(xùn)平臺支撐。一體機圍繞大模型推理、AI自動編程、提示詞優(yōu)化、智能體構(gòu)建、課程資料體系五個核心維度展開實訓(xùn)教學(xué)。不僅可以增強學(xué)生的實際操作能力,還通過豐富的課程和實踐項目,能夠全面提升學(xué)生在大模型人工智能領(lǐng)域的知識和技能,為未來的技術(shù)發(fā)展和職業(yè)需求打下堅實的基礎(chǔ)。
4.2大模型AI資訊一體機
2024年12月29日,澎峰科技面向合作伙伴發(fā)布“大模型AI資訊一體機”,為組織機構(gòu)強力打造資訊官“超級員工”和第二大腦。系統(tǒng)內(nèi)置AI Search、多模態(tài)數(shù)據(jù)爬蟲、個性化訂閱、知識管理、智能寫作、以及合同審批等契合用戶需求的AI Agent。產(chǎn)品適用于金融、媒體、法律、教育、營銷和政府等多個行業(yè),旨在提升信息處理效率、內(nèi)容創(chuàng)作質(zhì)量以及決策支持能力,助力客戶在數(shù)字化轉(zhuǎn)型中保持領(lǐng)先。
4.3 大模型AI畫師微服務(wù)
2024年11月18日,澎峰科技發(fā)布“大模型AI畫師微服務(wù)”解決方案,通過AI技術(shù)使得繪畫創(chuàng)作、IP打造、用戶互動以及多媒體內(nèi)容生成更加高效,促進文化價值的傳播和廣告業(yè)態(tài)的價值升級。AI畫師微服務(wù)賦能APP、微信小程序、廣告機等產(chǎn)品通過AI大模型實現(xiàn)了升級迭代。大模型微服務(wù)一系列解決方案推動了大模型AI技術(shù)的應(yīng)用落地,為AI創(chuàng)新應(yīng)用建立了示范。?
城市AI創(chuàng)新中心解決方案
澎峰科技正在打造一套全方位的城市AI創(chuàng)新中心解決方案,以助力城市在人工智能領(lǐng)域的創(chuàng)新與高質(zhì)量發(fā)展,獲得了多個城市合作邀約。???
1構(gòu)建AI創(chuàng)新服務(wù)平臺
為算力中心搭建一個功能完備的AI創(chuàng)新服務(wù)平臺,對AI應(yīng)用生態(tài)提供全流程的技術(shù)支撐,加速本地AI應(yīng)用人才培養(yǎng),建設(shè)強大的AI應(yīng)用生態(tài),打造大模型創(chuàng)新高地提供基礎(chǔ)。
2定制多場景AI解決方案
依托AI創(chuàng)新服務(wù)平臺的強大能力,深度結(jié)合本地豐富的數(shù)據(jù)資源以及各領(lǐng)域的具體需求,聯(lián)合軟件生態(tài)伙伴賦能文旅、交通、金融、企服、政務(wù)等領(lǐng)域,推動新質(zhì)生產(chǎn)力發(fā)展。
3打造AI生態(tài)運營服務(wù)體系
為城市建立一套開放、共享、可持續(xù)發(fā)展的AI生態(tài)運營服務(wù)體系,為城市AI創(chuàng)新提供持久動力。該體系涵蓋展廳運營、解決方案運營以及垂類領(lǐng)域場景服務(wù)的新模式。展廳運營將全方位展示AI創(chuàng)新成果與應(yīng)用場景,吸引各方關(guān)注與參與;解決方案運營則確保各定制化AI解決方案的高效落地與持續(xù)優(yōu)化;垂類領(lǐng)域場景服務(wù)新模式,將為教育、文旅、政務(wù)等各領(lǐng)域提供針對性、全方位的技術(shù)支持與專業(yè)服務(wù),共同構(gòu)建城市AI創(chuàng)新發(fā)展的良好生態(tài)。
產(chǎn)學(xué)研合作共進
1持續(xù)推進澎峰校園行活動
2024年,澎峰云校園行活動走進多所高校,包括西安交通大學(xué)、深圳理工大學(xué)、華北理工大學(xué)、湖南工商大學(xué)、湖南農(nóng)業(yè)大學(xué)、湖南開放大學(xué)、湖南第一師范學(xué)院、湖南科技職業(yè)學(xué)院等。活動通過技術(shù)分享會、專題講座等形式,為師生們帶來了前沿的大模型技術(shù)知識,激發(fā)了學(xué)生們對 AI 技術(shù)的熱情和創(chuàng)新思維。
2首屆澎峰云創(chuàng)賽激情開賽
2024年9月30日,澎峰科技聯(lián)合中科曙光聯(lián)合主辦的第一屆 “澎峰云?大模型 AI 校園應(yīng)用創(chuàng)新賽”,吸引了湖南工商大學(xué)、重慶理工大學(xué)、中南大學(xué)、青島大學(xué)、第一師范等數(shù)十所高校學(xué)子踴躍參與,報名參賽隊伍超100支,提交AI創(chuàng)意應(yīng)用作品超80個。
該賽事為學(xué)生提供了展示創(chuàng)新能力的舞臺,促進了大模型技術(shù)在校園中的應(yīng)用和創(chuàng)新實踐,為培養(yǎng)未來的創(chuàng)新領(lǐng)軍人才奠定堅實基礎(chǔ)。
3校企合作,深度融合
澎峰科技與湖南工商大學(xué)等高校攜手簽署校外實習(xí)基地合作協(xié)議,共同開啟 “訂單式” 人才培養(yǎng)的新篇章。雙方將在人才培養(yǎng)、實踐教學(xué)、科研創(chuàng)新等方面深度合作,為學(xué)生提供更多實踐機會,同時為企業(yè)輸送高素質(zhì)人才,實現(xiàn)校企雙贏,共同推動行業(yè)發(fā)展。
行業(yè)影響力與榮譽
1盛會高光
澎峰科技攜手光合組織盛大舉辦 “立體計算開啟智能新征程 ——PerfXCloud 大模型人工智能生態(tài)技術(shù)大會”,并受邀參與 2024 世界計算大會、2024 中國算力大會、CCF HPC China 2024 等行業(yè)頂級盛會。吸引了政府、學(xué)術(shù)界和企業(yè)界的眾多目光,充分展示了澎峰科技在技術(shù)創(chuàng)新和應(yīng)用實踐方面的強大實力。 1.1 成功舉辦首屆PerfXCloud生態(tài)大會
2024年7月16日,澎峰科技攜手光合組織,在湖南省長沙市岳麓科創(chuàng)港隆重舉辦了"立體計算"開啟智能新征程——PerfXCloud大模型人工智能生態(tài)技術(shù)大會。本次會議匯聚了政府領(lǐng)導(dǎo)、行業(yè)專家及企業(yè)代表共300+人,見證PerfXCloud平臺的創(chuàng)新技術(shù),共同探討人工智能的未來趨勢。
1.2 在CCF HPC China 2024峰會,澎峰科技成功主持第四屆異構(gòu)計算軟件棧與應(yīng)用論壇
2024年9月24日,在第二十屆全國高性能計算學(xué)術(shù)年會(CCF HPC China 2024)期間,澎峰科技成功主持第四屆異構(gòu)計算軟件棧與應(yīng)用論壇,并攜最新研發(fā)成果參展。會議期間,澎峰科技受到中國工程院院士孫凝暉老師的親切指導(dǎo),第十四屆全國政協(xié)委員、中國科學(xué)院計算技術(shù)研究所研究員張云泉,湖南大學(xué)常委副校長李肯立,CCF高專委秘書長、中國科學(xué)院計算技術(shù)研究所研究員譚光明等專家與領(lǐng)導(dǎo)先后蒞臨澎峰科技展臺參觀并指導(dǎo)工作。
1.3 2024世界計算機大會
2024年9月24日—25日,澎峰科技作為國內(nèi)領(lǐng)先的AI Infra企業(yè),在長沙盛大舉行的2024年世界計算大會上驚艷亮相。澎峰科技展出大模型領(lǐng)域的創(chuàng)新成果——PerfXCloud大模型開發(fā)與服務(wù)平臺,備受政府、學(xué)術(shù)界和企業(yè)界的高度關(guān)注,榮獲“2024世界計算大會專題展優(yōu)秀成果獎”
1.4 2024中國算力大會
2024年9月27日,中國算力大會在河南鄭州舉行。澎峰科技 CEO 張先軼博士發(fā)表了重要演講,詳細闡釋了自主研發(fā)的三大國際領(lǐng)先的計算軟件棧(PerfMPL高性能數(shù)學(xué)計算庫,PerfXAPI異構(gòu)計算軟件棧,PerfXLM大模型推理引擎),兩大AI平臺(PerfXCloud.cn跨域算力調(diào)度的大模型開發(fā)與部署平臺,LLMWorld.net 大模型應(yīng)用創(chuàng)新生態(tài)門戶),為國產(chǎn)融合算力和AIGC應(yīng)用創(chuàng)新生態(tài)發(fā)展指明了前進方向,并在本次大會榮獲 “算力之星” 優(yōu)秀創(chuàng)業(yè)團隊獎。
1.5 2024中國超級算力大會
2024年11月15日,第六屆中國超級算力大會ChinaSC2024暨中國智能計算產(chǎn)業(yè)聯(lián)盟理事會在北京盛大召開。大會以“智算力,大模型,新經(jīng)濟”為主題,就算力經(jīng)濟時代的技術(shù)創(chuàng)新、生態(tài)協(xié)同、大模型應(yīng)用等話題進行深入探討,共同探索大模型涌現(xiàn)時刻的算力生態(tài)演進發(fā)展,為新質(zhì)生產(chǎn)力點燃新引擎。
澎峰科技創(chuàng)始人兼CEO張先軼博士受邀出席此次盛會,并發(fā)表《基于國產(chǎn)異構(gòu)算力PerfXCloud大模型應(yīng)用創(chuàng)新解決方案》的主題演講。張博士提出以算力為核心,以AI應(yīng)用為抓手,助力城市打造AI應(yīng)用創(chuàng)新中心。澎峰科技依托PerfXCloud支持異構(gòu)計算的優(yōu)勢,充分釋放各地算力中心的價值,賦能城市典型應(yīng)用場景。
澎峰科技憑借卓越的技術(shù)實力和突出的市場表現(xiàn),榮獲了“2024中國算力卓越企業(yè)”獎。
2榮譽獎項
公司創(chuàng)始人張先軼博士受聘為主權(quán)級大模型創(chuàng)新聯(lián)合體學(xué)術(shù)委員會委員。
公司創(chuàng)始人張先軼博士榮獲北京市科學(xué)技術(shù)獎自然科學(xué)獎二等獎。
公司創(chuàng)始人張先軼博士當(dāng)選為CCF高性能計算專業(yè)委員會 常委。????
基于異構(gòu)國產(chǎn)算力的 PerfXCloud 大模型開發(fā)與服務(wù)平臺榮獲2024 年度國家新一代自主安全計算系統(tǒng)產(chǎn)業(yè)集群“信創(chuàng)優(yōu)秀案例”。
基于異構(gòu)國產(chǎn)算力的 PerfXCloud 大模型開發(fā)與服務(wù)平臺榮獲“2024世界計算大會專題展優(yōu)秀成果獎”。
榮獲“國家先進制造業(yè)集群成員企業(yè)”稱號。
榮獲“2024中國算力卓越企業(yè)”獎。
榮獲2024中國算力大會“算力之星”優(yōu)秀創(chuàng)業(yè)團隊獎。
生態(tài)合作與貢獻
1產(chǎn)業(yè)協(xié)同,合作共贏
2024年,中國移動研究院攜手澎峰科技等產(chǎn)業(yè)合作伙伴重磅發(fā)布智算 “芯合” 算力原生基礎(chǔ)軟件棧 2.0。
2024年4月22日,澎峰科技與并行科技(股票代碼:839493)達成戰(zhàn)略合作,整合雙方優(yōu)勢資源,共同拓展 AI 大模型技術(shù)在各行業(yè)的創(chuàng)新應(yīng)用服務(wù),實現(xiàn)了產(chǎn)業(yè)協(xié)同發(fā)展的良好局面。
2024年7月1日,澎峰科技在網(wǎng)易有道 Qanything 與燧原 i20 的適配中發(fā)揮了關(guān)鍵的技術(shù)支持和橋梁作用,推動了國產(chǎn)軟硬件生態(tài)發(fā)展及園區(qū)智慧辦公轉(zhuǎn)型。
2開源貢獻,推動進步
2024年,澎峰科技積極參與行業(yè)標準制定,參編多項重要標準,為行業(yè)的規(guī)范化和健康發(fā)展貢獻了自己的力量。依托于張先軼博士發(fā)起的國際知名開源項目OpenBLAS,我們進一步創(chuàng)立了OpenMathlib組織,并發(fā)布的OpenMPL-Runtime項目。在開源生態(tài)建設(shè)方面,助力 Agently 開源生態(tài),推動大模型 Agent 原生應(yīng)用的快速發(fā)展;與 Dify 合作,為用戶提供了更加便捷、高效的大模型應(yīng)用開發(fā)途徑。
最后,感謝合作伙伴、同仁、朋友在過去一年里對澎峰科技的關(guān)注與支持。期待在2025年,大家一起為我國數(shù)字化進程砥礪前行,共創(chuàng)輝煌!
-
集成電路
+關(guān)注
關(guān)注
5391文章
11588瀏覽量
362513 -
人工智能
+關(guān)注
關(guān)注
1792文章
47497瀏覽量
239203 -
大模型
+關(guān)注
關(guān)注
2文章
2503瀏覽量
2919
原文標題:2024年工作匯報|勇立潮頭,創(chuàng)新領(lǐng)航
文章出處:【微信號:perfxlab,微信公眾號:perfxlab】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論