近日,摩爾線程與北京智源人工智能研究院(簡稱:智源研究院)已順利完成基于Triton語言的高性能算子庫FlagGems的適配工作。得益于摩爾線程自研統一系統計算架構MUSA,雙方在短短一周多的時間里,即成功完成了近60個算子的功能驗證,精度符合交付標準,并實現對Bert-large模型的全面支持。FlagGems算子庫在摩爾線程MUSA架構上展現出了接近手寫算子的計算性能,且性能還在持續調優,極大加速了開源大模型在摩爾線程全功能GPU上的部署速度。
智源研究院在今年的智源大會上推出了FlagGems算子庫,這是一個使用Triton編程語言實現的高性能通用算子庫,旨在為大語言模型提供一系列可應用于PyTorch框架的算子,加速模型的推理與訓練,降低新算法的開發門檻,促進芯片架構的創新。FlagGems算子庫以Triton編程語言的易用性和編譯器的標準接口為基礎,為多元芯片提供了一套易適配、高性能的算子解決方案,推動基于Triton的統一、開源的軟硬件生態建設。
在適配過程中,摩爾線程與智源研究院團隊緊密合作,共同克服了一系列技術挑戰,確保FlagGems算子庫在摩爾線程全功能GPU上的高效穩定運行。摩爾線程研發團隊經過充分調研論證,還形成了Triton編譯器在MUSA架構上適配的完整方案,力求實現開發者在基于摩爾線程全功能GPU進行Triton開發算子過程中,也能獲得與原來一致的體驗,做到CUDA框架和MUSA框架的無縫遷移。
此次合作不僅充分展示了摩爾線程全功能GPU強大的兼容性、靈活性與擴展性,也為開發者和用戶帶來了更廣泛的選擇和更高效的開發體驗。摩爾線程和智源研究院將繼續深化合作,共同促進AI技術的發展和應用,為中國大模型的發展貢獻力量。
關于智源研究院
北京智源人工智能研究院(簡稱:智源研究院)是北京市于2018年11月推動成立的新型研發機構。智源研究院的核心目標是聚焦人工智能原始創新和核心技術,推動人工智能理論、方法、工具、系統和應用取得變革性、顛覆性突破,支撐北京建設成為全球人工智能學術思想、基礎理論、頂尖人才、企業創新和發展政策的源頭。
關于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎設施和一站式解決方案,為各行各業的數智化轉型提供強大的AI計算支持。
我們的目標是成為具備國際競爭力的GPU領軍企業,為融合人工智能和數字孿生的數智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。
-
開源
+關注
關注
3文章
3492瀏覽量
43066 -
摩爾線程
+關注
關注
2文章
215瀏覽量
4857 -
大模型
+關注
關注
2文章
2845瀏覽量
3500
原文標題:摩爾線程 × 智源研究院|完成基于Triton的大模型算子庫適配
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
安徽省水利科學研究院攜手中科曙光完成DeepSeek大模型部署
摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
浪潮信息與智源研究院攜手共建大模型多元算力生態
安謀科技與智源研究院攜手共建開源AI“芯”生態
安謀科技與智源研究院達成戰略合作,共建開源AI“芯”生態

評論