3月25日下午,曠視科技舉辦線上發布會,宣布開源新一代AI生產力平臺Brain++的核心深度學習框架曠視天元(MegEngine)。
據了解,天元的前身是曠視內部自用的算法訓練推理引擎MegEngine,由曠視3名實習生在2013年啟動研發,并與2014年正式完成上線。這款自研的深度學習框架支撐了曠視6年以來在國際AI競賽的表現,以及公司產品和業務的落地,目前服務于曠視研究院1400余名AI開發者。
發布會上,曠視聯合創始人兼CTO唐文斌正式宣布將MegEngine的代碼開源,并指出這是一套訓練推理一體化、動靜態合一的工業級深度學習框架,中文名字叫做天元。
據介紹,在傳統深度學習研發中,產品從原型到生產部署往往需要分開設計和調用訓練框架和推理框架兩種框架,這就導致模型在訓練和推理的轉換的過程中出現不明原因的性能或精度損失,需要開發者手工進行優化,而算法在計算平臺部署的時候出現各種問題也無法追溯。
天元框架避免了這樣的問題,通過訓練、推理一體化的機制省去模型轉換的過程,可直接將訓練后的模型進行推理,并保證跨設備的模型精度對齊,同時天元內置自動模型優化、簡化流程,減少因手工操作的機會,降低出錯概率。
除此之外,天元配置了 Python 和 C++ 接口,支持動態圖、靜態圖一鍵轉換和混合編程,可使用高級編程語言進行圖優化和圖編譯。在運行時管理環節,天元具備執行流與調度器,采用動態、靜態內存分配并存的方式,并通過自動的亞線性內存管理優化器可以得到更好的內存優化效果;在底層設計上,天元的計算內核兼容主流計算設備,且支持多機多卡和分布式訓練。而為了解決模型復現困難的問題,天元則支持 PyTorch Module 導入,可針對計算機視覺任務進行優化。
目前,曠視已在中國新一代人工智能開源開放平臺OpenI啟智社區和開源社區 GitHub 上同步發布了天元 Alpha 版源代碼,開發者也可以通過天元官方網站的在線深度學習工具免費調用算力、獲取最新數據集和訓練腳本,進行簡單訓練和試用。
與此同時,曠視為天元的開發者準備了算法預訓練模型ModelHub,支持開發者開箱即用。據悉,對于天元框架開源后的發展規劃,曠視透露將在技術貢獻者的幫助下,于6月份推出 Beta 版本。
-
人工智能
+關注
關注
1791文章
47279瀏覽量
238511 -
深度學習
+關注
關注
73文章
5503瀏覽量
121170
發布評論請先 登錄
相關推薦
評論