電子發燒友網報道(文/李彎彎)深度學習框架是一種底層開發工具,是集深度學習核心訓練和推理框架、基礎模型庫、端到端開發套件、豐富的工具組件于一體的平臺。
有了深度學習框架,工程師在工作時調試算法,就可以更快速、更高效。通俗一點講,深度學習框架相當于是AI時代的操作系統,如同PC時代Windows,移動互聯網時代的iOS和安卓。
國內外都有哪些深度學習框架
深度學習框架的歷史并不算長,從2010年誕生的Theano算起,至今不過十二年時間。2017年后,早期的Theano、Caffe、Torch等框架逐漸銷聲匿跡,2016年前后出現的TensorFlow、PyTorch、飛槳逐漸占據市場。
TensorFlow由谷歌人工智能團隊谷歌大腦開發,擁有包括TensorFlow Hub、TensorFlow Lite、TensorFlow Research Cloud在內的多個項目以及各類應用程序接口。自2015年11月9日起,TensorFlow依據阿帕奇授權協議(Apache 2.0 open source license)開放源代碼。
PyTorch于2017年由Facebook人工智能研究院(FAIR)基于Torch推出,它是一個基于Python的可續計算包,提供兩個高級功能:1、具有強大的GPU加速的張量計算(如NumPy);2、包含自動求導系統的深度神經網絡。
飛槳(PaddlePaddle)以百度多年的深度學習技術研究和業務應用為基礎,集深度學習核心訓練和推理框架、基礎模型庫、端到端開發套件、豐富的工具組件于一體,是中國首個自主研發、功能完備、開源開放的產業級深度學習平臺。
根據調研機構IDC公布的一份中國深度學習框架平臺市場份額的報告,在中國深度學習領域,百度飛槳綜合市場份額已經成為中國第一。截至2022年5月,飛槳已經凝聚477萬開發者,創造56萬個AI模型,服務18萬企事業單位,與產學研用協同培養超過200萬AI人才。
從目前市場占有情況看,產業界以TensorFlow為主,學術界以PyTorch為主。與TensorFlow過于注重工業,PyTorch專注學界不同,飛槳的特性在于工業學界兩手抓,通過動態圖自動解析編譯靜態圖的技術,兼顧了學界的靈活,同時也實現了產業界希望的高效。
除了TensorFlow、PyTorch、飛槳,深度學習框架還包括由Amazon設計研發并開源MXNet、微軟在github上開源的CNTK、華為推出的MindSpore、北京一流科技有限公司開發的OneFlow,以及清華大學自研Jittor,和騰訊、字節跳動、360開源的Angel、BytePS、TensorNet。
國產深度學習框架框架的挑戰
深度學習框架是智能時代的操作系統,它和芯片一起共同構成了人工智能的基礎設施,深度學習框架的重要性不亞于芯片。在“十四五”規劃中,深度學習框架被列入“新一代人工智能”領域,成為國家重點支持的前沿創新技術。
如今以百度飛槳為代表,我國深度學習平臺已經沖破國外技術壟斷,越來越多的開發者正基于國產深度學習平臺開展智能化轉型應用。不過,中國自研深度學習框架想要在國際競爭中取得領先,還有很長的路要走。
百度AI技術生態總經理馬艷軍此前在百度AI開放日活動上表示,當前中國深度學習框架的發展仍需突破三大關鍵點:技術實力、功能體驗、生態規模。
首先,技術創新方面,深度學習框架的研發需要人工智能領域底層技術人才,我國在這一領域的儲備仍有不足。其次,在應用體驗方面,由于中國是全球產業鏈最為完備的國家,產業體系復雜,中小企業轉型需求迫在眉睫,一個低門檻甚至零門檻的開發平臺極為重要。
在開發應用生態方面,深度學習是一個典型的共創型技術領域,只有構建了自己的生態才能實現持續迭代和發展。然而構建生態周期長、成本高,而且只有當國產框架的技術和功能體驗足以滿足開發者的需求時,才有機會培育起自主創新的AI開發應用生態。
日前華為公司中央軟件院架構與設計管理部部長,華為科學家與昇思MindSpore首席架構師金雪鋒在某活動上也談到“AI框架的挑戰”相關的話題。
他認為,在人工智能新基建時代,AI框架面臨這幾個挑戰和機會點:1、新的應用范式:模型復雜度指數級增長,大模型成為新生產方式,AI與傳統科學計算融合,有望催生革命性成果。2、新的計算架構:計算量指數增長,通用芯片向領域高效能芯片轉變,雙碳經濟下,分散低效的算力向集約高效算力演進。3、新的開發和部署方式:AI行業應用進入深水區,融入生產系統是關鍵。
面對上述挑戰和機會點,華為昇思MindSpore進行了技術創新,比如面向新的應用范式,包括自動并行,原生大模型支持,即自動并行AI編譯器,通過編譯器進行復雜的多維混合并行策略的尋優,把算法和模型自動切分到集群上去執行,既大大降低了大模型的開發門檻,又保證了多種并行策略的靈活組合使用。
總結
整體而言,在人工智能體系中,深度學習框架處于貫通上下的腰部位置,下接芯片、上承應用,是一個關鍵樞紐,是推動AI應用大規模落地的關鍵力量。因此對于企業來說,克服深度學習框架當前面臨的挑戰,不斷進行技術創新,完善技術、功能和生態是關鍵。
-
操作系統
+關注
關注
37文章
6825瀏覽量
123332 -
AI
+關注
關注
87文章
30896瀏覽量
269087 -
推理
+關注
關注
0文章
8瀏覽量
7268
發布評論請先 登錄
相關推薦
評論