Facebook Inc.今天更新了其流行的人工智能軟件框架PyTorch,其中包含對新功能的支持,這些新功能可將AI模型更無縫地部署到移動設(shè)備。
開發(fā)人員可以使用PyTorch 研究和構(gòu)建用于軟件應(yīng)用程序的AI模型,然后借助與領(lǐng)先的公共云平臺的集成將這些應(yīng)用程序直接用于生產(chǎn)。PyTorch最初是由Facebook的AI研究小組構(gòu)建的,它是針對編程語言Python的機(jī)器學(xué)習(xí)功能庫。
它主要設(shè)計(jì)用于深度學(xué)習(xí),深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個分支,試圖模仿人腦的運(yùn)作方式。它在語言翻譯,圖像和語音識別等領(lǐng)域取得了重大突破。
在移動設(shè)備上運(yùn)行機(jī)器學(xué)習(xí)的能力非常重要,因?yàn)閼?yīng)用程序可以從較低的延遲中受益匪淺。如果應(yīng)用程序可以自行處理數(shù)據(jù)而無需將其發(fā)送到云,那么畢竟,一切將變得更加流暢。
這就是Facebook試圖在最新版本的PyTorch中解決的問題,它支持從Python到在iOS和Android上部署的“端到端工作流程”。Facebook的PyTorch團(tuán)隊(duì)在博客文章中表示,這仍然是一項(xiàng)試驗(yàn)性功能,并且仍有很多工作要做,以提高移動中央處理器和圖形處理器上機(jī)器學(xué)習(xí)模型的性能。
第二項(xiàng)實(shí)驗(yàn)功能旨在在構(gòu)建機(jī)器學(xué)習(xí)應(yīng)用程序時更有效地利用服務(wù)器端和設(shè)備上的計(jì)算資源。對“八位模型量化”的支持的增加是在推理過程中提高性能的一種努力,在推理過程中,這是訓(xùn)練有素的機(jī)器學(xué)習(xí)模型得出結(jié)論或做出預(yù)測時。量化是指用于以降低的精度執(zhí)行計(jì)算和存儲的技術(shù)。
“為支持在服務(wù)器和邊緣設(shè)備上進(jìn)行更有效的部署,PyTorch 1.3現(xiàn)在使用熟悉的急切模式Python API支持8位模型量化,” PyTorch團(tuán)隊(duì)寫道。
PyTorch還獲得了一個名為Captum的新工具,該工具旨在幫助開發(fā)人員更好地理解為什么他們的機(jī)器學(xué)習(xí)模型可以得出一定結(jié)論。
PyTorch團(tuán)隊(duì)寫道:“ Captum提供了先進(jìn)的工具,以了解特定神經(jīng)元和層的重要性如何影響模型做出的預(yù)測。” “ Captum的算法包括集成的梯度,電導(dǎo),SmoothGrad和VarGrad以及DeepLift。”
其他更新包括發(fā)布Detectron2對象檢測庫,以幫助進(jìn)行計(jì)算機(jī)視覺研究。此外,F(xiàn)acebook還宣布了一個新的基于社區(qū)的研究項(xiàng)目CrypTen的啟動,該項(xiàng)目將探索隱私和安全技術(shù)的實(shí)施,例如安全的多方計(jì)算,受信任的執(zhí)行環(huán)境以及使用PyTorch進(jìn)行的設(shè)備上計(jì)算。
最后,F(xiàn)acebook表示,PyTorch現(xiàn)在支持Google Cloud的Tensor處理單元,以更快地開發(fā)和訓(xùn)練機(jī)器學(xué)習(xí)模型:“當(dāng)組裝到稱為Cloud TPU Pods的多機(jī)架ML超級計(jì)算機(jī)中時,這些TPU可以在數(shù)分鐘或數(shù)小時內(nèi)完成ML工作負(fù)載;在其他系統(tǒng)上,這些工作負(fù)載以前需要幾天或幾周的時間。”
Constellation Research Inc.的分析師Holger Mueller告訴SiliconANGLE,今天的更新顯示Facebook在PyTorch及其相關(guān)服務(wù)方面取得了穩(wěn)步的進(jìn)展。
“不過,關(guān)鍵問題是,與Google的TensorFlow相比,PyTorch能夠彌合多少差距?” 穆勒說。“兩者都是移動的目標(biāo),開發(fā)人員的采用將提供答案。”
-
移動設(shè)備
+關(guān)注
關(guān)注
0文章
504瀏覽量
54760 -
人工智能
+關(guān)注
關(guān)注
1792文章
47497瀏覽量
239214 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8428瀏覽量
132837 -
pytorch
+關(guān)注
關(guān)注
2文章
808瀏覽量
13283
發(fā)布評論請先 登錄
相關(guān)推薦
評論