導語：更強大，更全面

Facebook對人工智能相關技術的長期大規模投入盡人皆知。這些技術不僅構成了 Facebook獲得盈利的技術基礎，Facebook也宣稱它們可以幫助Facebook成為一個更安全、更具包容性、更公平的平臺。Facebook對AI方面的成果也相當慷慨，不僅秉持著學術研究成果全面開放的作風，他們開發的深度學習框架PyTorch也易用、親民，在工業級應用領域大有趕超谷歌TensorFlow之勢。

近日在 2019年Facebook開發者大會「F8」上，Facebook公布了PyTorch的重大更新 1.1版本，同時還發布并開源了其它多個開發工具，繼續降低機器學習/深度學習模型開發調試以及深度學習專用硬件設計的門檻。雷鋒網(公眾號：雷鋒網)AI 科技評論把更新主要內容介紹如下。

更新更強的 PyTorchv1.1

PyTorch在設計之初就兼顧了科研需要的靈活性、模塊性，以及工業級應用部署需要的穩定性和后續支持，它也具有類似Python的快速執行特性以及靈活的網絡結構動態調整功能。隨著PyTorch 1.0版本在去年 12 月發布，它也支持了基于圖（Graph）的運行、前后端模塊間的無縫混合運行、分布式訓練、高效移動端部署等功能，此外還可以使用PyTorchJIT（即時匯編）在圖模式和動態圖模式之間靈活切換。據Facebook介紹，許多企業已經把AI科研以及計算機視覺、對話系統、工業優化、自動駕駛等應用遷移到了PyTorch平臺上運行。

如今Facebook正式宣布了 PyTorchv1.1版本即將到來，包含性能提升、提升易用性的新的理解和視覺工具、新的API等。具體更新項目如下：

TensorBoard：TensorBoard是一個web應用套件，含有多種針對訓練過程以及圖的檢查理解工具。PyTorch 1.1中提供了優秀的原生支持，可以把TensorBoard 用于可視化以及模型debug。由于是原生支持，只需要一句簡單的「from torch.utils.tensorboard import SummaryWriter」指令就可以調用。

JIT編譯器：針對即時匯編進行了多項改進，包括多項bug修復，增加了TorchScript中的多項功能（比如支持辭典、用戶自定義類以及屬性）。

新的API：支持布爾類型張量，以及對用戶自定義的循環神經網絡提供更好的支持。

分布式訓練：提升了CNN之類常見模型的性能，增加了多設備模塊的支持，包括在使用分布式數據并行化（DDP）的同時為不同的GPU指定不同的模型，而且開始支持并不是在每次迭代中都使用所有參數的模型（比如控制流、自適應softmax等等）

Facebook也和機器學習社區內的多個機構合作，孵化更多幫助機器學習工程師們更高效地工作的項目，涉及的方面從提升理解模型的能力一直到用AutoML之類的方法自動調節模型。

更多生產和科研輔助工具

在宣布PyTorchv1.1版本的同時，Facebook也一并介紹了幾個新的開源工具。它們都是已經在Facebook大規模部署的成熟項目，有Facebook自己開發的工具，也有和谷歌等業界領路人一同開發的產品和服務，都為開放、合作式的機器學習大家庭貢獻了一份力量。其中最為重要的是BoTorch和Ax，Facebook有一篇單獨的介紹。

BoTorch：這是一個用于貝葉斯優化科研的基于PyTorch的開發庫。BoTorch使用了模塊化設計，并且同時使用了基于蒙特卡洛的采集功能和PyTorch中的自動微分功能，可以極大提升開發效率。BoTorch可以和任何PyTorch模型集成，這給同時使用貝葉斯優化和深度學習的科研帶來了極高的靈活性。另外，貝葉斯優化的樣本效率很高，很適合用于測試成本很高的黑盒功能的序列優化。

Ax：Ax是一個便于使用、通用目的設計的適應性試驗平臺，它可以管理、部署、自動化機器學習試驗。Ax會使用BoTorch中的最新功能，為開發者優化產品、優化技術基礎設施提供更多便捷。Ax也降低了貝葉斯優化、多臂抽獎問題（multiarmed bandit）以及其他復雜試驗技巧的使用門檻，幫助研究人員們更好地把科研想法引入到生產中。

PyTorch-BigGraph：這是一個為含有數十億個節點、數千億個邊的超大規模圖生成嵌入的分布式系統。它可以支持分片和逆向采樣，并且提供了基于維基百科數據嵌入的使用示例。

Google AI Platform Notebooks：這是一個基于谷歌云平臺的新的托管JupyterLab服務。數據科學家們可以快速創建支持運行JupyterLab的虛擬機，其中還預安裝好了最新的PyTorch。它也和BigQuery、CloudDataproc、CouldDataflow、AIFactory等 GCP服務緊密整合，開發者幾乎不需要離開JupyterLab就可以運行完成的機器學習全流程。

更多PyTorch學習資源

隨著PyTorch漸入佳境，越來越多的教育平臺也開始提供基于PyTorch的學習資源；況且PyTorch靈活動態的編程環境以及大家熟悉的Python界面都讓它適合快速實驗上手。谷歌Colab如今已經提供了交互式的JupyterNotebook環境，為PyTorch提供了原生支持，開發者們可以在免費的CPU和GPU資源上運行任何PyTorch教程。斯坦福自然語言處理小組（StanfordNLP）、加州大學伯克利分校計算機視覺小組、加州理工大學機器人課程中都開始把PyTorch作為機器學習編程教學平臺，MOOC課程中更是讓成千上萬的PyTorch開發者得以快速學習。

和新版本、新工具一起，Facebook宣布他們和優達學城（Udacity）建立合作，將在其中的深度學習入門課程中加入PyTorch教學，Facebook還會提供為繼續學習完整機器學習學位的參加者提供獎學金。Fast.ai也將于今年 6月提供新的使用PyTorch的深度學習課程。作為課程內容的一部分，fast.ai還會更新包括fastai.audio庫在內的新庫作為PyTorch模塊。