TensorFlow 2.2.0-rc0已發布,據官方介紹,TensorFlow 是一個采用數據流圖(data flow graphs),用于數值計算的開源軟件庫。節點(Nodes)在圖中表示數學操作,圖中的線(edges)則表示在節點間相互聯系的多維數據數組,即張量(tensor)。它靈活的架構讓你可以在多種平臺上展開計算,例如臺式計算機中的一個或多個CPU(或GPU),服務器,移動設備等等。TensorFlow 最初由Google大腦小組(隸屬于Google機器智能研究機構)的研究員和工程師們開發出來,用于機器學習和深度神經網絡方面的研究,但這個系統的通用性使其也可廣泛用于其他計算領域。
更新內容如下:
主要特性和改進
將字符串張量的標量類型從std::string替換為tensorflow::tstring
TF 2 的新 Profiler,用于 CPU/GPU/TPU。它提供設備和主機性能分析,包括輸入管道和 TF Ops。
不推薦使用 SWIG,而是使用 pybind11 將 C++ 函數導出到 Python,這是棄用 Swig 所作努力的一部分。
tf.distribute:
tf.keras:
tf.lite:
XLA
將 NVIDIA NCCL 更新到 2.5.7-1,以獲得更好的性能和性能調整。
支持在 float16 中減少梯度。
所有實驗的支持都減少了梯度壓縮,以允許使用反向路徑計算進行重疊梯度聚合。
通過使用新添加的 tf.keras.layers.experimental.SyncBatchNormalization 層,添加了對全局同步 BatchNormalization 的支持。該層將在參與同步訓練的所有副本之間同步 BatchNormalization 統計信息。
使用 tf.distribute.experimental.MultiWorkerMirroredStrategy 提高 GPU 多工分布式培訓的性能
可以通過覆蓋 Model.train_step 將自定義訓練邏輯與 Model.fit 結合使用。
輕松編寫最新的培訓循環,而不必擔心 Model.fit 為你處理的所有功能(分發策略,回調,數據格式,循環邏輯等)
Model.fit的主要改進:
現在,SavedModel 格式支持所有 Keras 內置層(包括指標,預處理層和有狀態 RNN 層)
默認情況下啟用 TFLite 實驗性新轉換器。
XLA 現在可以在 Windows 上構建并運行。所有預構建的軟件包都隨附有 XLA。
可以在 CPU 和 GPU 上使用“編譯或拋出異常”語義為 tf.function 啟用 XLA。
-
機器學習
+關注
關注
66文章
8418瀏覽量
132635 -
tensorflow
+關注
關注
13文章
329瀏覽量
60536
發布評論請先 登錄
相關推薦
評論