近來移動通信和 5G 網絡等快速發展，它們的調控與配置因為充滿了多樣性和動態變化而面臨非常多的挑戰。因此近來很多研究科學家開始利用機器學習及深度學習加強移動和無線網絡的配置，并幫助應對數據量和算法驅動的應用程序的增長。本論文基本是首篇綜述深度學習及無線網絡交叉學科研究面貌的調研，讀者可以閱讀原論文全面了解該新興交叉學科。

互聯網連接的移動設備正在滲透生活、工作和娛樂的各個方面。智能手機數量不斷增加以及不斷增多的應用程序引發了移動數據流量的激增。事實上，最新行業預測顯示，到 2021 年，全球 IP 年流量將達到 3.3 澤字節 ( 1015 兆字節)，同年，智能手機流量將超過 PC 流量 [1]。由于用戶偏好轉向無線連接，當前移動基礎設施面臨著巨大的容量需求。針對這一日益增長的需求，有人建議采用靈活的資源供給方式 [ 2 ]，分布式解決移動管理問題 [ 3 ]。然而，長遠來看，互聯網服務提供商 ( ISP ) 必須開發智能異構架構和工具，以催生第五代移動系統 ( 5G )，并逐步滿足終端用戶的迫切需求 [4], [5]。

移動網絡架構日益多樣化且復雜性不斷提高，監控和管理眾多網絡元素的問題因而變得棘手。因此，廣大研究人員對多功能機器智能嵌入未來移動網絡這一課題的興趣空前高漲 [6]，[7]。這種趨勢反映在機器學習（ML）解決方案中，從無線接入技術（RAT）選擇 [8] 到惡意軟件檢測 [9]，以及支持機器學習實踐的網絡系統的開發。機器學習能夠從流量數據中系統地挖掘有價值的信息，并自動發現其相關性，這類問題對于人類專家來說太過復雜 [12]。作為機器學習的重要部分，深度學習在計算機視覺 [13] 和自然語言處理（NLP）[14] 等領域取得了卓越的進展。網絡研究人員也開始認識到深度學習的重要性，并探索如何將深度學習應用到移動網絡領域 [15], [16]。

我們有充分理由在在 5G 移動和無線網絡中嵌入深度學習，尤其在處理移動環境產生的異構數據。因為這些數據通常來源廣泛，格式各異，并且表現出復雜的相關性 [17]。傳統的機器學習工具需要繁瑣的特征工程才能根據這些數據做出準確的推論和決策。深度學習消除了領域專業知識的門檻，因為它采用分層特征提取，該技術可以有效地提取信息并從數據中獲取越來越抽象的相關性，同時最大限度地減少數據預處理工作量。基于圖形處理單元（GPU）的并行計算進一步使深度學習能夠在毫秒內進行推理。這有利于分析網絡，提高管理準確度并克服傳統數學技術（例如凸優化、博弈論、元啟發式）的運行時間限制。

盡管移動網絡領域的深度學習炙手可熱，但現有的成果分散在不同的研究領域，缺乏全面而簡明的研究。本文通過介紹這兩個領域交叉研究的最新調查，填補了深度學習與移動、無線網絡之間的鴻溝。除了回顧相關度最高的文獻之外，本文還討論了各種深度學習架構的優缺點，并提出深度學習模型的選擇策略，以解決移動網絡問題。此外，本文還進一步研究了針對個人移動網絡任務量身定制深度學習的方法，以在復雜環境下實現最佳性能的方法。最后，本文指出未來值得深入研究的方向和尚未解決的重要問題，而最終目標是為用深度學習來解決各領域問題的網絡研究人員和從業人員提供明確的指導。

本文結構：如圖 1 所示，本文采用自上而下的方式組織文章。首先，本文將討論圍繞深度學習、未來移動網絡和使用深度學習構建的網絡應用程序進行的高層次概述工作，這些工作有助于定義本文的范圍和貢獻 (第 2 節)。鑒于深度學習技術是移動網絡社區中的新課題，第 3 節給出了深度學習的基本背景，突出了解決移動網絡問題的直接優勢。許多因素能夠促進移動網絡應用領域的深度學習實現 (包括專用的深度學習庫、優化算法等)。第 4 節討論了這些促進因素，幫助移動網絡研究人員和工程師選擇合適的深入學習軟硬件平臺。

圖 1：本文圖解示意圖

第 5 節介紹和比較了最先進的深度學習模型，并提供了網絡問題解決方案。第 6 節回顧了近期深度學習領域中移動和無線網絡應用，本文將這些應用分為不同的場景，從移動流量分析到安全以及新興應用。第 7 節討論了如何針對移動網絡問題定制深度學習模型，并強調網絡研究中，深度學習應用相關的開放性問題（第 8 節）。本文結尾部分簡要討論移動網絡和深度神經網絡之間的相互作用（第 9 節）。

論文：Deep Learning in Mobile and Wireless Networking: A Survey

摘要：移動設備以及移動應用和服務的日益普及對移動和無線網絡基礎設施的需求達到前所未有的高度。即將推出的 5G 系統正在發展，以應對移動通信量的爆炸式增長，并靈活管理網絡資源，從而最大限度地提高用戶體驗及細粒度抽取實時分析的能力。該任務頗具挑戰性，因為移動環境日趨復雜、多樣化并不斷發展變化。一個潛在的解決方案是采用先進的機器學習技術來幫助應對數據量和算法驅動的應用程序的增長。深度學習的最新成果是有效解決這一問題的基礎。

本文通過對深度學習與移動、無線網絡研究的交叉領域開展綜合性研究，填補了二者之間的鴻溝。首先，本文簡要介紹了深度學習技術的基本背景和最新進展，以及在網絡方面的潛在應用。然后討論了幾種有助于在移動系統上高效部署深度學習的技術和平臺。隨后，本文對基于深度學習的移動和無線網絡研究進行了百科全書式的回顧，并按不同領域進行了分類。此外，本文還基于自己的經驗討論了如何根據移動環境定制深度學習。最后明確了當前的挑戰和未來的研究方向。

近來深度學習有很多先進的綜述性調查或研究，它們都令深度學習尤其是移動端網絡架構在終端設備上有很大的提升。一般來說，深度學習的這些進步主要體現在先進的并行計算、分布式機器學習系統、便捷的深度學習框架和高效的最優化方法等。我們在下表 3 展示了這些進步，并在論文中詳細討論它們。

表 2：與深度學習和移動網絡相關的現有調研、學術論文和專著匯總。符號 D 表示該出版物所處的研究領域，?標記不直接覆蓋該領域的文章，但讀者可以從中檢索一些相關的見解，與深度學習和移動網絡相關的出版物都使用陰影表示。

3. 深度學習基礎

我們首先將簡述深度學習，并重點介紹該領域的核心原則以及成功的關鍵優勢。深度學習實際上是機器學習的一個分支，它通過多層非線性處理單元從原始數據中分層抽取特征與知識，因而能針對一些目標執行高效的預測或決策。相比傳統機器學習，深度學習的主要優勢是在于自動抽取特征，因而避免了昂貴的人工特征預處理過程。此外，我們在下圖 2 中展示了深度學習、機器學習以及人工智能之間的關系。

圖 2：深度學習、機器學習和 AI 之間關系的維恩圖。本調研重點關注移動和無線網絡中的深度學習應用。

對于一般的深度學習來說，它們可以抽象為一系列相互嵌套的復合函數，且這種復合函數在直觀上可以表示為一系列疊加的層級。如下展示了一般深度神經網絡架構的訓練和推斷過程，其中正向傳播即神經網絡的推斷過程。因為它們可以抽象為一個復合函數，那么根據復合函數的鏈式求導法則，我們可以輕松地使用反向傳播和最優化方法訓練神經網絡。

圖 3：4 層卷積網絡的學習和推斷過程，其中 w(·) 代表每一個隱藏層的權重、σ(·) 代表激活函數、λ 為學習率、?(·) 表示了卷積運算，而 L(w) 為需要優化的損失函數。

4. 深度學習在移動網絡中的應用

5G 系統是試圖提升信息吞吐量并獲得低延遲通信服務的協議，它們能很大程度上提升用戶的 QoE [4]。但在 5G 系統上構建深度學習智能系統是非常復雜和昂貴的。幸運的是，目前一些進步令深度學習在移動端的應用變成了可能：（i）高級并行計算，（ii）分布式機器學習系統，（iii）優秀的深度學習框架，（iv）快速優化算法和（v）霧計算（fog computing）。我們在下表 3 中總結了這些優勢。

表 3：在移動系統中嵌入深度學習的工具和技術匯總

因為并行計算和分布式系統的進步，目前深度學習出現了很多適用于移動端的框架和平臺，它們都尋求在移動端上精簡和優化深度模型。我們在表 4 中對比了這些平臺。

表 4：深度學習移動平臺對比

5. 深度學習：頂尖性能

若我們重新回顧圖 2，機器學習方法可以很自然地分為監督學習、無監督學習和強化學習，而深度學習在這些領域中都實現了當前最頂尖的性能。在這一章節中，我們將介紹深度學習的關鍵原則，并討論它們在解決移動網絡問題上的潛力。下圖 4 和表 5 都展示了當前基本的深度神經網絡架構。

圖 4：MLP、RBM、AE、CNN、RNN、GAN 和 DRL 的基本結構和操作原理。

如上所示為基本的深度網絡架構，當然最基礎的是有感知機發展而來的多層感知機或全連接網絡，該網絡前后兩層的所有神經元都相互有連接。而后卷積神經網絡和循環神經網絡都基于一些先驗特征而只有局部連接，這樣不僅減少了權重數量，同時還加強了模型的性能。

以下展示了各神經網絡架構的屬性、優勢和應用于移動網絡的潛力等：

表 5：不同深度學習架構匯總。陰影部分是 GAN 和 DRL，因為它們是建立在其他模型之上的。

6. 深度學習驅動的移動和無線網絡

深度學習在移動網絡領域應用廣泛。本文在不同的網絡管區中組織和分類深度學習應用，并描述其貢獻。接下來，本文將介紹所有領域的重要出版物，并對比其設計和原則。

無線傳感器網絡（WSN）由一組分布在不同地理區域的獨特或異構傳感器組成。它們通過無線通道協同監測物理或環境狀態（如溫度、壓力、運動和污染），并將已收集數據傳輸到中心服務器。

圖 5：蜂窩、WiFi 和無線傳感器網絡中的移動數據收集過程示意圖。BSC：基站控制器；RNC：無線電網絡控制器。

不同無線網絡中收集的數據是不一樣的，如下展示了由不同基礎設施收集的不同數據及及其類型。

表 6：移動大數據的分類。

后面表 7、圖 6 和表 8 展示了上述不同數據類型的應用、部署與研究工作等。

表 7：網絡級移動數據分析工作總結。

圖 6：應用級移動數據分析的兩種部署方法示意圖，即基于云（左）的方法和基于邊緣（右）的方法。基于云的方法在云端推斷并將結果發送給邊緣設備。相反，基于邊緣的方法則是在邊緣設備上部署可進行本地推理的模型。

表 8：應用級移動數據分析工作的總結。

表 9：深度學習驅動的移動分析和室內定位的研究工作總結。

表 10：深度學習驅動的 WSNs 研究工作總結。

無線網絡其實還能使用強化學習和模仿學習等先進的技術控制移動網絡：

圖 7：應用于移動和無線網絡管控的三種管控方法的原理，即強化學習（上）、模仿學習（中）和分析管控（下）。

表 11：深度學習驅動的網絡管控研究工作總結。

表 12：深度學習驅動的網絡安全研究工作總結。

7. 把深度學習適用于移動網絡

盡管深度學習在諸多移動網絡領域表現不凡，但免費午餐定理（NFL）表明，一個模型不可能一勞永逸地解決所有問題 [356]。這意味著對于任何特定的移動和無線網絡問題，我們可能需要采用不同的深度學習架構以取得更好表現。本節將重點討論如何從三個角度為移動網絡應用定制深度學習，即移動設備和系統、分布式數據中心以及不斷變化的移動網絡環境。

表 13：深度學習驅動的新興移動網絡應用總結。

表 14：移動設備和系統的深度學習研究工作總結。

圖 8：模型并行（左）和訓練并行（右）的基本原理。

圖 9：深度終身學習（左）和深度遷移學習（右）的基本原理。終身學習保留已學的知識，而遷移學習利用源領域標記數據改善沒有知識保留的目標領域學習。

8. 未來研究展望

盡管深度學習在移動網絡領域取得的成果日益顯著，但仍有若干個關鍵的開放性研究問題存在，值得去關注。接下來，本文將討論這些挑戰并界定這些可通過深度學習解決的重要移動網絡問題，進而為未來的移動網絡研究提供見解。

圖 10：意大利米蘭 3D 移動流量表面（左）和 2D 投影（右）的實例。圖像 [163] 通過 [402] 中的數據繪制而成。

圖 11：移動流量數據（左）和其他數據（右）之間的類比。

9. 結論

深度學習在移動和無線網絡領域扮演著日益重要的角色。本文給出了一份有關這兩個不同領域之間交叉點的最新的全面工作調查，并總結了各種深度學習模型的基本概念和高級原理，然后通過回顧不同應用場景下的工作來關聯深度學習和移動網絡學科。本文還討論了如何針對一般移動網絡應用定制深度學習模型，這是以前調查完全忽視的一個方面。最后，本文得出了可能會帶來有價值的未來研究結果的若干個開放的研究問題和有希望的方向，并希望這篇文章能成為研究人員和從業人員將機器智能應用于移動網絡環境中復雜問題的有趣而明確的指南。