從 2016 年 AlphaGo 戰勝李世石掀起深度學習的熱潮,到如今深度學習寒冬論甚囂塵上,短短兩三年時間,深度學習被唱衰,如今在產業互聯網的高速發展下深度學習又該走向何方?未來的發展方向在何方?
深度學習技術自身的局限性
深度學習畢竟是機器學習,不會像人一樣思考,這就使得深度學習存在著很大的局限性。對于大多數任務而言,要么不存在相應的深度神經網絡能夠解決任務,要么即使存在這樣的網絡,它也可能是不可學習的。
通過堆疊更多的層并使用更多訓練數據來擴展當前的深度學習技術,只能在表面一緩解一些問題,無法解決更根本的問題,比如深度學習模型可以表示的內容非常有限,比如大多數你想要學習的程序都不能被表示為數據流形的連續幾何變換。
另外一點比較突出的問題在于深度學習的泛化能力不夠,或者稱之為只有局部泛化能力。而我們人類不會,我們通過將事務進行抽象和推理的手段,可以做到少樣本或者零樣本學習。對于我們人類而言,我們有著極端泛化能力。
比如說,我們想要學習讓火箭登錄月球的正確發射參數。
如果使用深度網絡來完成這個任務,并用監督學習或強化學習來訓練網絡,那我們需要輸入上千次、甚至上百萬次發射實驗。相比之下,我們人類可以利用抽象能力提出物理模型(火箭科學),并且只用一次或幾次實驗就能得到讓火箭登錄月球的精確解決方案。同樣,如果你開發一個能夠控制人體的深度網絡,并且希望它學會在城市里安全行走,不會被汽車撞上,那么這個網絡不得不在各種場景中死亡數千次,才能推斷出汽車是危險的,并且做出適當的躲避行為。將這個網絡放在一個新的城市,它將不得不重新學習已知的大部分知識。但人類不需要死亡就可以學會安全行為,這個也要歸功于我們對假想情景進行抽象建模的能力。
看來,深度學習和真正意義上的智能有著極大差距。語音識別、智能翻譯、圖像識別、AlphaGo、自動駕駛….. 盡管人類在深度學習領域取得了不小的進步,但是距離人類級別的人工智能仍有著很大距離。
深度學習技術該走向何方?
深度學習帶來了人工智能的第三次熱潮,大量資本和人才紛紛涌入人工智能領域,關于人工智能的創業公司迅速增長。據最新發布的《中國新一代人工智能科技產業發展報告》統計,2018 年全球人工智能領域專利申請量達到 13 萬余件,我國人工智能企業占世界人工智能企業總數的 21.67% ,排名世界第二。
技術不同于科學研究,遲早要尋求回報。人工智能風口下的初創公司,只有精耕產品需求,使解決方案更加的解決客戶難題,才能發揮技術的價值。
另一項數據則顯示我國 90% 的 AI 公司由于未找到商業變現的途徑,處于虧損狀態。但也有一些企業借創新的技術,過硬的實力,全鏈的產業落地模式,在產業互聯網時代受到資本的寵溺,一躍成為行業獨角獸,如第四范式、字節跳動、寒武紀科技、云從科技、馭勢科技、曠視科技、商湯科技、圖森未來、依圖科技等高科技公司。
國內外各大科技巨頭公司紛紛進軍深度學習領域,無論是國外的谷歌、亞馬遜、Facebook,還是國內的百度、阿里、騰訊等科技巨頭公司紛紛開源了自己的深度學習框架。產業互聯網時代,更多人工智能公司追求商業落地,將技術賦能場景。
我們如何克服深度學習的局限性并通向通用智能?眾多科學家對此也進行了解答:
在未來,模型將會融合算法模塊與幾何模塊,前者提供正式的推理、搜索和抽象能力,后者提供非正式的直覺和模式識別能力。——《Python 深度學習》
AlphaGo(這個系統需要大量的手動軟件工程和人為設計決策)就是這種符合人工智能和幾何人工智能融合的一個早期的例子。
此外,通過使用存儲在可復用的子程序的全局庫(這個庫隨著在數千個先前任務和數據集上學習高性能模型而不斷進化)中的模塊化部件,這種模型可以自動成長,而不需要人類工程師對其進行硬編碼。隨著元學習系統識別出經常出現的問題解決模式,這些模式將會被轉化為可復用的子程序(正如軟件工程中的函數和類),并被添加到全局庫中。這樣就可以實現抽象和極端泛化能力。
因此,這種永久學習的模型生長系統可以被看作是一種通用人工智能(AGI artificial general intelligence)。
為了達到這個目標,多年來,深度學習領域一直處于所謂的人工智能革命的最前沿。許多人相信深度學習將帶領我們進入通用 AI 時代。但從過去的風口浪尖,到如今的塵埃落地,浪潮一再的退去。計算機視覺與 AI 專家 Filip Piekniewski 曾警示預測人工智能的冬天就像是猜測股市崩盤——不可能精確地知道發生的時間,但幾乎可以肯定會在某個時刻發生,就像股市崩盤之前,有跡象表明會發生危機,但在當時的環境中,卻很容易被大家忽視。
深度學習已經出現了明顯的下降跡象。人工智能將何去何從?深度學習將會走向何方?
2019 年 10 月 19 日,中國計算機大會將就“深度學習的冬天什么時候到來”的話題開展論壇,由中科院計算所研究員山世光擔任論壇主席。這場大會以“智能+引領社會發展”為主題,將邀請多位國內外計算機領域知名專家、企業家到會做特邀報告,同時還有 80+ 場技術論壇、20 場活動及展覽展示等。
未來充滿了不確定,但我們可以為這個冬天做好更多的準備。
-
互聯網
+關注
關注
54文章
11155瀏覽量
103309 -
人工智能
+關注
關注
1791文章
47279瀏覽量
238497 -
深度學習
+關注
關注
73文章
5503瀏覽量
121162
原文標題:深度學習的冬天什么時候到來?
文章出處:【微信號:deeptechchina,微信公眾號:deeptechchina】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論