國防高級研究計劃局（DARPA）正在推行一項前所未有的機器學習“突破性”技術，即開創一種網絡安全新技術，旨在同時阻止多重攻擊并盡量阻止現有防御系統無法識別的新型攻擊。

旨在大規模改進實時AI和機器學習的DARPA主導的“終身學習機”（L2M）計劃依賴于這一基本前提：某些基于機器學習的系統可能難以識別、集成并組織某些復雜且尚未被大眾認識到的新信息。

DARPA信息創新辦公室項目經理和馬薩諸塞大學計算機科學教授Hava Siegelmann說道：“如果面對的攻擊過于不同尋常，系統可能無法識別并阻止它們。因此我希望有這種能夠在實踐中學習的機器學習模型。有些情況下系統并不知道該怎么做?！?/p>

新興高科技計劃的目標可以通過“實時訓練”來解釋。如果機器在實時進行分析的同時學習最困難或最模糊的事物，那么，正如Siegelmann解釋的那樣： “我們不受訓練集的束縛（先前編譯或存儲的信息）。我們將舊數據和新數據放在一起，以便在全部培訓數據上重新訓練網絡。“

正如Siegelmann解釋的那樣，存在某些從未見過的細微差別或數據排列。當然，這些都與機器學習通常可以分析的內容背道而馳。

此外，人工智能似乎也有一些限制，這意味著它可能還沒有能力完全消化和吸收一些非常主觀的變量，如“情感”與”本能”、某些需要通過人類認知而實現的獨特決策、或任何與計算機算法、數學公式或一些純科學分析方法不兼容的東西。

相反地，根據一些行業計算機科學家，通過利用包括語音模式、歷史行為以及許多其他類型數據的數據庫，AI現在處于能夠處理更多主觀事物的前沿。

有趣的是，Seigelmann解釋說，LM2與人類生物現象有一些概念上的相似之處。她說，實時輸入和輸出之間的先進協同作用類似于嬰兒理解周圍環境的機制。

“當嬰兒出生時，它一直在學習如何適應并學習。如果一個機器能夠立刻將新信息添加并同步至現存數據庫以快速吸收并理解它，那么它就能快速識別并計算新信息?！盨iegelmann補充道。

探索與創建與計算機算法相關的生物學絕非前所未有。五角大樓科學家長期以來一直沉浸在被稱為“仿生學”的學科中。在這一學科中，鳥類和蜜蜂的集群模式成為了開發無人機新算法的一種分析方式，使它們能夠協調集成功能，準確群集或進行串聯操作而不會發生碰撞。

除了正在迅速發展的L2M工作外，Siegelmann還強調了一項相關但又截然不同的專注于網絡安全方向的探索。這項研究旨在阻止比尋常攻擊更為先進的網絡攻擊。

這一被稱為AI反欺騙魯棒性保證（Guarantee AI Robustness Against Deception，GARD）的網絡安全概念（計劃）的目的在于了解一種更為復雜的新型網絡攻擊。正如Siegelmann所說，這一研究“使得機器學習更敏感，使人工智能更強大且更有韌性?！?/p>

GARD計劃旨在開發解決新興入侵的方法。這些入侵意在“欺騙”、“混淆”或誤導它正在攻擊的機器學習系統。

Siegelmann說。：“這種攻擊可能涉及一種會向機器學習系統發送一些東西以使AI以一種不可預期的方式作出響應的算法，實際上是混淆并欺騙算法強迫它做出決定?！?/p>

如果此類攻擊成功，攻擊者可以（比如說）指示AI系統允許攻擊者訪問受保護的網絡，并如Siegelmann所比喻的那樣，“打開一扇門”。

Siegelmann根據輸入和輸出之間的某種協同作用對其進行了解釋。DARPA的一位官員說，這種方法使網絡安全能夠跟蹤并阻止比當前常見手法更廣泛的攻擊方法。

DARPA官員在一份書面聲明中解釋道。：“當前的防御工作旨在防范預先定義的特定對抗性攻擊。它們容易敗給超出其測試設計參數的攻擊。GARD尋求以一種不同的方式來進行機器學習防御?！?/p>

雖然GARD的努力是基于（早已存在的）科學的，這一項目其實仍處于初級階段。DARPA剛剛向業界發出廣泛宣傳以征求意見，并計劃在今年12月前正式啟動該計劃。

Siegelmann補充說：“我們將促使AI更好地創建防御制度，通過保護現有機器或建設更新的機器學習模型，這樣我們就可以保護現有的機器學習方法了。”