人工智能(AI)是一個迅速發展的技術領域，對國家安全具有潛在的重要意義。因此，美國國防部正在針對一系列軍事功能開發AI應用。

目前，AI研究領域包括情報收集和分析、后勤保障、網絡空間作戰、指揮和控制以及各種軍用自主駕駛平臺等。AI技術對軍事采辦提出了獨特的挑戰，尤其是因為其發展大多集中在商業領域，國防采辦流程(DAP)也需要進行調整以適應AI系統的采辦。另外，許多商用AI為軍方所用之前必須經過重大修改。另外，AI市場上的國際競爭對手，也對美國形成壓力。

目前的國際形勢中，中國正在使用AI來做出更快更明智的決策，并開發多種類型的自主軍用平臺。同時，俄羅斯也積開發軍用AI，尤其是開發注機器人技術。

從技術層面來說，一方面，AI技術可以促進自主操作，使軍事決策更加明智，也可能會增加軍事行動的速度和規模。但是，另一方面，它也是不可預測的，尤其容易受到獨特形式的操縱，并且對人機交互提出了非常高的要求。大量專家一致認為，即使AI產生不了革命性影響，但至少也會促進整個軍事社會的進化，同時也帶來了一些潛在的問題。

-1-

人工智能在國防領域的應用

人工智能在國防領域的應用主要用于7個方面：情報、監視和偵察，后勤，網絡空間行動，信息操縱和深度偽造，指揮和控制，半自動和自動駕駛車輛，致命自主武器系統。

（1）情報、監視和偵察。由于有大量可用數據集，因此人工智能在情報領域有很大的用處。情報界以及有大量相關的正在進行中的人工智能項目了。就CIA（中央情報局）就有140個使用AI來完成圖像識別和預測分析任務的項目。

（2）后勤。人工智能在軍事后勤領域也有很大的應用潛力。空軍已經開始使用人工智能來進行飛機維護預測。

（3）網絡空間行動。人工智能也有望成為促進軍事網絡空間行動的關鍵技術。參議院軍事委員會、美國網絡司令部司令上將Michael Rogers早在2016年就認為，在網絡空間領域只以來人類情報是一個失敗的戰略。隨后他澄清說，應當應用一定程度的人工智能或機器學習技術。DARPA 2016網絡挑戰賽也證明了AI賦能的網絡工具的潛在能力，比賽參與者開發了能夠自動檢測、評估和分發補丁的AI算法。這些能力都可以在未來的網絡活動中提供不同的優勢。

（4）信息操縱和深度偽造。人工智能技術可以用來制造逼真的偽造圖片、音頻和視頻，這也就是今年大火的“deepfakes”（深度偽造）技術。惡意攻擊者可以用深度偽造技術來發起信息操縱活動，攻擊每個，如生成虛假新聞報道、影響公共信息、侵蝕公共信任、損害名人名聲。為了應對深度偽造技術，DARPA發起了媒體取證項目，以尋求自動檢測修改、提供關于視覺媒體真實性信息的理由。

（5）指揮和控制。美國軍方正在利用AI在分析方面的能力應用于指揮和控制。空軍就開發了一個用于多域指揮和控制的系統，未來人工智能還可能用于融合來自不同域的傳感器的數據來創建一個信息的單獨源。

（6）半自動和自動駕駛車輛。所有的美國軍事服務都在努力將人工智能融入到半自動和自動駕駛車輛中，包括戰斗機、無人機、地面車輛和海軍艦艇等。人工智能在這些領域的應用與商業半自動駕駛車輛類似，即使用人工智能技術來感知環境、識別物體、融合傳感器數據、規劃路徑、以及與其他車輛之間進行通信。

（7）致命自主武器系統（LAWS）。LAWS是一種特殊的武器系統，使用傳感器和計算機算法來獨立地識別目標和指揮武器系統在沒有人為干預的情況下打擊目標。雖然這樣的系統目前還不存在，但軍事專家相信在未來通信降級或拒絕的特殊環境下，傳統武器系統無法工作的情況下LAWS會啟到很重要的作用。

-2-

軍事AI融合的挑戰

從冷戰開始，主要的國防相關技術在商用之前都是由政府主導的項目首先開發的，包括原子核技術、GPS和互聯網技術。DARPA的戰略計算計劃(Strategic Computing Initiative)從1983到1993年10年間共投入10億美元來開發人工智能在軍事應用領域的探索，但進展緩慢。目前，商業公司正在引領人工智能的發展，隨后國防部才采納這些工具并應用于軍事領域。對如此具有戰略重要性的技術來說，只有一小部分商業公司在開發是非常不同尋常的。除了投資領域的快速變化外，人工智能技術在軍事領域的應用存在來自技術、過程、人員和文化方面的挑戰。

2.1 國際競爭

隨著人工智能軍事應用的規模和復雜程度不斷變大，國會和國防部許多官員都非常關注該領域的國際競爭。參議員Ted Cruz在the dawn of AI聽證會的評論中表示，對美國來說，放棄發展人工智能的領導地位（相當于中國、俄羅斯等國家）不僅會使美國處于技術劣勢，還可能對國家安全產生嚴重影響。

2.2 人工智能的機遇和挑戰

（1）自治。許多自主系統都多少使用了人工智能技術。相關專家認為軍事系統在一些特殊任務中替換人類會獲有很大的優勢，如：長時間的情報收集和分析，清除化學武器對環境污染帶來的破壞等。在這些任務中，自主系統可以減少相關風險，降低成本，為國防部使命提供一系列的價值，如下圖所示。

（2）速度和耐力。人工智能引入了在極限時間范圍內作戰的方法，提供給系統在GHZ速度反應的能力，具有動態加速對抗速度的潛力。現在一般公認的是，時間在戰爭中具有非常重要的優勢，并且反過來會促進軍事人工智能應用的廣泛應用。

（3）規模化。人工智能可以通過增強人類能力和使用更加廉價但性能更佳的軍事系統來形成群聚效應。并且，人工智能系統可以增加單個服務單元的效率。有分析師稱，人工智能系統的使用可能使得軍事力量與人力規模和經濟實力無關。

（4）信息優勢。人工智能為數據量指數級增長提供了一種有效的分析方法。據國防部數據，軍隊共擁有11000架無人機，每個無人機每天都記錄了相當于三個NFL賽季的高清錄像。但國防部沒有足夠的人員或系統來處理這些數據以提取出有價值的情報。未來人工智能算法會生成自己的數據來進一步分析，以完成類似提取非結構化數據、金融數據、選舉結果到報告中的任務。

（5）預測性。人工智能算法可以產生一些出乎意外的結果。并確實有很多失敗的案例，前DARPA主任Arati Prabhakar表示，我們發現人工智能是一項非常有能力的技術，但同時也是非常有限的，而且出錯的一些方式可能人類從來不會發生。如果人工智能系統發規模部署，那么系統失敗可能會引發明顯的風險。分析師稱人工智能系統識別的方式可能是相同的，可能會引發大規模的破壞效應。

（6）可解釋性。目前，性能最好的人工智能算法都無法解釋其工作過程。DARPA和其他組織都在努力來對人工智能算法有更好的理解。可解釋性對軍事應用來說具有特殊的意義，因為人工智能系統推理的透明度會影響操作人員對系統和系統結果的信任度。可解釋性還會對軍事AI系統可驗證和確認的性能帶來影響。由于缺乏可解釋的輸出，AI系統在軍事測試時無法通過審計來確認系統滿足了性能的標準。

（7）漏洞利用。人工智能系統可能會增加系統被利用的可能性。首先，AI系統的普及增加了可被黑的系統的數量。其次，AI系統存在被竊取的漏洞，而且幾乎都是基于軟件的方式。最后，對手還可以精心引入圖像分類器和其他類型的錯誤引發的漏洞。這些漏洞引發了我們對魯棒性數據安全、網絡安全、測試和評估過程的需求。

-3-

人工智能對戰場的影響

盡管人工智能還沒有以一種正式的形式進入戰場，但專家們預測了人工智能會對未來戰爭帶來潛在影響。這種影響將是多方面的，包括商業投資率、國際競爭力、促進人工智能的能力、對AI應用的軍事態度、AI特定戰爭概念的開發。

許多專家斷言人工智能軍事應用是一種“必然”，認為它必然會帶來重大影響。然而，2016年1月，時任聯席會議副主席保羅·塞爾瓦將軍指出國防部仍在評估人工智能的潛力。企業開發的人工智能技術提供了軍事作戰的乘數效應嗎？如果是，那么可能需要改變我們的戰斗方式。如果不是，那么軍隊需要提高現有的能力以在對手面前取得一定的優勢。目前國會也在考慮影響軍事AI應用的一些場景并對其進行分析和監管。