人工智能正在國家安全領域占據一席之地。雖然公眾可能仍將軍事領域中的人工智能與《終結者》中的人形機器人等同起來，但有關人工智能對國家安全的影響的討論有了顯著增長。這些討論涵蓋了學術界、商界和政府，從牛津大學哲學家尼克·博斯特倫有關人工智能對人類生存風險的擔憂，到特斯拉創始人埃隆·馬斯克擔心人工智能可能引發第三次世界大戰，再到弗拉基米爾·普京聲明：在21世界，誰能領導人工智能技術，誰就能主宰世界。

在人們擯棄“革命性變革”的這種空話，去思考人工智能應用于軍事領域將給世界帶來的切實影響，這究竟意味著什么？人工智能不是武器。相反，從軍事層面來看，人工智能和電力、內燃機一樣，都是一種助力。因此，人工智能對軍事力量和國際沖突的影響，取決于軍隊和決策者對人工智能的具體應用。那么，關于人工智能應用于軍事領域的影響，其核心問題包括：評估什么是“人工智能”的原則；人工智能與以往技術革新的不同；軍事領域應用人工智能的目的；人工智能應用的潛在限制以及軍事領域人工智能應用對國際政治的影響。

人工智能的前景——包括提高從后勤服務到戰場規劃等事務的速度與精準度以及提高人類決策能力——正在驅使世界各國軍隊加速對人工智能應用的研究與開發。對美國軍方而言，人工智能提供了一種新路徑來保持其軍事優勢，同時無形中削減開支、降低士兵面臨的風險。對其他國家，尤其是俄羅斯和中國來說，人工智能提供了更有價值的東西——即破壞美國軍事優勢的能力。國家之間對于人工智能主導權的競爭，與經濟或其他領域的競爭并無二致，但其潛在的軍事也是顯而易見的。人工智能研究的速度和軌跡的不確定性，意味著人工智能的前景極不明朗。此外，安全和可靠性方面的考量可能會限制軍方選擇使用人工智能的方式。

什么是人工智能？人工智能是指，賦予機器或電腦模擬人類智能行為的能力。研究者、公司和政府應用了多種人工智能方法，包括機器學習和神經網絡等。當前有關人工智能技術發展軌跡的研究表明，即便是在人工智能研究者之中，也有很多人認為人工智能未來發展速度有很大的不確定性。有部分研究者認為通用人工智能（AGI）能在數年內實現突破，但也有人認為，突破的實現可能需要幾十年甚至更久。因此，本文著重探討“狹義”人工智能，或人工智能應用于具體問題的解決，例如AlphaGo Zero——一個被設計用以贏得圍棋比賽的人工智能系統。

從歷史的角度看，如果對科技發展持樂觀態度的人是正確的，那么依據創新的速度，人工智能將擁有對經濟和社會產生廣泛影響的潛力。與火箭或飛機等離散設備有所不同人工智能可以融入各種事物。因此，就軍事目的來說，人工智能是很好的助推器。

對于軍事領域來說人工智能的意義是什么？軍事領域如何應用人工智能，而且為什么這對于國際政治來說十分重要？從另一個角度看，軍方相信人工智能可以幫助解決哪些現代戰爭面臨的挑戰？以下三個人工智能潛在應用領域詮釋了為何軍方會對此感興趣。

首先，現代軍隊在數據方面面臨的挑戰與公司或政府類似——數據量大、難以快速處理。狹義的信息處理人工智能應用程序能加速數據解析，方便于向更高層次任務投放人力。例如，美軍的Maven項目力求使用運算法則更快速地解析無人機監控反饋的圖像。這類軍用狹義人工智能應用在商業領域也有明確的應用，并且不單只有圖像識別功能。從圖像識別到公開或機密的信息數據庫處理，人工智能處理應用能幫助軍方更準確快速地解析信息，從而更好地做出決策。

其次，從高超音速到網絡攻擊，高級軍方和領導人都認為戰爭的速度正在加快。無論你采取的是OODA(觀察、適應、決定、行動)循環方式，還是簡單地準備在敵方未發現自己已經到達的情況下進行打擊，速度在現代戰爭中都是優勢。速度不僅僅是指戰機或軍需品迅速到位，它還關乎決策。就像遙控系統一樣，飛機由人工智能控制，擺脫了要保護人類飛行員的限制，雖然抵消了駕駛艙中人類飛行員的諸多優點，但提高了駕駛性能和可操控性。比如在防空領域，與人類的操作相比，以機器速度運行能夠讓系統在面對導彈飽和攻擊時，更高效地保護軍事基地或城市。人類的反應速度此時可能不堪一擊，無論他/她多能干。這已經是以色列Iron Dome（鐵穹）系統所遵守的一個原則。

第三點，人工智能可以在戰場上實施各種新的軍事行動理念，比如常說的“忠誠僚機”概念，人類飛機或坦克駕駛員也能夠因此具備協調無人機的能力。戰爭空間越復雜，“僚機”的運算法則越有用，這種算法能夠幫助它們在人類協調控制員無法直接引導飛機的情況下做出反應。同樣的道理，機群也需要人工智能來協作。

顯然，軍方有動機去研究可以提升軍隊效率的潛在人工智能應用。這些動機不僅僅來自于別國軍隊的競爭壓力，還有國內政治和官方的原因，推動著國家朝著擁有自主武器系統的方向邁進。對于美國這樣的民主政體來說，自主武器系統在理論上為人類能夠低成本、低風險地完成任務提供了潛在可能性。比如，美陸軍2017年發布的“機器人與自主系統戰略”，特別提到了自主系統可以在低成本、低風險的情況下提升效率。

對于俄羅斯和中國這些國家來說，人工智能意味著控制。人工智能系統可以讓國家減少對民眾的依賴，他們可以依靠更少、更忠誠的人來管理軍隊。

與聯合國《特定常規武器公約》多年來討論的“致命自主武器系統”相比，關于人工智能在軍事領域應用的探討更為廣泛。創造可使用致命武器的自主系統可能就是人工智能在軍事領域的應用之一，當然還有許多其他應用。

有效使用人工智能面臨的障礙。軍用人工智能面臨著技術和組織的雙重挑戰，有些主要是關于安全性和可靠性的擔憂，因為這可能會對企業造成傷害，所以自詡為以人工智能為基礎的現代軍隊轉型從未真正實現。這些技術挑戰分為兩大類：內在可靠性和外部開發。

狹義人工智能系統的特點意味著它們經過訓練用以執行特殊任務，不論是下國際象棋還是解析圖片。在戰爭中，根據Clausewitz（克勞塞維茨）著名的論斷，由于迷霧和摩擦，環境會迅速地轉換。如果既定人工智能系統應用環境發生改變，系統可能會不適應。這種脆弱性因此成為了系統可靠性的威脅。在戰場上對抗雙方部署的人工智能系統會使環境復雜化，超出一個或多個系統的解析力，進一步加劇了系統的脆弱性，并增加了事故和失誤的可能性。

人工智能由機器決定最佳方案并執行的特性，可能會增加預測AI系統行為的難度。例如，在AlphaGo對陣圍棋世界冠軍李世石的第二場比賽中，AlphaGo出其不意的一招，讓李世石離開賽場，并花了15分鐘研究這招。這證明這一步是一個人類頂級賽手不會想到的，但機器已經算出來了。這顯示出人工智能改善決策處理上的巨大潛力。軍隊的運作建立在可靠和信任的基礎上——無論是在指揮中心還是戰場上，如果人類操作者不確定人工智能在特定環境下具體會做什么，那可能會使計劃更復雜、操作更困難并且事故更可能發生。

針對可能發生的意外進行人工智能系統編程，這種挑戰也會逐步削弱其可靠性。比如一個經編程可以玩俄羅斯方塊的人工智能系統，研發人員發現，人工智能已經能夠在快要輸的時候暫停游戲，以保證走好每一步，使成功的可能性最大化，從而完成指令。這種改編，反映出人工智能系統行為的不確定性，超出了多數軍隊能夠容忍的范圍。偏見和對數據的改編會讓其可靠性的實現更加困難。可解釋性是人工智能系統面臨的又一挑戰。對于一個系統而言，重要的不僅僅是可靠性，同時也必須具有能使他人信任的可解釋性。如果一個人工智能系統以特定的方式將圖像分類或躲避敵方雷達，但不能說明為什么會做出這樣特別的選擇，那么人類不太可能相信它。

可靠性不僅僅是人工智能系統設計的問題。戰爭是競爭性行為，當今軍隊和情報機構試圖在和平時期及戰時入侵并破壞潛在敵人的行動，不管這些系統是在堪薩斯州后臺運行還是應用在戰場上，有一點是不變的——這是一個人工智能系統的世界。研究者們已經指出，圖像識別算法在導致分類問題的像素級中毒數據面前很脆弱。以開源數據為基礎的算法此時可能不堪一擊，因為敵方試圖“毒化”此數據，以防止別國合理使用——編制運算法則用于軍事目的。這一敵方數據問題很重要。黑客攻擊也可能導致在更安全的網絡中編制并運行運算法則，這也說明了在國家安全范疇內，網絡安全和人工智能有著重要的交互作用。

軍隊何時啟用人工智能？在有關人工智能和武器的公開討論中，常常忽視的一個關鍵問題是，軍方一般不會愿意使用以人工智能為基礎的系統，除非它們在完成某一特定任務方面（無論是解釋圖像、轟炸目標還是策劃一場戰斗）明顯優于現有的系統。

這些安全性和可靠性方面的問題，在敵對雙方試圖破壞對方的系統的競爭環境中凸顯，那么人工智能在軍事領域還有什么前景？盡管軍方不太可能僅僅因為這些安全因素就停止對人工智能應用的研究，但這些安全性和可靠性問題會影響人工智能系統的類型，也會影響它們融入“常規”軍事行動計劃。

軍事技術整合有三個層次——開發、部署及使用。每個階段中，人工智能能夠提升效率、降低人類士兵危險以及成本的前景都要與其面臨的安全性和影響軍隊行為的可靠性的挑戰相抗衡。

軍事層面的人工智能研究是在競爭的環境中進行的。中國大刀闊斧地全面推進人工智能研究引發了美國極大的擔憂，比如，中國在人工智能領域會超越美國。鑒于人工智能融合的優勢，很多美國軍人擔心其他參與者能力出眾，自己因此而落后。任何國家都不希望自己的戰士、艦艇以及坦克受到敵軍的威脅，也沒有國家希望敵方系統能夠在戰斗環境中做出反應并快速回擊。

在軍用系統中融合人工智能，我們才剛剛開始。人類和自動化實驗室主任Missy Cummings認為，盡管全球軍隊自主系統的研究和發展在增加，但過程是“漸進的”，各組織機構仍“努力實現從開發到應用的跨越式進步。”

在開發階段，測試和整合活動應揭示潛在的安全和可靠性挑戰，并使其成為人工智能軍事應用的一個關鍵投資領域。現在，軍方可能認為，在某些情況下，這些風險是可以接受的，因為它們有落后的風險，并且相信它們能夠及時糾正編程上的挑戰。從本質上講，軍方將權衡人工智能領域可靠性和能力之間的權衡，人工智能系統可能提供更大的能力，但也存在可靠性風險。

在部署或使用人工智能系統時，軍方可能會特別考慮某一特定沖突。隨著沖突風險升級，如果軍方判定失敗的可能性更大，那么自然會接受部署優勢技術帶來的風險，但也會考慮可靠性的問題。反之，沖突風險降低，軍方認為自己能夠在降低技術風險情況下取勝，那么人工智能系統的部署就會延遲，直至軍方認定其可靠，或是比現有系統可靠。

軍事和商業技術發展歷史說明，軍事和商業技術發展的歷史表明，既要謹慎，也要有理由相信，安全和可靠性問題不會也不應該導致軍事融合的停滯。1886年，Karl Benz發明了第一輛汽油發動機汽車。然而在經過了一代人的時間后，汽油內燃發動機才申請到第一批專利，而奔馳的汽車超越馬車，在交通上占據霸主地位，又花了一代人的時間。為什么這個過程如此漫長？答案是出于對安全和可靠的考量。早期內燃機面臨問題是可靠性、成本、機器缺乏標準、生產缺乏一致性以及內燃機驅動汽車的復雜性導致故障頻發。

每當新技術誕生，這個熟悉的故事就會不斷重演。它們在當時能賦予人們更大的能力，但同時也有極大的安全和可靠方面的問題。有時候，像內燃機或飛機一樣，這類問題可以解決。也有些時候，像軍事用途的飛船或飛艇，安全問題如此之大，技術永遠不可能像替代方案一樣可靠、有效。

AI和戰爭的未來。AI對世界的影響將遠勝于軍事力量和戰爭未來帶來的影響。自動化在未來工作中的作用會帶來巨大的經濟和社會效應，無論是否開發軍事領域專用AI應用，AI都將是軍方必然的選擇。法國總統Emmanuel Macron最近指出，AI將會打破現有商業與工作模式，其規模之大，法國因此急需制定新的AI戰略以確保其AI研發領導地位。盡管他向一個可能的實現的AI軍事應用發出警告，聲稱他“堅決反對”將AI投放戰場用以殺敵。然而，法國情報部門卻已經在用AI 來提高數據處理速度、提升數據可靠性了，他們認為這有助于法國軍隊在戰場上提高自身能力。

AI的優點是，盡管存在安全性和可靠性問題，但在引領全球軍隊時，也能預見坐以待斃的風險。從數據處理到蜂群概念再到戰場管理，AI能夠幫助軍隊快速、準確行動，同時使更少數人置身于危險之中。也或者并非如此。當前機器學習和神經網絡方法特有的安全性和可靠性問題，也意味著對抗性數據等問題，對于許多軍用AI來說是挑戰。

美國國家安全機構的最高領導者似乎非常清楚，美國在技術變革時代所面臨的風險。國防部長James Mattis最近就指出，部署AI“為時尚早”，但他現在開始質疑AI是否能改變“戰爭的基本性質”。然而同中國相比，美國AI的投資相對較小，中國AI國家戰略正快速吸引學術界、商界和軍方的投資。美國可能比一個世紀前的英國更清醒，即廣泛科技改革會影響其軍事優勢，但不足以保證其勝利。當人們認為，所有科技，其核心都是民眾和組織機構如何加以使用時，尤為如此。從打敗了騎士的長弓到終結了戰艦獨大的時代的海軍航空力量，強權國家認為自己仍處于領導地位，直到一次主場戰敗，歷史從此顛覆。

我們不知道AI用于軍事用途，其結果是否也會如此。AI研究機構內部對于AI發展前景及安全性和可靠性，在某種程度上，也不太確定。可能未來20年，國家安全研究者們會重啟AI“時尚”。考慮到技術的廣度與特定技術，如定向能相比，以及AI商業能源及投資的程度，極可能發生的是，人工智能時代的出現，在某種程度上會重塑未來全球軍事。