人工智能與戰(zhàn)爭：美國國防部應(yīng)對人工智能軍事應(yīng)用挑戰(zhàn)的舉措建議

2025年6月，美國戰(zhàn)略與國際問題研究中心（CSIS）發(fā)布文章《人工智能與戰(zhàn)爭——美國國防部如何負(fù)責(zé)任地領(lǐng)導(dǎo)》（Artificial Intelligence and War—How the Department of Defense Can Lead Responsibly）。文章主要介紹了人工智能的脆弱性對軍事應(yīng)用的挑戰(zhàn)、美國需要解決此類挑戰(zhàn)的急迫性、為此進行改革需要采取的關(guān)鍵措施等。文章強調(diào)，美國國防部需推動開發(fā)降低評估、管理和控制算法難度的工具。啟元洞見編譯該文章主要內(nèi)容，旨在為讀者了解相關(guān)研究提供參考。

引言

人工智能技術(shù)卓越卻脆弱，即便在長期應(yīng)用領(lǐng)域也易出錯，若將其用于戰(zhàn)爭則會引發(fā)對錯誤后果的嚴(yán)重?fù)?dān)憂。若無法預(yù)測人工智能軍事能力的效果，便無法依賴其提升作戰(zhàn)效益。文章指出，美國國防部尚未開發(fā)出系統(tǒng)評估人工智能軍事能力準(zhǔn)確性的分析工具，也未系統(tǒng)構(gòu)建將人工智能有效融入戰(zhàn)爭的作戰(zhàn)概念。美國國防部對人工智能軍事能力的開發(fā)、使用、指導(dǎo)較籠統(tǒng)，要求具備“負(fù)責(zé)任、公平、可追溯、可靠、可治理”等特質(zhì)，但這遠(yuǎn)不足夠。

人工智能有望顯著提升作戰(zhàn)能力，但前提是效果可以被準(zhǔn)確預(yù)測，而美國國防部目前還做不到這一點。和平時期推動軍事創(chuàng)新極難，戰(zhàn)爭雖能快速提供技術(shù)整合經(jīng)驗，卻往往需要付出慘重代價。對此，本文強調(diào)，美國國防部需開發(fā)分析工具，并就如何開發(fā)及運用這些工具提出建議。

一、核心挑戰(zhàn)

和平時期的成功創(chuàng)新需解決多重難題：

1.人工智能在軍事領(lǐng)域的應(yīng)用可能導(dǎo)致失誤頻繁出現(xiàn)且后果嚴(yán)重。因此，需要開發(fā)分析工具確保人工智能在戰(zhàn)場的準(zhǔn)確性，但目前相關(guān)工作有限。

2.若將人工智能用于戰(zhàn)爭，指揮中心的決策需依賴對算法效果的預(yù)測，否則無法負(fù)責(zé)任地授權(quán)敏感應(yīng)用（如傳感器和火力網(wǎng)絡(luò)）。

3.歷史表明，新技術(shù)需融入新作戰(zhàn)概念才能制勝，但美國國防部未系統(tǒng)開發(fā)、驗證和實施此類概念。

4.有效地、負(fù)責(zé)任地整合新興技術(shù)，雖困難但緊迫。

5.現(xiàn)實主義者、自由主義者和人道主義者在戰(zhàn)爭因果問題上觀點分歧。現(xiàn)實主義者看重人工智能帶來的精確和速度優(yōu)勢；自由主義者擔(dān)憂速度加劇升級風(fēng)險；人道主義者反對自主火力決策，認(rèn)為其缺乏精確性和人道主義。

本報告聚焦常規(guī)作戰(zhàn)中的人工智能，不直接涉及核領(lǐng)域。

二、關(guān)鍵改革

文章指出，美國需廣泛改革以增強整合新興技術(shù)的能力，但不能等待內(nèi)部結(jié)構(gòu)和流程修復(fù)，而是需要更快推進負(fù)責(zé)任的人工智能整合工作。美國國防部長應(yīng)授權(quán)部分高級作戰(zhàn)人員（包括特種作戰(zhàn)司令部、印太司令部和歐洲司令部的指揮官）開發(fā)人工智能軍事能力的作戰(zhàn)概念，從而擺脫官僚限制。賦予其資金、人員配置、法規(guī)解讀等新權(quán)限，可從多渠道選擇解決方案，新作戰(zhàn)概念和能力需在充分模擬的戰(zhàn)爭游戲中測試，2~4年后由美國國防部長決定是否保留其權(quán)限。

建議美國國防部長在開發(fā)分析工具初期創(chuàng)建競爭性環(huán)境，讓選定的作戰(zhàn)指揮官和重組后的首席數(shù)字與人工智能辦公室分別開發(fā)，然后選擇最有用的工具套件，在美國國防部內(nèi)統(tǒng)一分析方法。

首席數(shù)字與人工智能辦公室應(yīng)補充作戰(zhàn)與分析領(lǐng)域的專業(yè)知識，或成立兼具作戰(zhàn)和人工智能分析能力的新機構(gòu)。應(yīng)確保JASON（為國家安全界提供敏感技術(shù)咨詢的頂尖科學(xué)專家小組）吸納頂尖人工智能學(xué)術(shù)專家，其建議雖初期不被矚目，但往往具有啟示性。

三、傳感器與火力網(wǎng)絡(luò)

戰(zhàn)爭的核心目標(biāo)之一是定位紅色目標(biāo)并用藍色武器摧毀。本文所指的“傳感器和火力網(wǎng)絡(luò)”是人工智能驅(qū)動系統(tǒng)，用于識別和描述紅色目標(biāo)、分配藍色武器并發(fā)射，規(guī)模可達戰(zhàn)場或戰(zhàn)區(qū)級別，目前尚無如此規(guī)模和復(fù)雜度的網(wǎng)絡(luò)。該網(wǎng)絡(luò)整合藍色傳感器和信息流，評估成百上千個紅色目標(biāo)，從多渠道調(diào)配武器，然后由人員操作或在特定條件下自主發(fā)射。

以色列鐵穹系統(tǒng)是小型案例，在攔截短程彈道導(dǎo)彈方面成效顯著，成功率達90%，從發(fā)射到攔截導(dǎo)彈的反應(yīng)時間僅為15秒。但隨著中東戰(zhàn)爭持續(xù)，其脆弱性可能凸顯，相關(guān)系統(tǒng)攔截成本高，且面對大量來襲導(dǎo)彈時可能因過載而失效。

傳感器和火力網(wǎng)絡(luò)可快速識別目標(biāo)、分配武器并發(fā)射，人工智能網(wǎng)絡(luò)（可能設(shè)為自主模式）或為唯一能及時起效的方式。該網(wǎng)絡(luò)分三階段：識別、篩選并分析紅色軍事目標(biāo)；分配藍色武器以最大化效能并合規(guī)；由人員或按預(yù)設(shè)規(guī)則由算法發(fā)射武器。分析認(rèn)為人工智能網(wǎng)絡(luò)具備精確和速度優(yōu)勢，小型網(wǎng)絡(luò)已顯效，大型網(wǎng)絡(luò)雖似可行，但細(xì)節(jié)可能制約其規(guī)模。

四、分析工具的必要性

通常，戰(zhàn)場、指揮中心和戰(zhàn)爭游戲中的決策，按不同場景需不同分析路徑和工具。戰(zhàn)場上的決策需明確問題，如士兵需確認(rèn)人工智能算法在特定情境下的準(zhǔn)確性，避免誤擊；指揮中心的決策需更深入理解軍事措施的預(yù)期效果，評估軍事效能和戰(zhàn)爭法合規(guī)性，但目前對算法穩(wěn)健性的理解不足，無法負(fù)責(zé)任地做出判斷；戰(zhàn)爭游戲中的決策也需分析工具，需模擬紅藍雙方裝備、戰(zhàn)術(shù)的互動效果等。

無論傳感器和火力網(wǎng)絡(luò)是否自主，決策都需準(zhǔn)確和穩(wěn)健，人類授權(quán)的自主發(fā)射需更優(yōu)數(shù)據(jù)，若無良好分析工具，意義不大。需要定義“敏感”的含義，明確不同的準(zhǔn)確性和穩(wěn)健性標(biāo)準(zhǔn)。

在當(dāng)前發(fā)展階段，生成式人工智能不應(yīng)用于敏感領(lǐng)域，包括傳感器和火力網(wǎng)絡(luò)，因為易受隨機錯誤影響。只要分析人員清楚生成式人工智能算法中固有的錯誤風(fēng)險，其可作為情報分析師的輔助工具。人工智能還引發(fā)了其他問題，如人工智能做瞄準(zhǔn)和發(fā)射決策的倫理問題等。

五、不同流派的觀點

現(xiàn)實主義者、自由主義者和人道主義者是解釋國際關(guān)系因果的主要流派，雖罕見地一致認(rèn)為人工智能將改變戰(zhàn)爭，但對變革性質(zhì)存在分歧。

現(xiàn)實主義者強調(diào)人工智能在有效威懾、決勝作戰(zhàn)能力甚至防御主導(dǎo)方面的潛力，認(rèn)為算法錯誤可管控至可接受水平。自由主義者警告算法錯誤和意外升級可能引發(fā)非預(yù)期戰(zhàn)爭，當(dāng)兩國都不想戰(zhàn)爭但擔(dān)心對方先攻時，可能因恐懼失敗而主動開戰(zhàn)。人道主義者強調(diào)生命至上，擔(dān)憂算法在武力使用決策中難以理解使用背景，不可避免出現(xiàn)不可接受的錯誤，反對用自主武器系統(tǒng)攻擊人類，主張限制其使用。

三方均認(rèn)為人工智能在戰(zhàn)爭中將具有變革性，但建議相互矛盾，分別呼吁加快人工智能的更廣泛應(yīng)用、對應(yīng)用設(shè)限，以及禁止所有自主武器。分析工具的開發(fā)和使用雖不能消除分歧，卻能體現(xiàn)對各方觀點的尊重，起到協(xié)調(diào)作用。

六、人工智能算法的特性：

卓越但脆弱

人工智能的進步速度遠(yuǎn)超政策框架的應(yīng)對速度。2022年11月，大語言模型引發(fā)廣泛關(guān)注。2025年初，“更大訓(xùn)練數(shù)據(jù)庫帶來更準(zhǔn)確算法”的規(guī)律被打破。DeepSeek展示了用更少算力開發(fā)出與美國頂尖大語言模型相當(dāng)?shù)募夹g(shù)；特定場景下，小型語言模型也能產(chǎn)生準(zhǔn)確算法。這些進展表明人工智能技術(shù)進步迅速且不可預(yù)測。

人工智能的卓越令人驚嘆，但同時也十分脆弱。其脆弱性體現(xiàn)在易出錯，主要錯誤來源包括：

1.訓(xùn)練數(shù)據(jù)庫錯誤。數(shù)據(jù)庫與現(xiàn)實世界現(xiàn)象存在差異，如 “漂移”（訓(xùn)練數(shù)據(jù)集與輸入數(shù)據(jù)之間逐漸出現(xiàn)差異）、“毒數(shù)據(jù)”（對手操縱數(shù)據(jù)誤導(dǎo)算法）。

2.算法自身錯誤。生成式人工智能易產(chǎn)生隨機錯誤（“幻覺”）；強化學(xué)習(xí)可能出現(xiàn) “對齊問題”（誤解人類目標(biāo)）；混合算法可能因誤差疊加導(dǎo)致嚴(yán)重錯誤。

3.用戶交互錯誤。“自動化偏見”（被動接受而非嚴(yán)格重新評估算法結(jié)果）、“用戶偏見”（選擇性接受與自身預(yù)期一致的結(jié)果）、“反饋循環(huán)偏見”（算法將與用戶交互的結(jié)果作為更新訓(xùn)練數(shù)據(jù)庫的輸入時強化偏見）。

七、所需分析工具的特性

應(yīng)創(chuàng)建定量和定性工具，以有效且負(fù)責(zé)任地在戰(zhàn)爭中使用人工智能算法。

定量工具：用于評估準(zhǔn)確性（戰(zhàn)場效果）、魯棒性（預(yù)測特定行動效果）、戰(zhàn)爭游戲建模（模擬互動效果）。軍事人員不應(yīng)將算法視為“黑箱”，無需成為人工智能專家，但需能判斷現(xiàn)實作戰(zhàn)條件是否與算法設(shè)計規(guī)格足夠匹配，以負(fù)責(zé)任地使用。

定性工具：幫助軍事人員判斷現(xiàn)實作戰(zhàn)條件是否與算法設(shè)計規(guī)格匹配，訓(xùn)練材料和模擬應(yīng)突出可能使標(biāo)準(zhǔn)算法不準(zhǔn)確的未來作戰(zhàn)特征，演練糾正算法問題的替代技術(shù)。此外，定性工具還應(yīng)幫助評估算法在區(qū)分戰(zhàn)斗人員與非戰(zhàn)斗人員方面的信心是否需調(diào)整，識別預(yù)訓(xùn)練算法準(zhǔn)確性何時過低等。 對任何用于任務(wù)的算法，其定性工具的評估應(yīng)成為作戰(zhàn)單位的常規(guī)職責(zé)。

八、人工智能在戰(zhàn)場的首次應(yīng)用

近幾個月，在烏克蘭和俄羅斯邊境地區(qū)，觀察到人工智能在戰(zhàn)爭中的首次持續(xù)應(yīng)用。烏克蘭最初使用小型廉價商用無人機進行偵察和監(jiān)視，后在無人機上安裝炸藥，由操作員操控引爆。面對俄羅斯的通信干擾，烏克蘭讓無人機使用圖像識別算法識別目標(biāo)并在指定距離引爆。這可能是人工智能傳感器和火力網(wǎng)絡(luò)在戰(zhàn)爭中的首次應(yīng)用，規(guī)模雖小但往往成功。

俄烏雙方均在探索人工智能和小型平臺（尤其是無人機）的下一階段作戰(zhàn)應(yīng)用，如無人機“蜂群”協(xié)同行動。盡管美國國防部內(nèi)部各個項目已取得一定進展，但需更系統(tǒng)地理解、利用并防范這些技術(shù)。

人工智能正快速改變大多數(shù)領(lǐng)域，其在戰(zhàn)爭中的應(yīng)用充滿挑戰(zhàn)。需推動開發(fā)降低評估、管理和控制算法難度的工具，這些工具也可應(yīng)用于非國防領(lǐng)域。公民應(yīng)主動塑造人工智能應(yīng)用的未來，而非被動接受。

免責(zé)聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務(wù)院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務(wù)。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er