AI一句話險釀美中軍事衝突！美軍誤信「中國船運核武零件」　軍機都已升空

AI誤判情報

報導引述4名了解事件經過的消息人士，今年春天美國與伊朗交戰期間，一份在美軍內部流傳的情報突然拉響警報，指一艘位於中東的中國船隻，正在運送與核武計畫有關的零組件。美軍隨即準備攔截，武裝人員已準備登船，連軍機都已升空，直到行動前最後關頭才發現，這份情報竟是AI誤判，一名消息人士更直言，整份情報「完全是假的」，卻「差點引發一場戰爭」。

消息人士指，在行動即將展開，官員進一步追查這份由特種作戰司令部分析員製作的情報，赫然發現報告曾使用AI協助生成，而分析員所使用的聊天機器人，竟然錯誤辨識了中國船隻載運的貨物。

CNN未能確認當時究竟是哪種貨物遭到AI誤認，但一名消息人士形容，這份情報「完全是假的」（entirely false），更警告：「它差點引發一場戰爭。」一旦美軍真的登上或攻擊中國船隻，極可能使事件迅速升級，增加美中爆發武裝衝突的風險。

AI製作報告讓官員信以為真

更驚人的是，AI的錯誤並沒有停留在聊天機器人的回答。

據報導，這名分析員當時針對船隻貨物清單的情報向聊天機器人查詢，相關資料最初來自位於夏威夷的美國太平洋特種作戰司令部。目前尚不清楚使用的是市售AI，還是美國政府內部產品。

聊天機器人將公開來源情報與美國政府掌握的機密訊號情報結合後，得出了船上載有核武計畫相關物資的錯誤結論。分析員隨後又使用AI，將這項結果整理成軍方慣用的標準情報報告格式，再向內部發布。

換句話說，一個聊天機器人的錯誤答案，經過AI再次整理後，變成了一份看起來與一般軍事情報無異、足以讓官員信以為真的正式文件。

一名前美國高階官員談到軍方與情報單位使用的AI時更不客氣地形容，政府內部工具「大多只是商業產品的翻版，擦了點口紅而已」。

「AI可以讓你更快得到一個爛主意。」

這起事件曝光之際，美軍正全力加速AI軍事化。從分析龐大的原始情報、選擇攻擊目標，到預算、後勤及供應鏈管理，AI的使用範圍不斷擴大。支持者認為，AI可以大幅縮短戰場決策時間，美國也不能在這場競賽中落後中國或其他潛在對手。

美國國防部長赫格塞斯（Pete Hegseth）今年1月才公布「人工智慧加速戰略」，要求排除官僚障礙、加速軍方使用AI，甚至希望讓約300萬名軍事與文職人員，在不同機密層級都能接觸AI模型。

然而，多名美國官員透露，目前軍方及情報體系採取的方式相當分散，不同單位使用不同AI工具，也有不同的命令及安全規範，目前並不存在一套統一標準，確認AI產出的情報究竟該如何驗證。

最令人憂心的領域之一，就是AI已愈來愈多被用於「目標選定」（targeting）。一名熟悉美軍現行政策的消息人士表示，AI用於選定攻擊目標「肯定正在增加」，但目前沒有真正明確的指引，確保人類參與決策就能防止平民傷亡或友軍誤擊。

而這次中國船隻事件所暴露的AI「幻覺」（hallucination），據消息人士透露，也並非美國情報體系首次碰到。

部分資深情報官員即使支持軍方使用AI，也擔心這項技術正在形成另一種壓力：分析員被要求更快完成、發布情報，出錯的機率也可能隨之增加。多名消息人士尤其指出，年輕分析員從一開始就習慣使用這些工具，也可能更容易在缺乏充分驗證下相信AI。

一名消息人士最後用一句話形容這場危機：

「AI可以讓你更快得到一個爛主意。」