一場幾乎改寫世界歷史的 AI 事故，在事發數個月後終於曝光。CNN 上周五（9 月 18 日）獨家報導，美國軍方今年春天在對伊朗戰爭期間，險些因為一份由 AI 聊天機械人「幻覺」生成的假情報，對一艘中國船隻發動武裝攔截行動——軍機當時已經升空，行動在最後一刻才被緊急叫停。
這不是科幻情節，而是 AI 幻覺（hallucination）第一次被證實差點觸發兩個核大國之間的武裝衝突。當五角大樓正全力把 AI 塞進「殺傷鏈」（kill chain）以追趕中國，這次未遂攻擊暴露了一個殘酷真相：AI 出錯的速度，比人類監督的速度快得多。
事件經過：兩次查詢，一份假報告，一場虛驚
根據 CNN 取得的細節，這份假情報源自美國特種作戰司令部（SOCOM）的一名情報分析員。他先向一個 AI 聊天機械人查詢，要求把公開來源資料與機密通訊情報整合分析。AI 把船隻的貨物清單「看錯了」，得出該船搭載核武器計劃零件的結論。
更關鍵的是第二步：這名分析員隨後第二次使用同一個工具，把錯誤結論格式化成一份「官方模樣」的情報摘要。這份報告隨即在指揮系統內部流傳，無人質疑其來源，一路上報到決策層。直到行動前夕、軍機已經升空，才有官員發現情報有詐——整份報告是 AI 捏造的。行動緊急中止，與中國的潛在衝突擦身而過。
為什麼 AI 會在軍事情報中「作夢」
大型語言模型的「幻覺」並非故障，而是其工作原理的副產品。AI 不是在「查證」事實，而是在預測「下一個最合理的字」。當訓練資料不足或問題超出其知識邊界時，它會以同樣自信的語氣流暢地編造答案——正如這次把普通貨物清單「腦補」成核武零件。
危險之處在於包裝。當分析員用 AI 把結論格式化成官方報告，幻覺就披上了制度的外衣：格式正式、語氣篤定、來源看似權威。決策鏈上每一位下游讀者，面對的都不再是「聊天機械人的猜測」，而是一份「情報產品」。
五角大樓的兩難：速度就是生命，速度也是陷阱
美軍推動 AI 的邏輯不難理解。五角大樓多次表示，AI 能大幅壓縮「殺傷鏈」時間——從發現目標到打擊的整個流程——讓指揮官在正確的時機行動。在與中國的軍事競賽敘事下，「決策速度」被視為勝負手。
但這次事件證明，速度是雙面刃。AI 讓假情報以光速穿過指揮鏈，而人類核查環節卻沒有同步升級。GovAI 研究學者、美國陸軍退伍軍官 Jake Steckler 對 TechCrunch 表示：「官兵必須理解大型語言模型天生帶有不確定性，而涉及動武的決策——目標打擊、情報分析、作戰規劃——這種不確定性就是生死問題。」
專家：該加護欄，而非棄用 AI
值得注意的是，Steckler 並不主張軍方棄用 AI。「這些工具在正確的場景、正確的護欄下是有用的，」他說，「但把採用速度置於一切之上，只會製造更多事故，令官兵失去信任，最終反而拖慢採用。」
業界已有的共識包括：AI 輸出必須標註來源與置信度、涉及動武的決策必須保留人類最終核可（human-in-the-loop）、AI 生成的文件必須可追溯至原始資料。問題是，這些護欄在實戰壓力下往往第一個被犧牲。
三重警示
這次未遂事件對整個 AI 行業有三重警示。其一，AI 幻覺已從「聊天機械人講錯話」升級為國安級風險；其二，人類對 AI 輸出的「格式信任」——只要看起來專業就照單全收——是比技術缺陷更致命的漏洞；其三，當 AI 滲透進入高後果決策場景，安全保障不能只靠廠商自律，必須成為制度。
結論：信任但要驗證，尤其在扣扳機之前
AI 不會消失，軍方也不會減速。真正的問題是：下一次幻覺發生時，還來不來得及叫停？這次是運氣好——有人在最後一刻起了疑心。但國安體系不能建立在運氣之上。對所有正在把 AI 引入關鍵決策流程的機構而言，教訓只有一條：AI 可以加速你的判斷，但永遠不能取代你的驗證。在動武之前，多問一句「這份情報是誰核實的」，可能就是和平與戰爭的一線之隔。
