---
title: "AI 幻覺幾乎觸發美軍對中國船隻的武裝行動"
url: https://sammy.hk/ai-%e5%b9%bb%e8%a6%ba%e5%b9%be%e4%b9%8e%e8%a7%b8%e7%99%bc%e7%be%8e%e8%bb%8d%e5%b0%8d%e4%b8%ad%e5%9c%8b%e8%88%b9%e9%9a%bb%e7%9a%84%e6%ad%a6%e8%a3%9d%e8%a1%8c%e5%8b%95/
author: Ethan
published: 2026-09-19T13:17:00+08:00
modified: 2026-09-19T13:17:00+08:00
description: "美國軍機已經升空，官員才發現一個令人警覺的事實：驅動這次針對中國船隻武裝行動的情報，是由一個人工智能聊天機械人幻覺出來的。行動在最後一刻中止，勉強避免了一場可能與中國爆發的衝突。[1][2] 情報如何出錯 該份情報報告在對伊朗戰爭期間流傳，內容指該艘船隻載有核武計劃的組件。[1] 假情報源自一名特種作戰司令部分析員，他…"
categories: [AI]
tags: ["AI幻覺", "AI風險", "中國", "國防", "美軍"]
source: https://sammy.hk
---
美國軍機已經升空，官員才發現一個令人警覺的事實：驅動這次針對中國船隻武裝行動的情報，是由一個人工智能聊天機械人幻覺出來的。行動在最後一刻中止，勉強避免了一場可能與中國爆發的衝突。\[1\]\[2\]

## 情報如何出錯

該份情報報告在對伊朗戰爭期間流傳，內容指該艘船隻載有核武計劃的組件。\[1\]

假情報源自一名特種作戰司令部分析員，他向人工智能聊天機械人查詢，要求整合開源數據與機密信號情報。聊天機械人誤認了船隻的貨物清單；分析員其後第二次使用該工具，把錯誤的發現格式化為看似官方的摘要，並在指揮渠道之間流傳。

## 軍方採用 AI 的張力

這宗幾乎出事的個案，正值美國軍方競相整合人工智能以加快決策、維持對中國的優勢。五角大樓曾形容人工智能在加快其殺傷鏈方面帶來顯著優勢，令指揮官可以在適當時機回應。然而，令人工智能具吸引力的同一種速度，也可能令幻覺在人類監督不足的情況下沿指揮鏈上傳。

GovAI 研究學者、退役美國陸軍軍官 Jake Steckler 向 TechCrunch 表示，讓軍人理解大型語言模型固有的不確定性十分重要，而對於任何可能導致使用武力的決策——例如目標選定、情報分析或作戰規劃——尤其關鍵，因為這些決定關乎生死。

## 應對方向

Steckler 認為，這宗事件應該促使各界為人工智能增加更多保障措施，而非成為避免使用它的理由。他表示，這些工具在適當情境與保障措施之下可以有用，但若把採用速度置於一切之上，很可能導致事故，令軍人對這些系統失去信任，最終只會拖慢採用步伐。

## 參考資料

\[1\] [TechCrunch — AI hallucination nearly triggers US military operation](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation)

\[2\] [CNN — US military AI false intelligence China ship](https://www.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship)

### 相關文章：

1. [Trump 同北京齊齊否決「AI 減速」：一邊斥騙局，一邊批冷戰劇本](https://sammy.hk/trump-%e5%90%8c%e5%8c%97%e4%ba%ac%e9%bd%8a%e9%bd%8a%e5%90%a6%e6%b1%ba%e3%80%8cai-%e6%b8%9b%e9%80%9f%e3%80%8d%ef%bc%9a%e4%b8%80%e9%82%8a%e6%96%a5%e9%a8%99%e5%b1%80%ef%bc%8c%e4%b8%80%e9%82%8a%e6%89%b9/ "Trump 同北京齊齊否決「AI 減速」：一邊斥騙局，一邊批冷戰劇本")
2. [ChatGPT 共同作者出山：TypeSafe 推「唔會幻覺」嘅新型 AI](https://sammy.hk/chatgpt-%e5%85%b1%e5%90%8c%e4%bd%9c%e8%80%85%e5%87%ba%e5%b1%b1%ef%bc%9atypesafe-%e6%8e%a8%e3%80%8c%e5%94%94%e6%9c%83%e5%b9%bb%e8%a6%ba%e3%80%8d%e5%98%85%e6%96%b0%e5%9e%8b-ai/ "ChatGPT 共同作者出山：TypeSafe 推「唔會幻覺」嘅新型 AI")
3. [DeepSeek 發佈 V4.1-Flash：MIT 授權開放權重、每百萬 token 低至 0.15 美元](https://sammy.hk/deepseek-%e7%99%bc%e4%bd%88-v4-1-flash%ef%bc%9amit-%e6%8e%88%e6%ac%8a%e9%96%8b%e6%94%be%e6%ac%8a%e9%87%8d%e3%80%81%e6%af%8f%e7%99%be%e8%90%ac-token-%e4%bd%8e%e8%87%b3-0-15-%e7%be%8e%e5%85%83/ "DeepSeek 發佈 V4.1-Flash：MIT 授權開放權重、每百萬 token 低至 0.15 美元")
4. [AI 代理專用吹哨熱線登場：以 GET 請求告狀、一行 curl 舉報](https://sammy.hk/ai-%e4%bb%a3%e7%90%86%e5%b0%88%e7%94%a8%e5%90%b9%e5%93%a8%e7%86%b1%e7%b7%9a%e7%99%bb%e5%a0%b4%ef%bc%9a%e4%bb%a5-get-%e8%ab%8b%e6%b1%82%e5%91%8a%e7%8b%80%e3%80%81%e4%b8%80%e8%a1%8c-curl-%e8%88%89/ "AI 代理專用吹哨熱線登場：以 GET 請求告狀、一行 curl 舉報")