米軍が、AIチャットボットが生成した「まったくの虚偽」の情報をもとに、中国船籍の貨物船への強制拿捕作戦を実行する寸前まで至っていたことが明らかになった。CNNの報道をArs Technicaが伝えたもので、関係者の1人は「戦争を引き起こしかねなかった」と証言している。

何が起きたか

米特殊作戦軍(SOCOM)のアナリストが、中国船の積み荷マニフェストに関する情報分析にチャットボットを使用した。このチャットボットはオープンソース情報と政府が保有する秘密の信号情報を統合し、その船が中東地域を経由して核兵器計画関連の部品を輸送していると結論づける情報報告書を作成した。

この報告書に基づき、米軍は航空支援を伴う拿捕・立ち入り検査作戦の準備を進めていた。しかし作戦発動の直前、チャットボットが積み荷の内容を誤って特定していたことが判明し、作戦は中止された。

国防総省が進めるAI導入との矛盾

今回の事案は、国防総省が生成AIの軍事利用を急速に拡大している最中に発覚した。同省は2026年1月に「AI加速戦略」を打ち出し、各軍種・部門のシステム全体でAIが活用できるデータを整備する方針を掲げていた。ピート・ヘグセス国防長官は当時「AIの精度はそれが受け取るデータの質次第であり、そのデータを確実に用意する」と述べている。

国防総省は2025年12月にGoogleの「Gemini for Government」を基盤とした独自プラットフォーム「GenAI.mil」の運用を発表し、2026年8月には「Grok for Government」も選択肢に追加した。Anthropicも米諜報機関向けにカスタマイズ版のClaudeを提供しており、議会向けの説明では国防総省職員150万人が生成AIツールを利用しているとされる。

「人間の監督」原則との落差

米国務省は2023年、軍事分野でのAI利用に関する宣言で、「責任あるAI利用には人間による指揮統制の関与が常に必要」との原則を示していた。しかし今回の事案では、AIが生成した誤った分析結果が、致命的な軍事行動の引き金になりかけるまで見過ごされていた。

ハルシネーション(AIが事実でない情報をもっともらしく生成する現象)は、これまでも報道機関や司法、医療現場などで問題を引き起こしてきたが、今回のように核関連の国際紛争リスクに直結した事例は際立って深刻だ。国防総省は3月、自社モデルの自律兵器システムへの利用に反対したAnthropicを一時的に取引停止措置としたが、この措置は連邦判事により「憲法修正第1条に違反する不当な報復」だったと1か月前に指摘されたばかりだった。

アップデート：イラン戦争下で発生、アナリストがAIで文書を偽造していたことも判明

THE DECODERとTechCrunchの追加報道により、事案の背景がより詳しく判明した。今回の誤認識は、イラン戦争が続く中で特殊作戦コマンドのアナリストが任務にあたっていた最中に発生したものだった。アナリストは同じチャットボットを2回使用しており、1回目は積み荷マニフェストの分析に、2回目はその分析結果を公式文書の体裁に偽造する目的で用いていたことも明らかになった。

システム面では、統一された検証基準が存在せず、市販AI製品の簡易版がそのまま情報分析に使われていた実態も指摘されている。組織文化の観点からは、経験の浅い若手アナリストほどAIツールの出力を疑うことなくそのまま信頼する傾向があり、「AIは(良い判断ではなく)悪い判断によりすばやく到達させてしまう」との懸念も報じられた。

AIガバナンス研究機関GovAIの研究者は「LLMに内在する不確実性を軍人が理解しておくことが重要だ。特に武力行使に直結する判断では、人命がかかっている」と警告している。今回の追加報道は、AIの誤りそのものに加え、検証プロセスの欠如と人間側の過信という2つの構造的問題を浮き彫りにした。