政府がシャットダウン命令を発出

6月12日、米政府は Anthropic に対し、最新モデル「Claude Fable 5」と「Claude Mythos 5」への即座のアクセス遮断を命じた。公式ガイダンスの理由は「狭い範囲の潜在的なジェイルブレイク」の存在だ。この命令は対象モデルへの全アクセスを禁止する強硬な措置で、商用デプロイも例外ではない。

Mythos の危険性と政府の関心

Anthropic が Mythos について警告してきたのは、このモデルが主要 OS とウェブブラウザのセキュリティ脆弱性を発見・悪用できる能力を持っているからだ。そのため Anthropic は Project Glasswing という管理プログラムで、Amazon、Apple、Google など約50の組織のみに限定アクセスを提供してきた。

ところが今回、政府はこの「セキュリティ能力」そのものを脅威と見なし、シャットダウンを命じたのだ。

Anthropic が激しく反発

Anthropic の反応は強硬だ。公式声明で以下の点を主張している：

  • 同様のセキュリティ分析能力は、OpenAI の GPT-5.5 など他の公開モデルでも「広く利用可能」である
  • 「数百万人に配布されている商用モデルの回収を正当化するほどの狭いジェイルブレイク発見」に反対する

つまり Anthropic は、政府の判断が不公正かつ過度であると主張している。一方、政府はセキュリティリスクを優先し、競争の公平性は後回しにしている。

セーフティ警告の皮肉

この事態の背景には皮肉なジレンマがある。Anthropic がセーフティ警告を強く打ち出したことが、逆に政府の注視を招き、規制強化につながった可能性が高い。

OpenAI の CEO Sam Altman は4月に、Anthropic の安全性強調を「恐怖に基づいたマーケティング」と批判していた。その矛盾した発言は今、妙なタイミングで「予言」のように見える。

Anthropic のセーフティ重視の姿勢は、AI 開発における責任ある態度の表れだったが、政治的な環境では「政府の耳目を集める=規制対象となる」という逆効果をもたらしたのだ。

Fable 5 の喪失がもたらす影響

失われるのは、業界トップのパフォーマンスを誇るモデルだ。Claude Fable 5 は最新ベンチマークで64.9点を記録し、Artificial Analysis Intelligence Index の首位を獲得していた。5つのベンチマークで新記録を樹立し、特に Humanity’s Last Exam では53%の精度を達成している。

ただし価格は高く、トークン単価は Opus 4.8 の2倍。パフォーマンス向上は5.7%に留まるため、コスト対効果の議論はあった。それでも、最先端の AI 能力へのアクセスが断たれることは、開発者コミュニティにとって大きな痛手だ。

政府 AI 政策の強硬化

本事例は、トランプ政権の AI 規制がより強硬化していることを象徴している。セーフティ能力という本来は防御的な技術が、逆に「規制の根拠」に使われる矛盾が浮かび上がった。

AI 企業はセーフティと競争のバランスを取ることが、いっそう難しくなる局面へ突入しつつある。

アップデート：Amazon CEO が政府規制の引き金を引いた経緯

6月14日の追加報道で、このシャットダウン命令の舞台裏が明らかになった。Amazon CEO Andy Jassy を含む複数の企業経営幹部が、トランプ政権の高官に直接 Anthropic の Fable モデルに関する「セキュリティリスク」を報告していたことが判明した。

Amazon CEO の警告内容

Amazon は木曜日の夜、政府高官に「ジェイルブレイク技術を通じて Fable モデルの一部がロック解除可能である」という報告書を提出。これが政府規制の直接的なトリガーとなったと見られている。

ただし、この警告に対してセキュリティ研究者 Katie Moussouris は異論を唱えている。彼女は「Amazon が指摘した技術は『Defense Oriented Prompting（DOP）』という、防御側が使用する標準的な検査手法であり、実際のジェイルブレイク攻撃ではない」と指摘。さらに「国家安全保障が本当の目標であれば、このアプローチはむしろ逆効果である」と LinkedIn で警告している。

本当の不満は「真摯さの欠如」

政府関係者によれば、実際のセキュリティ技術的な問題よりも、Anthropic の対応姿勢に不満があったという。具体的には、Anthropic が自主的な撤回要求に応じなかったため、政府が強制措置に踏み切ったとされている。

この経緯から見ると、シャットダウン命令は純粋な技術的リスク評価というより、Anthropic の政治的な対応姿勢への反発が大きく作用していた可能性が高い。Amazon のような大手企業からの警告が、政府の強硬な態度を正当化する根拠として機能したとも言える。