Anthropicが、2025年12月から2026年8月までに脅威インテリジェンスチームが検出・阻止したClaude悪用事例をまとめたレポート「Detecting and countering misuse of AI」を公開した。サイバー攻撃や情報操作など7つの害カテゴリで具体的な事例を報告しており、国家主体のハッカー集団が自動化されたAIワークフローを使い、従来なら大規模な人員を要した攻撃を短時間かつ低コストで実行している実態が明らかになった。

何が起きたか

最も規模の大きい事例は、ロシアの国家スパイ活動とされる「GTG-20006」だ。ファイアウォールの検出を回避しながらツールを自動で再構築するループを組み、ウクライナや欧州の政府機関、防衛企業20組織以上に侵入した。盗み出されたデータはメール数百ギガバイトに加え、ドローン技術情報や30万件以上の国家身分記録に及んだという。

サイバー犯罪グループ「ShinyHunters」による「GTG-50014」も報告された。180万個のAPKファイルを自動スキャンして認証情報を抽出し、サプライチェーン攻撃によって数時間で管理者権限を奪取したとされる。中国の学生グループによる「GTG-10007」は、脆弱性研究を自律的に進めるプログラムで、1ヶ月で数十件のゼロデイ脆弱性候補を発見したという。

情報操作の分野では、ロシアが中央アフリカ共和国で展開したラジオ局を通じたプロパガンダ配信、フランスの広告代理店が運営した70個の偽ニュースサイトと250以上の偽アカウントによる8,913記事の多言語生成、マレーシアの選挙で1,000以上の偽アカウントを使い人種・宗教の分断線を狙ったマイクロターゲティングを行った事例など、計9件が報告されている。

AIが攻撃の自律性を高める構造

レポートは、検出された攻撃の多くが「計画をMarkdown文書に埋め込んだシステムプロンプトで指示し、並列化したサブエージェントに実行させ、セッション間で文脈を保持する」という共通のワークフローを持つと指摘する。人間が各ステップを判断する段階から、数時間から数日にわたって監視なしで動く完全自動化のマルチエージェント運用まで、自律性の段階が幅広く存在するという。

Anthropicによれば、侵入に必要な所要時間は従来の数日から2〜3時間に短縮されており、攻撃者側のコストが下がることで、これまで採算が合わなかった小規模な標的への攻撃も可視化されつつある。同社はこれを「以前は国家規模のリソースを持つ主体しか実行できなかった作戦が、個人のハッカーでも実行可能になった」状態と表現し、熟練度の差が意図の差に転換していると分析している。

Anthropicの対策と読者への影響

Anthropicは、投稿前のソーシャルメディア監視や行動シグネチャに基づく自動検出、影響範囲を測る「Breakout Scale」の運用、アカウント凍結と関連組織の排除、当局・業界パートナーへの情報共有を対策として挙げている。一方で、静的な署名検出だけでは不十分になっており、防御側も標的の回転など構造的な対応へのシフトが必要だとも述べている。

開発者やAPIを利用する企業にとって実務的な示唆もある。レポートはAI関連の認証情報（APIキー）を、本番環境の認証情報と同等の厳格さで保護する必要があると強調しており、公式チャネル以外からのAPIキー購入にはリスクがあると警告している。今回の報告内容は、AnthropicやOpenAIの安全研究者が相次いでAIの実存的リスクに言及し、CNNやFox Newsなど主流メディアでも取り上げられる一因となった。

アップデート：中国・イランなど国家主体の悪用事例が判明

レポート公開後の報道で、監視・情報操作に関わる国別の事例がさらに明らかになった。中国では、Moonshot AIとDeepSeekがClaudeの回答を無断で取得し自社モデルの改善に流用していたとされ、10日間で約30万件の顧客リクエストを中継、5,380個の詐欺的アカウントを使用していたという。イランでは、ソーシャルメディア上の情報をもとに個人を特定する技術の開発にClaudeが使われた。西アフリカのマリでも、国家安全保障当局の契約業者がインテリジェンス収集用ソフトウェアの開発にClaudeを利用していたことが判明した。

これらの監視活動の標的には、香港の民主化活動家、チベット系コミュニティ、法輪功信仰者、イラン系少数民族や反体制派など、歴史的に弾圧の対象とされてきた集団が含まれていたという。

生物兵器関連では、最も深刻な事例としてチクングニア熱ウイルスの感染力と免疫回避能力を高める研究提案が報告された。不特定のユーザーが、ワクチン開発にも病原体の危険性向上にも転用できる科学助成金申請書の作成支援をClaudeに要求していたとされる。政治的な影響工作については、ロシア・イラン・トルコなどを発信元とする事例を含め、合計9件が確認されている。

アップデート：バイオセキュリティで5件の阻止事例、ガードレールの回避手口も判明

Ars Technicaの報道により、生物兵器関連の悪用事例がさらに具体的に判明した。Anthropicは、ユーザーが「制御を回避」し「研究目的を偽装しようとした」ケースとして、合計5件の事例を挙げている。

内訳は、軍事研究機関に関連する助成金申請（前述のチクングニア熱ウイルス改変計画）に加え、高病原性鳥インフルエンザに関する数週間にわたる研究計画とデータ分析、オルソポックスウイルス・毒素・毒液関連化合物を扱う研究の3系統だ。

Claudeのガードレールはこれらの機微なリクエストをブロックし、より高性能なモデルへのアクセスも拒否した。しかし少なくとも1件では、ブロックされたユーザーが防御の弱い競合他社のモデルにプロンプトを回して迂回したという。Anthropicは、これらの事例に最新かつ高性能なClaude Fable・Mythos系モデルは一切関与しておらず、いずれも安全対策がより緩かった旧世代のClaude Opus 4やClaude Sonnet 4.5が使われていたと強調している。