Anthropic は 2026年8月に発表した安全性報告書で、同社の生物・化学兵器リスク検出システムが約1年間にわたって機能停止していたことを明かしました。これは同社の安全性重視を掲げる企業戦略と矛盾する重大なインシデントです。

インシデントの規模

対象期間と範囲

  • 機能停止期間: 2025年5月～2026年4月（約1年間）
  • 影響を受けた外部ユーザー: 約50,000人の契約者
  • 処理されたリクエスト: 約133万件（1,330万ではなく正確には “133 million” 件とのこと）
  • フィルタリング状態: 完全に無効化

検出対象

バイオ・ケム分類器は、以下のカテゴリを検出・ブロックするために設計されていました：

  • 生物兵器開発に関する情報抽出（設計、製造方法、材料）
  • 化学兵器に関する危険な知識（合成方法、使用方法）
  • デュアルユース技術の悪用シナリオ

Anthropic の対応

スクリーニング

Anthropic は「十分でない外部ベンダーのスクリーニングプロセス」のみで契約者審査をしていたと報告。つまり、フィルタが故障している間、セーフガードは単一層の人員審査だけだったことになります。

事後対応

報告書では以下の対策が講じられたと述べられています：

  • 契約者スクリーニング プロセスの強化
  • 規制当局への報告
  • 内部調査の実施（悪用の跡は見つからなかったとしている）

戦略的矛盾

この事実は、Anthropic の安全性戦略に大きな疑問を投げかけます。

公開姿勢実態
Claude のウォーターマーク検出 API を公開内部フィルタが1年間故障していた
定期的な安全性報告書を発表重大インシデントを事後報告（故障中は報告なし）
「透明性・安全性重視」を標榜物理的には防御機能が機能していなかった

CEO の言葉との乖離

Anthropic CEO Dario Amodei は過去に「化学・生物兵器の AI 支援開発がサイバー攻撃より重大な脅威である」と公言しています。しかし同時に、その脅威を検出するフィルタが1年間も機能していなかったという事実は、この優先順位宣言の信頼性に傷がついたことを意味します。

業界への波紋

OpenAI との対比

OpenAI が Preparedness チーム（カタストロフィック・リスク評価部門）を解散したニュースが 8月16日に報道された直後での Anthropic インシデント公開は、AI 企業全体の安全性へのコミットメントに疑問を生じさせます。

  • OpenAI: 安全性評価チームを廃止
  • Anthropic: 安全性フィルタが1年間ダウン

どちらも「安全性を掲げているが、実行面で課題がある」というシグナルになっています。

規制強化への議論

バイオ・ケム分野の AI リスク管理は世界的な規制課題です。このインシデントは以下の議論を加速させる可能性があります：

  • 政府による AI 企業の安全性監査義務化
  • フィルタリング機能の第三者検証要件
  • インシデント報告の時間短縮規則

読者への影響

エンタープライズ顧客の懸念

Anthropic を安全性基準で選んだエンタープライズ顧客は、契約条件の再検討を迫られる可能性があります。

  • フィルタの信頼性保証はどうなるのか
  • 今後のインシデント報告はどの程度の速度で行われるのか
  • 代替の Claude 使用条件はあるのか

開発者の選択基準

開発者にとって「Claude は安全」という前提が揺らぐことで、モデル選択基準が変わる可能性があります。

参考情報：

  • THE DECODER（2026-08-16）「Anthropic’s bio-weapons filter was down for nearly a year, exposing 133 million requests」