Meta の請負業者たちは、数千の危機的なプロンプトで OpenAI、Google、Character.AI のチャットボットをテストしていた。これらの企業は何も知らされていなかった。

秘密プロジェクト「Cannes」の実態

Meta の請負業者 Covalent が運営していた「Cannes」というプロジェクトで、契約者たちが 18 歳未満の生年月日を使って偽アカウントを作成しました。その上で、自傷行為、摂食障害、薬物使用に関する何千ものプロンプトを ChatGPT、Gemini、Character.AI に送信。2025 年 8 月の単一テストラウンドだけで、45,000 以上のプロンプトが送信されました。

この検査では、チャットボットがどれほど未成年からの危機的な相談に対応するか、その脆弱性を測定することが目的だったとみられます。しかし OpenAI、Google，Character.AI はいずれも Meta の検査について事前の通知を受けていません。

未成年による AI 利用の現状

Meta が浮き彫りにした問題は、年齢検証システムの穴です。実際のデータが物語っています：

  • 64% の 9 歳～17 歳の子どもが既に AI チャットボットを使用
  • 58% の 9 歳～12 歳児が、13 歳以上が必須の年齢要件を無視して使用

これらのプラットフォームは年齢確認の実効性が極めて低く、未成年ユーザーが危機的な内容――死を考える状態、薬物乱用、性的搾取――についてチャットボットに相談するのを止められません。

業界全体を揺るがす安全性問題

複数の死亡事件がチャットボットと関連していることが報告されており、年齢認証の欠如と不適切なコンテンツへの対応が、実在する命の危機につながる状況になっています。Meta のテストプロジェクトは、OpenAI、Google，Anthropic といった主要企業のセーフティモデルがまだ検証段階にあることを明らかにしました。

チャットボット企業は、より厳格な年齢確認メカニズムと、危機的な質問への対応プロトコルを再構築する必要があります。つまり、単なるガードレール追加ではなく、システムレベルでの再設計が求められています。

競合企業の秘密検査をめぐる問題

Meta が競合企業を知らせずにテストしたことも論争を呼んでいます。セキュリティ業界では、脆弱性の報告は開示前に企業と協力するのが標準的な慣行（責任ある情報開示）です。しかし Meta はこの慣例を無視し、プロジェクトを秘密裏に進めました。

透明性とセーフティのバランスが問われています。未成年保護は急務ですが、競合他社を一方的に検査することの倫理的側面も検討される必要があります。