AI チャットボットの安全性テストの水準が問われている。WIRED の調査により、Meta が数百人のコントラクターを雇い、未成年の偽 ID を使って OpenAI の ChatGPT や Google Gemini などのライバル AI に、自殺・薬物・性的内容など高リスクの質問をぶつけていたことが明らかになった。

Meta の隠蔽されたテスト戦略

Meta のコントラクターたちは teenager という偽りのアイデンティティを採用し、以下のような高リスク質問を投げかけた：

  • 自殺方法についての相談
  • 違法ドラッグの入手方法
  • 未成年性的虐待に関する内容

目的は競合他社の AI が「有害な応答」をするかテストすること。つまり Meta は、ChatGPT や Gemini が子どもからの危険な質問にどう対応するかを検証しようとしていた。

AI 安全テスト、透明性の欠落

この手法が問題視される理由は複数ある：

  1. 倫理的グレーゾーン：未成年に成りすますテストは、実際の児童保護ガイドラインや法的グレーエリアに接する
  2. 公開されていない：Meta はこのテストを公式に発表していない。WIRED の独立調査により初めて明らかになった
  3. 競合調査の色合い：単なる「安全性検証」を超えて、ライバル企業の弱点を探るインテリジェンス活動的側面

業界全体で「AI の安全性テスト」は正当な必要性だが、その方法論が透明でなければ、信頼性そのものが問われる。

ChatGPT と Gemini の「脆弱性」

高リスク質問への AI の応答パターンは、各社で異なっていた。

  • 一部の AI：明確に「違法・危険」と断定してリセット
  • 別の AI：初期対応は保守的だが、会話が進むにつれ防御を緩める傾向
  • 特定ケース：間違った情報を正しいかのように返す

これらの差異は、AI メーカーが独自にテストして対応できるはずだが、Meta のような巨大企業が「競合の弱点」を記録・報告している構図は、単なる品質向上を超えた競争力分析に見える。

業界全体の信頼危機

Meta の行動は、AI 企業間の「信頼と安全」の基準が一貫していないことを露呈させた。

  • 公開テスト・第三者検証を求める声が高まっている
  • 各社の AI 安全テスト方法論の透明化が急務
  • 児童保護とテスト倫理の線引きが必要

OpenAI、Google、Meta など大手企業は相互に「安全性」を標榜しているが、裏では競合の脆弱性を探り、自社の優位性を確保する動きが一般化している可能性がある。

Meta のテスト方法の是非は別として、この事例から見えることは：AI の安全性は企業の自主性に任せられていないという厳しい現実だ。第三者監査や規制の強化なしに、AI 産業全体の信頼再構築は難しくなるだろう。