xAIが児童性的虐待画像(CSAM)をAIチャットボット「Grok」の学習データに使用したとする訴訟が新たに提起された。水曜日に提出された訴状によると、原告の「ジェーン・ドウ」は2000年代初頭に幼児期の被害を受けた女性で、自身の画像がGrokの学習データセットに含まれていたと主張している。xAIが学習データに関してこの種の主張を受けるのは今回が初めてだ。

ハッシュ値で被害画像を照合

原告の画像は、全米行方不明・搾取児童センター(NCMEC)やカナダ児童保護センター(CCCP)によって長年ハッシュ値管理されてきた既知のCSAM画像だ。訴状によれば、このハッシュ値が付与された画像と同一の素材が、xAIがGrokの画像・動画生成機能を構築する際に使ったデータセットの一部だったとされる。原告は米司法省の被害者通知システムを通じ、自身の画像が新たな捜査で確認されるたびに通知を受け取っており、CCCPからGrok上でAI生成のCSAM画像が特定されたとの連絡を受けて今回の提訴に至った。

生成物を再学習に使う仕組みが焦点に

訴状がより詳細に主張しているのは、Grokが自ら生成した画像を学習データとして取り込む仕組みそのものへの問題提起だ。xAIの利用規約では、X上の公開投稿とGrokの生成物がデフォルトで学習データ扱いになるとされ、訴状は「画像を公開投稿することは、閲覧者に晒すだけでなく、xAIがGrokを学習・改良し、さらなる画像を生成するパイプラインに直接投入することを意味する」と指摘している。

xAIはGrokの出力から暴力的なコンテンツを学習データから除外するフィルターを設けているが、利用規約はCSAMや非同意の性的画像(NCII)、性的表現を含むコンテンツがこの除外対象に含まれるかを明記していないという。訴状は、学習済みモデルから特定データの影響を完全に除去することは技術的に困難であり、xAIがそれを実施したと公表した事実もないため、削除前に取り込まれたCSAMが画像の公開停止後もモデルの出力に影響を与え続けている可能性があると主張している。

業界への影響

Grokをめぐっては、これまでも複数の少女の写真がCSAM画像に転用されたとする訴訟や、未成年画像の編集をめぐる集団訴訟が相次いで提起されてきた。ただし学習データそのものにCSAMが含まれていたと明確に主張する訴訟は今回が初めてで、生成AIが自らの出力を再学習に使う設計そのものの安全性が問われる展開になっている。AI企業にとっては、生成物を学習データに還流させる仕組みを採用する際、除外すべきコンテンツの範囲をどう定義し検証するかが今後さらに厳しく問われることになりそうだ。