Facebook と Instagram 上で、実在する未成年者の写真を使った「ヌーディファイ」アプリの広告が数百件規模で配信されていたことが明らかになった。非営利団体 Tech Transparency Project（TTP）の調査で332件の該当広告が確認され、その後 Wired 誌の独自調査でも同種の広告が多数見つかっている。

広告に使われた画像

確認された広告には、欧州王室の若年メンバーの公式写真、Instagram で人気のプリティーン女児インフルエンサーの画像、ストック写真サイトから取得した児童の画像などが無断で使用されていた。広告のキャプションには「隠された欲望を現実に」といった露骨な勧誘文言が含まれていたという。これらのアプリは、画像や動画から人物の顔を抽出してヌード画像に加工する機能をうたっており、実在の未成年者の写真が加工対象として利用されていた。

Metaの対応の遅さ

報告を受けてもMetaの削除対応は遅く、あるストック写真を使った広告はインプレッション数が4件から330件に増加するまで削除されなかったという。同一の画像を使った広告でも、一方は削除され他方はポリシー違反として扱われないなど、審査基準の不一致も指摘されている。今回配信された広告の総広告費は5,000ドル未満とみられるが、TTP は実際に得られた収益がさらに大きい可能性があるとしている。地域別ではEUで約2万9千人、英国で約6,800人にリーチし、米国が全体の約80%を占めた。

規制当局の動きと業界への波及

事態を受け、ミシガン州とフロリダ州の司法長官が調査に着手したほか、マーク・ワーナー上院議員がMetaに公開書簡を送付した。オーストラリアの eSafety 規制当局も懸念を表明している。実在の未成年者の画像を使った性的コンテンツ生成アプリの広告は、児童性的虐待素材(CSAM)に関わる法規制の対象となりうる深刻な問題であり、プラットフォーム企業の広告審査体制そのものへの疑念を強めている。

Meta のプラットフォームでは、政治家を標的にしたディープフェイクポルノアプリの広告が問題視された件が8月にも報じられたばかりで、今回はその対象が実在の未成年者にまで及んでいたことが判明した形だ。広告主の事前審査の厳格化や、生成AIアプリの流通そのものを規制する動きが、今後さらに強まる可能性がある。