Meta社内の独立審査機関「Oversight Board(監督委員会)」が、AI生成のディープフェイク動画を放置していたMetaの判断を覆し、削除と9項目の政策変更を勧告した。委員会はMetaの安全対策を「一貫して根本的に不十分」だったと断じている。

難民ヘイトを扇動する偽動画を放置

問題となった動画の1つは、スコットランドの労働党地方議員が「難民は歓迎だ、彼らが女性を強姦したとしても、白人もそうだから」と発言したかのように見せかけたディープフェイクだ。2025年11月に投稿され、5000回以上再生・50件超のコメントを集めたが、Meta は当初、この動画がコンテンツポリシーに違反しないと判断し、AI生成である旨のラベルも付けなかった。委員会が直接指摘した後も、Metaの判断は変わらなかったという。

監督委員会は、音声と口の動きが完全に同期していない点などからAI生成と判断し、難民全体を犯罪者・性犯罪者であるかのように扇動する内容はMetaのヘイトコンテンツ規定に違反すると認定。削除に加え、「高リスクAI」ラベルの対象拡大も勧告した。

若いムスリム女性への中傷動画も対象に

別の裁定では、月経衛生の啓発活動に取り組む若いムスリム女性を中傷するAI生成動画についても、Metaに削除を命じた。不自然な運動やジャンクフードを食べる様子を捏造した動画は、Meta のプラットフォーム上だけで数千万回再生されていたという。委員会はこれをいじめ・嫌がらせ規定への違反と認定し、「私人に対する望まれない加工画像」の定義自体をディープフェイクまで広げるよう求めた。

委員会が求める9つの見直し

委員会は今回、アルゴリズムが「高リスク」ラベル付きコンテンツをフィードで表示されにくくすること、視聴前に警告画面でクリックを求めること、繰り返し拡散するアカウントへの段階的な処罰、AIラベル運用に関する透明性データの年次公開など、9項目の政策変更をMetaに勧告した。共同委員長のパメラ・サン・マルティン氏は「政治家から一般市民まで、AI生成のディープフェイクは女性を公の議論から遠ざけ、沈黙させるために使われるケースが増えている」と指摘している。

プラットフォームのAI対策の遅れを象徴

監督委員会の裁定はMetaに対して拘束力を持つ。今回の一件は、生成AIによる偽動画の作成コストが急速に下がる一方で、プラットフォーム側の検知・対応体制がそのスピードに追いついていない実態を浮き彫りにした。X(旧Twitter)のGrokを巡るディープフェイク問題など、AI生成コンテンツの氾濫は主要SNS共通の課題になりつつあり、各社がどこまで実効性のある対策を打ち出せるかが今後の焦点になる。