米国が AI により生成された非合意性的画像・動画への規制を実行段階に移した。連邦取引委員会（FTC）が 5 月 20 日、科学技術企業に対して「Take It Down Act」の履行を要求する通知を発送。Meta、TikTok、X、Snapchat など複数のプラットフォームが対象となった。

法律の内容と要件

「Take It Down Act」は安価で入手しやすい AI ツールを使い性的 deepfake 画像を大量に生成・配信される事態に対応するため、前年に大統領が署名した法律。FTC は企業に以下を義務付けた：

  • 被害者による削除リクエストプロセスの確立
  • 有効なリクエスト受領後 48 時間以内の削除実行
  • 違反時の罰金

実効性への懸念

一方、専門家からは重大な懸念が寄せられている。スタンフォード大学の研究員は「削除優先」の動態が生まれると警告。「remove it, remove it, remove it」という圧力が組織文化を支配し、判断の慎重さを奪うリスクを指摘している。

追加的な課題として、以下が挙げられる：

  • マイノリティへの悪用：トランスジェンダーや性労働者が標的になりやすい
  • 政治的表現への影響：特定の政治的表現が削除対象に含まれる可能性
  • 過度な自主規制：プラットフォームが法律以上に厳格な基準を導入するリスク

技術的課題

AI deepfake の技術は日々進化し、規制の実効性が追いつかない状況も続いている。検出精度の向上と同時に、利用者プライバシー、表現の自由との衝突をいかに調整するかが、今後の課題となる。