サンフランシスコ市検事局が Apple と Google に対し、生成 AI を用いたヌード画像アプリ 13 件の削除を命じました。女性・少女を圧倒的に標的にしたこれらアプリから生じた「数百万ドル規模の不正利益」の没収も求めています。

サンフランシスコ AG の行動——プラットフォームの責任を問う新段階

今週、サンフランシスコ市検事局は両社に cease-and-desist（中止・差止命令）レターを送付。以下の措置を要求しています。

  • 即座のアプリ削除: App Store・Play Store からの 13 件アプリの下架
  • 利益返納: 消費者被害の補償に充てるため、過去に得た利益（推定数百万ドル）の没収
  • 再発防止: 類似アプリの流通防止メカニズムの強化

対象アプリの実態——「face-swap」技術による被害

削除対象とされた 13 アプリは、いずれも「face-swap（顔入れ替え）」技術を使用。撮影対象者の同意なしに、女性・少女の実写写真を用いてフェイク ヌード画像を生成します。

被害の実態：

  • 圧倒的に女性・少女が対象
  • 復讐目的・脅迫・セクハラに悪用
  • 被害者の知らない間にソーシャルメディアで拡散

プラットフォーム企業の共犯性——Apple・Google への追及

サンフランシスコ AG は、単なる「アプリ開発者」の責任に留まらず、App Store・Play Store を運営する Apple・Google 自身が利益分配者（直接的な受益者）であるという立場を明確化しました。

数字で示す実態

公開推定によれば、Google と Apple はこの 13 アプリから数百万ドルの手数料（通常 15～30%）を徴収。利用者の購読料やアプリ内課金から仲介手数料を吸い上げていた構図です。

  • アプリ価格：通常 $0.99 ～ $5.99/月
  • プラットフォーム手数料：総売上の 15～30%
  • 推定年間利益：数百万ドル規模

規制の背景——規模が変わった AI ヌード生成

2024 年以降、AI 画像生成技術が急速に低コスト化・高精度化したことで、ヌード画像生成が工業化規模に拡大。

先行事例との違い

時期被害形態規制
2021～2023 年Grok など特定 AI モデルの悪用各企業による削除・制限（自主規制）
2024 年～専用アプリ化・App Store で堂々販売市・州・国レベルの行政命令（強制規制）

対応状況——プラットフォーム企業の動き

記事時点での両社からの正式コメントは限定的。ただし以下の背景があります。

  • Apple: 過去にも「非合法な deepfake アプリ」削除でポリシーを厳格化
  • Google: Play Store のポリシー上、explicit content は原則禁止だが執行に隙間

規制当局の圧力により、両者とも今後数日以内に該当 13 アプリの削除対応を発表すると予想されます。

業界への波及——他の都市・州・国での規制加速か

本件は以下の点で重要です。

米国内での規制ドミノ現象

  • ミネソタ州法（ヌード画像生成アプリ禁止、2026 年 5 月成立）に続く、市レベルの行政命令
  • 他の大都市検事局（ニューヨーク、ロサンゼルス等）も同様の措置を検討中の可能性

プラットフォーム企業への法的リスク上昇

  • 「知ってながら利益を得ていた」という直接責任の認定が法的危険性を高める
  • 欧州 DSA（デジタル市場法）と同等レベルの「プラットフォーム責任」原則が米国でも浸透する兆候

今後の焦点

  1. Apple・Google が合意・速やかに削除するか / 抵抗するか
  2. 没収利益の額（合意金額次第で他の市の指標になる）
  3. より広域的な規制（連邦法化）への機運

女性・少女を標的にした AI 生成ヌード画像は、複数の州で既に禁止法が成立。本件の行政命令成功が、同様の規制を加速させる転機になるかが注視点です。