ニューヨーク州マンハッタン地方検事局は9月14日、著名人の性的なディープフェイク動画を無断で共有・販売していたウェブサイト12件のドメインを差し押さえたと発表した。ディープフェイク技術が2017年末に登場して以来、この種のサイトに対する摘発としては最大級の規模となる。

被害者は1200人、大半が女性

地検によると、俳優、政治家、アスリート、ミュージシャン、活動家、SNSインフルエンサーなど約1200人が、本人の知識や同意なしに性的なポルノ映像へと加工され、これらのサイトで公開・販売されていた。被害者の大半は女性が占める。

地方検事のアルビン・ブラッグ氏は声明で「こうしたプライバシー侵害は被害者のキャリアや私生活にまで付きまとい、精神面・感情面に計り知れない打撃を与える」と述べ、被害の可能性がある人物に対してサイバー犯罪局への連絡を呼びかけた。サイトの運営者や、被害動画をアップロードした人物の特定に向けた捜査は継続中だという。

ニューヨーク州の刑事訴訟法を根拠に差し押さえ

差し押さえはニューヨーク州の刑事訴訟法に基づき、州最高裁判所が発行した押収令状に沿って実施された。地検はサイト名を公表していないが、WIREDが独自に確認したところでは、先週末の時点ですでに複数サイトのトップページが「本ドメインは差し押さえられました」という通知に置き換わっていたという。サイトの多くは「セレブのディープフェイク」「本物のディープフェイク」などをうたう名称を使い、著名人の実在する顔を既存のポルノ映像に合成した数分単位の映像を扱っていた。アーカイブされたページを見ると、一部の映像は数万回再生されており、2018年から運営されているサイトも含まれていたという。

米国では、被害画像の削除や法執行機関によるサイト差し押さえを可能にする連邦法「Take It Down Act」が段階的に運用され始めている。ディープフェイクを規制する法律の整備自体は各州で足並みがそろっていないが、今回の摘発はニューヨーク州法を活用した実効性のある取り締まりの一例となる。

業界関係者は「実効性のある協調」の証左と評価

ディープフェイク生成の実態を研究する国際NGO・戦略対話研究所(ISD)の研究者Leonie Oehmig氏は、今回の摘発を「非同意型の性的合成画像(NCII)との闘いにおける大きな勝利」と評価する。差し押さえられたサイトはVPN経由でも他地域からアクセスできない状態になっており、Oehmig氏は「規制そのものが法域をまたいで断片化した状態にあっても、意味のある協調的な取り締まりは実現可能だと示している」と指摘する。

生成AIの性能向上に伴い、女性の写真を「脱がせる」加工や、露骨な性的映像を数秒で生成できるアプリ・ボットの闇市場が拡大してきた。著名人の被害は表面化しやすい一方、一般女性や未成年を狙った被害の多くは非公開のSNSグループ内で流通しており、可視化されにくい実態がある。今回のような大規模な法執行の動きが、被害の抑止と削除の迅速化にどこまでつながるかが今後の焦点となる。