あなたがSNSで見かける写真は、本当に「その人」でしょうか？

Grokのような生成AIが普及する中、写真を性的に改変して同意なく拡散する深層偽装（ディープフェイク）は、誰にとっても身近な脅威になりつつあります。深層偽装とは、AIで人物の顔や表情を合成・差し替える技術のことです。今回は問題の現状と、各国や企業が直面するジレンマを分かりやすく整理します。

Grokが示した問題点

報道では、Grokなどの技術を使って女性や未成年の写真が性的に改変・拡散される事例が取り上げられています。被害は個人の名誉や心身に大きな打撃を与えます。まるで“写真の中身がすり替わる”ような感覚です。

英国では技術担当相のリズ・ケンダル氏がこうした画像の拡散を決して容認しないと表明しました。週末には一部報道で副首相の発言やオンラインプラットフォームXの扱いを巡る議論も伝えられ、規制強化の機運が高まっています。ただし、こうした動きは同時に表現の自由との衝突を招きやすく、慎重な設計が求められます。

規制と表現の自由、どこで折り合いをつけるか

規制の目的は被害を防ぐことです。しかし、過度な縛りは言論や創作活動を萎縮させます。イーロン・マスク氏らの主張にあるように、規制が表現を抑える懸念も無視できません。ここで重要なのは、誰が、何を、どの基準で取り締まるのかを透明にすることです。

具体的には次の点が議論の焦点になります。

  • 同意の明確化：本人の同意がない合成は許容しない基準作り
  • プラットフォーム責任：違法・有害コンテンツの検出と削除の仕組み
  • 透明性と説明責任：削除基準や運用の公開
  • 国際協力：越境する被害に対応する法的連携

米英の対応差と国際的影響

英国は比較的規制志向で動いていますが、米国は自由表現の重要性を強調する傾向があります。国ごとの法制度や倫理観の違いが、規制の中身に大きな差を生み出しています。EUやその他の国々も含めた国際的な調整が今後の鍵です。

法的リスクと技術の速さ

技術は日々進化します。法制度はそれに追いつく必要がありますが、立法のペースは遅くなりがちです。違法性の判断や責任の所在を明確にすること、そして被害者支援の仕組みを整えることが急務です。

落としどころを探る提案

被害を抑えつつ表現の自由を守るための実務的な落としどころとして、次のアプローチが考えられます。

  • 同意ベースのルール整備と本人確認の強化
  • プラットフォームに対する透明性要求と監査制度
  • 被害者支援の充実と迅速な削除手続き
  • 技術者と企業の倫理ガイドラインの導入
  • 国際的な法整備と情報共有の促進

これらは万能薬ではありませんが、バランスを取りながら進めるための現実的な一歩です。

最後に：ルール作りは共同作業です

深層偽装は技術の恩恵と同時に新たな課題を突きつけます。政府、企業、技術者、そして市民が対話を重ねることで、被害を抑えつつ健全な表現を守る仕組みを作れます。難しい問題ですが、着実な議論と実行が未来を変えます。まずは現状を知り、具体的な対策を共有することから始めましょう。