UN Women は、AI テクノロジーを悪用したオンライン暴力が急速に深刻化していると警告する報告書「Tipping point: Online violence impacts, manifestations, and redress in the AI age」を発表しました。119カ国での調査に基づいています。

AI ディープフェイクが「暴力の新時代」を開く

報告書は、ディープフェイク技術と非合意ポルノが既存のオンラインハラスメントを「強化」していることを指摘しています。特に警告されるのが「AI 支援ヴァーチュアル強姦」と呼ばれる現象で、顔の付け替えなど機械学習技術を用いた性的画像が被害者の同意なく生成・拡散されています。

被害は「公的領域で発言する女性」に集中

最も被害が大きいグループは、女性ジャーナリスト、人権擁護活動家、政治活動家、ライター、そして様々な公共の議論に参加する女性です。ソーシャルメディアや政治的活動の中心となる層が、特に標的にされています。

報告書は、これらの暴力が被害者の公的生活への参加を制限し、民主的な言論活動そのものを阻害する構造的な問題だと指摘しています。

メンタルヘルス危機と自己検閲の広がり

オンライン暴力は単なる一時的な被害にとどまりません。報告書が記録したのは、被害者に生じる深刻な心理的影響です：

  • 不安障害、うつ病、心的外傷後ストレス障害（PTSD）
  • SNS と職場での自己検閲（発言の萎縮）
  • 公的な活動からの撤退

このパターンは、暴力者が意図した「女性の沈黙化」を実現させます。

テクノロジー企業と国家の責任を問う

UN Women は、問題の解決に向けて以下を要求しています：

1. より強力な法的枠組み — AI 生成ポルノと非合意画像の違法化

2. 制度的支援の強化 — オンライン暴力の被害者向けサービス、心理支援、法的支援

3. テクノロジー企業のアカウンタビリティ — ディープフェイク検出技術の投資、報告制度の改善、透明性の向上

報告書は、AI 産業の急速な発展と、それに追いつかない国際的な規制枠組みのギャップが問題を深刻化させていることを強調しています。テクノロジー企業の自主規制だけでは対応不可能であり、国家と国際社会の介入が不可欠だと結論づけています。