AI Forensics による調査が、Telegram に構築された大規模な非合意親密画像生成ネットワークを報告した。イタリアとスペインの 16 のグループから 280 万件以上のメッセージを分析した結果、2 万 4000 人以上のユーザーが参加する違法エコシステムが露出した。

ボット化された違法ネットワークの規模

調査データから、「ボット」という言葉が 16,232 回出現し、共有リンクの約 50% が AI ガールフレンドジェネレータ、19% が「ヌード化ボット」に関連していることが判明した。ユーザーは通常の写真から合成ヌード画像を自動生成し、TikTok インフルエンサーなどの女性の顔や身体を無断で加工。「フェイク音声」も製造され、#PornoTok ハッシュタグで拡散されている。

月額収入と自動化されたビジネスモデル

このネットワークは金銭化されたビジネスモデルで運営されており、個人向けアーカイブの販売価格は 20～50 ユーロ（単発）、月額購読は 5 ユーロ。アフィリエイト参加者は売上の 40% を手数料として得る。削除されたグループは数時間以内に同じ名前で再開される仕組みが、プラットフォーム設計上の問題として指摘されている。スペイン語コンテンツの 72% が複数グループに拡散する拡大再生産構造も確認された。

プラットフォーム責任とデジタルサービス法

研究者らは、Telegram のプレミアム機能がアクセス管理の自動化を助長し、違法コンテンツの迅速な削除と再配置を容易にしていると指摘。Telegram を「デジタルサービス法」における大規模オンラインプラットフォームとして分類し、一層の責任を課すべきと要求している。AI 技術の低コスト化がいかに容易に悪用されるか、そしてプラットフォーム側の対応の必要性が改めて浮き彫りになった。