UK Ofcom が違法画像規制を強化、プラットフォームに48時間削除義務・最大10%売上罰金
英国の Ofcom がオンラインセーフティ法に基づき、リベンジポルノと AI ディープフェイク画像の規制を強化。プラットフォーム企業に 48 時間以内の削除と積極的な検知を義務付け、違反時は売上高の最大 10% の罰金。グローバル展開するテック企業への直接的な影響を解説します。
続きを読む
タグ一覧に戻る
ディープフェイク
記事数: 39 件
UN Women、AI を使ったオンライン暴力が激化と警告——ディープフェイク・非合意ポルノが女性ジャーナリストを襲う
UN Women の報告書『Tipping point』が119カ国の調査結果を公表。AI ディープフェイクと非合意セクシュアル画像が女性活動家を脅かし、自己検閲と心理的トラウマを引き起こしている。
続きを読む
ミネソタ州、AI脱衣アプリを禁止——アプリメーカーは最大50万ドルの罰金
米国初となるミネソタ州の法案は、Grok関連の深刻な被害を背景に、AI脱衣ツールに対する本格的な規制へと舵を切ります。
続きを読む
Taylor Swift のディープフェイクが TikTok 詐欺広告の顔に――セレブ詐欺の工業化とそれでも止まらない被害
Taylor Swift、Rihanna、Kim Kardashian などのセレブのディープフェイク映像が TikTok 上で詐欺広告として大量配信。ユーザーの個人情報を引き出す巧妙なスキーム。Swift は肖像権とボイスプリントを商標登録で保護へ。
続きを読む
「これは明らかに私」――モデル Christine Li、無断でドラマに使用された顔、中国マイクロドラマの脅威
中国の配信プラットフォーム Hongguo で、モデル Christine Li の顔がディープフェイクで無断使用され、キャラクターとして演じられた。マイクロドラマ産業の急成長とAI技術の組み合わせが、肖像権・名誉権の新たな危機を招く。
続きを読む
YouTubeがAI顔認識ツールをセレブ向けに拡大、ディープフェイク削除機能をエンタメ業界に提供
YouTubeが「likeness detection」というAI顔認識技術をセレブリティと芸能管理会社向けに展開します。無許可で顔が使用されたディープフェイクやなりすまし広告を検出・削除できます。
続きを読む
TikTok・Instagram で AI 生成インフルエンサーが Pro-Trump プロパガンダ展開――中間選挙を前に 304+ アカウント確認
複数のプラットフォームで AI 生成アバターを使った 304 以上のインフルエンサー偽装アカウントが Pro-Trump メッセージを発信。最大で 35,000 フォロワー、500 万ビューに達するアカウントも確認された。
続きを読む
ByteDanceがSeedance 2.0を100カ国以上で展開、米国は除外
Seedance 2.0がByteplus経由で100カ国以上の法人向けに利用可能に。ハリウッドスタジオとの著作権紛争で米国は対象外だが、人物フィルタリングなどの保護機能を実装。
続きを読む
Telegram で AI を悪用した非合意画像ネットワーク——280 万件メッセージから露出した違法エコシステム
AI Forensics の調査が、Telegram でボット化した非合意画像生成ツールを使った違法ネットワークを報告。イタリア・スペインで 24,000 人以上が参加、月額アフィリエイト収入は数千ユーロに。
続きを読む
深刻化するドイツのAIディープフェイク問題
女優Collien Fernandesの告発をきっかけに、ドイツでAIディープフェイク被害と法制度の課題が注目され、政府と業界の連携による具体的な救済と予防策の実装が期待されています
続きを読む
広がるAI深偽造：見抜いても残る影響
AIが生成する深偽造（ディープフェイク）は収益化やプロパガンダに結びついていますが、透明性の強化と検証、利用者の情報リテラシーを高めることで信頼を取り戻すことができます。
続きを読む
AIで揺れる民主票、Palantir創業者の警鐘
Palantir創業者アレックス・カーの警鐘をきっかけに、AIが有権者の情報環境や投票行動、特に高学歴の女性有権者に及ぶ可能性を具体例とともに整理し、透明性や規制、情報リテラシー強化の重要性をわかりやすく解説します。
続きを読む
公開文書に見える中国PLAのAI戦略の動き
ジョージタウン大の分析は、公開された数千件の調達文書から中国PLAがドローン群やディープフェイク、自律判定など軍事AI技術を幅広く試験している可能性を示しており、企業や研究者は透明性と倫理の議論を強化する必要があることを示唆しています。
続きを読む
通知から48時間で削除義務に リベンジ対策
被害者の通知から48時間以内の削除義務案は、リベンジポルノやディープフェイク被害を迅速に食い止めるための施策であり、企業対応の強化や通知手続きの整備、技術的再投稿対策を進めながら表現の自由との均衡を丁寧に保つことを目指しています。
続きを読む
DPCがXで始めたAI深偽造の実態調査
アイルランドのDPCがX上のAI生成による深偽造を対象に包括的な調査を開始し、規制の適用範囲やプラットフォーム運用の見直しが進む可能性があるため、利用者は設定の見直しと情報の出所確認を心がけることをお勧めします
続きを読む
Interpol最前線：AI武器化が変えた戦場
Interpolのシンガポール拠点が示すのは、AIが巧妙なフィッシングや偽動画を武器化している現実です。国際連携と教育で防御力を高め、社会の信頼を守る必要があります。
続きを読む
インド、ディープフェイク削除が最短2時間に
インドは2026年2月20日からディープフェイク削除の新規則を施行し、ソーシャルメディア事業者に最短2時間の削除対応を求めることで偽情報拡散を抑え、オンラインの信頼回復と透明性確保を目指します。企業側には運用体制の強化が求められるため、今後の公式ガイドライン公開に注目が集まります。
続きを読む
衆院選とAI偽動画、情報リテラシーの試練
衆院選を控えAI生成の偽動画が広がる中、個人でできる確認方法やファクトチェックのコツ、プラットフォームや教育の対策を分かりやすく紹介し、安心して選挙情報と向き合うための指針をお届けします。
続きを読む
7つの要点が示すAI安全の新局面と対策
本報告は、ベンジオ氏らの関与のもと、AIの能力拡大とそれに伴う現実的リスクを整理し、企業や個人が取るべき安全対策と透明性強化の実務指針を示しています（Geoffrey Hinton）。
続きを読む
AI生成反ICE動画の拡散と実像分析
InstagramやFacebookで拡散したAI生成の反ICE動画を例に、表現の力と誤情報リスクの両面を整理し、透明性やラベリングの重要性を分かりやすく伝えます。
続きを読む
XとGrokの深偽造問題とNZ法の遅れ
X上のAIチャットボットGrokを巡る性的深偽造の問題を手がかりに、ニュージーランドの法整備遅れと国際規制の差異をわかりやすく解説し、個人と企業が取るべき対策を示します。
続きを読む
Grok生成の偽画像でxAIを提訴、倫理と法
イーロン・マスク氏の子の母親がGrokを提供するxAIを提訴した事件は、同意なく生成された性的深層偽画像をめぐりAIの利用規範や肖像権の在り方を考える重要な契機となり、今後の判決や企業対応が利用者と開発者双方の行動指針を形作ることが期待されます。
続きを読むGrok騒動が照らしたAI規制の盲点と対策
Grok騒動を契機に、英国Ofcomや米国議会が対策を加速し、技術的ガードレール整備やプラットフォーム協調、被害救済の仕組みづくりが進むことで安心できる生成AI社会の実現が見えてきました。
続きを読む
Grok規制の行方：富裕層と世界の反応
Grokを巡る国際的な議論は、富裕層の影響力と深層偽造（ディープフェイク）への懸念を可視化し、各国が透明性の確保、利用目的の制限、監督体制の整備を柱に技術革新と個人の安全を両立させる現実的な規制の策定を急いでいることを示しています。
続きを読む
Grokと未成年画像問題：責任と法の行方
Grokを巡る未成年画像の懸念は、英国の調査や東南アジアの対応と相まって、プラットフォーム責任と法整備の加速を促す契機となっており、企業や開発者は透明性と安全対策の強化が求められます。
続きを読む
Grokと深層偽装：AI時代の性被害対策
Grokを契機に浮上した深層偽装問題を巡り、英国の規制方針や米英の対応差を踏まえ、同意の明確化やプラットフォーム責任といった具体策を示し、被害抑止と表現の自由の両立の道筋を分かりやすく解説します。
続きを読む
Grok遮断が示す深層偽造対策の試金石
インドネシアとマレーシアがxAIのチャットボットGrokを一時遮断した事例をもとに、非同意の性的ディープフェイク問題と透明性ある規制、企業の説明責任の必要性をわかりやすく解説します。
続きを読む
Grokの画像生成停止が示す3つの波紋
Grokが大多数のユーザー向けに画像生成を停止しました。性的ディープフェイクや規制リスクが背景にあり、有料化や年齢認証強化、生成ルールの透明化など新たな運用モデルが注目されています。
続きを読む
AIで牧師を偽装する詐欺、教会ができる対策
米国の教会で確認されたAIディープフェイクによる牧師偽装を受け、寄付の検証ルール整備やデジタルリテラシー教育、二段階認証導入で信頼回復を目指す動きが広がっています。
続きを読む
Varoufakisに学ぶ深偽動画が暴く民主主義の亀裂
Varoufakis氏の体験を通じて、深偽（AIで生成された偽映像）が日常の断片を利用して信頼や議論を揺るがす実態と、個人や報道がすぐに実行できる検証法や心構えを分かりやすくまとめました。
続きを読む
AI顔交換が変える恋愛詐欺の現場と最新対策
AIの高精度なライブ顔交換技術は恋愛の現場で新たな手口を生んでいますが、報道を受けてプラットフォームの動きも出ており、身元確認や逆画像検索などの実践的な対策で被害を着実に減らせます。
続きを読む
AI動画が揺さぶる情報戦と支援の行方
英国のユベット・クーパー氏が警鐘を鳴らす中、ディープフェイクを含むAI生成動画の拡散に備え、ソーシャルメディアでの拡散抑止と国際協力、報道の検証力強化やデジタルリテラシー向上が期待されています
続きを読む
TikTokに広がる偽医師動画が健康を揺るがす
TikTokで偽医師の動画が拡散し、Wellness Nestへの誘導も指摘されていますが、公式機関の情報を優先し複数ソースで照合、疑わしい投稿は速やかに報告することで誤情報に対処できます。
続きを読む
キャメロンが語る生成AIの恐怖：映画界が問う未来
ジェームズ・キャメロンの発言は生成AIと映画制作の関係を見直す好機を提供し、技術の利点と著作権や肖像といった倫理課題を両面から冷静に検討する重要性を示しています。
続きを読む
性的ディープフェイクが迫る危機と規制の分かれ道
英国警察の委託調査で約4分の1が同意なしの性的ディープフェイクを容認する傾向が示され、被害抑止のため企業責任の明確化や法整備、デジタルリテラシー向上の重要性が高まっています。
続きを読む
毒入りピクセルで挑む新・ディープフェイク対策
Monash大学と豪州連邦警察が“poisoned pixels”と呼ばれる画像改変でディープフェイクを無効化する新手法を模索中。詳細未公開のため、有効性と倫理面の議論が鍵となります。
続きを読む