オーストラリアの企業庁 Asic が、AI を使ったディープフェイク技術を悪用した詐欺が急速に増加していると警告した。特に注目されるのは、Anthony Albanese 首相の顔や声がディープフェイクで複製され、虚偽の投資勧誘に利用されているという点である。被害総額は$7.4M に上り、当局は国民に警戒を呼びかけている。

ディープフェイク詐欺の実態

Asic の警告によると、スキャマーが有名人やオーストラリアの政治家のディープフェイク動画を生成し、これを投資詐欺の道具として活用する事例が増えている。中でも Albanese 首相は最も多くなりすまされている政治家である。詐欺師は YouTube や SNS にこれらの動画をアップロードしたり、詐欺的な広告ネットワークを通じて配信し、被害者を投資詐欺サイトへ誘導する。

「誰が最も多くディープフェイクの対象にされているか」というデータは、テクノロジーの民主化がもたらしたセキュリティ上の課題を象徴している。政治家や著名人は認知度が高いため、ディープフェイク詐欺の題材として最適だと詐欺師が認識しているのである。

金額の規模と被害の広がり

被害額$7.4M（約10億円超）は単なる数字ではなく、個々の被害者が投資という名目で失った資産を意味する。投資に関心を持つ人々、特に高齢者や金融リテラシーが低い層が主なターゲットになると予想される。

Asic が一般向けに警告を出したということは、この詐欺の報告件数や被害の深刻さが相当程度に達していることを示唆している。当局の公式な警告は、単なる啓発ではなく、被害が続発している段階での緊急措置である。

ディープフェイク技術の悪用と検証の難しさ

ディープフェイク技術は、数年前の研究段階から今や一般向けの AI ツール（deepfake アプリ、Synthesia など）として容易に入手可能になっている。高額な計算リソースを必要とせず、スマートフォンや PC でも基本的なディープフェイク生成ができるようになった。

投資詐欺では、被害者の心理的な信頼を崩さないことが重要である。有名人や政治家のディープフェイク動画が「証拠」として機能し、被害者は動画の真正性を検証する手段がない状態で詐欺サイトへ誘導される。技術的な検証（メタデータの確認など）は一般ユーザーに難しく、視覚的・聴覚的な説得力に頼りやすいのが現状である。

対策と検証の必要性

Asic は国民に対して、以下のような対策を呼びかけている：

  • YouTube や SNS で見かけた著名人の投資勧誘動画は、その人物の公式チャネルで直接確認する
  • 投資サイトの URL やドメインを精査し、公式サイトと完全一致するか確認する
  • ディープフェイク検出ツールの普及を業界全体で推進する必要性

技術側では、ディープフェイク検出技術（Deepfake Detection API など）の精度向上と、プラットフォーム側での自動検出・削除の仕組みが急務である。ただし検出技術も AI ツールであり、詐欺師の手口の進化に追いつくのは困難な状況が続く。