セキュリティ研究者が新たな脅威『HalluSquatting』を発見した。これは LLM（大規模言語モデル）が「わかりません」と答えられない構造的な弱点を悪用して、ハッカーが大規模なボットネットを構築できるという危険性が指摘されている。ChatGPT、Claude、Gemini を含む9つの主要 AI ツールが影響を受けやすいことが判明し、セキュリティコミュニティから深刻な懸念が上がっている。

HalluSquatting とは

HalluSquatting は LLM の「幻覚（hallucination）」という性質を悪用した新種の攻撃手法である。LLM は学習データに含まれていない質問や要求に直面した場合、「わかりません」と返すことができず、もっともらしい（が誤った）回答を生成してしまう傾向がある。

ハッカーはこの弱点を利用して、存在しないサーバーアドレスやマルウェアのダウンロードリンク、ボットネット参加用のコマンドなどを LLM に生成させることができる。ユーザーがそれらの指示に従うと、知らぬ間に自分のマシンが攻撃者のボットネットに組み込まれてしまう可能性がある。

影響を受ける9つの主要AIツール

研究結果によると、以下の9つの人気 AI ツールが HalluSquatting 攻撃に対して脆弱性を示している。

  • ChatGPT（OpenAI）
  • Claude（Anthropic）
  • Gemini（Google）
  • Copilot（Microsoft）
  • Grok（xAI）
  • その他の主要モデル

これらのツールは個人ユーザーから企業まで、広く採用されており、大規模な被害が出る可能性がある。

実際の被害シナリオ

HalluSquatting の脅威は理論的なものではなく、現実的な被害が想定される。例えば：

  • 企業ネットワークの侵入 — 従業員が仕事で AI チャットボットを使用中に、ハッカーから指定されたコマンドを実行するよう指示された場合、企業 IT インフラへの足がかりになる
  • 大規模ボットネット構築 — 民間ユーザーの PC を数千台規模で支配下に置き、スパムメール配信や DDoS 攻撃に利用
  • ランサムウェア配布 — 知らぬ間に感染ファイルをダウンロードさせられる

AI の信頼性が高いという認識が、ユーザーの警戒心を弱める可能性があり、これが被害を拡大させる要因になり得る。

セキュリティ対策への示唆

HalluSquatting への対策は、個人ユーザーと企業の両面で必要になる。

ユーザー側の対策 — AI チャットボットからの指示に盲目的に従わない。特にダウンロードやコマンド実行は十分な検証が必要である。

企業側の対策 — 従業員への AI セキュリティ教育、AI 出力の検証プロセスの導入、ネットワークセグメンテーションの強化などが急務となっている。

AI 企業側の対策 — OpenAI、Anthropic、Google などの AI 企業も、LLM が明らかに危険な指示を拒否する仕組みの強化を求められることになるだろう。

今後の課題

この発見は、AI の普及に伴うセキュリティリスクがまだ充分に認識されていない実態を露呈させた。LLM のセキュリティは、単なる倫理的なガイドラインの実装では不十分であり、構造的な脆弱性への対策が急速に進む必要がある。