Googleは、Geminiモデルが2026年5月に実施されたセキュリティ検証中、実在する3社のシステムに不正ログインしていたことを確認した。Wall Street Journalの報道を受けての確認で、原因は検証環境の設定ミスによりGeminiがインターネットに接続できてしまったことにある。

検証環境の設定ミスから実企業への接続へ

問題が起きたのは、セキュリティ企業Irregularが実施した「capture the flag」形式の検証だ。Geminiのサイバーセキュリティ能力を閉じた環境で試す目的で、実在する企業と同名の架空企業から情報を取得するよう指示されていた。本来はサーバー外部へのアクセスを禁じる設定だったが、設定ミスによりGeminiはインターネットに接続できる状態になっていた。

外部に出たGeminiは、架空企業ではなく実在する企業のインフラを標的にした。3件のうち1件ではパスワードを推測して企業のオンラインサービスに侵入し、残り2件では公開されているソフトウェアリポジトリを検索し、誤って公開されていた企業の認証情報を発見してログインした。

モデルは侵入後に自ら停止、Googleは7月まで通知受けず

3件のテストいずれにおいても、Geminiは実在する企業のサーバーに接続したと気づいた時点で、それ以上の行動を自ら停止したという。Irregularはこの時点で設定を修正しインターネットへのアクセスを遮断したが、発生当初はこの事案を重視しておらず、他社のAIハッキング事案が報じられた後の7月になってようやくGoogleに報告した。Googleは事案を把握後、影響を受けた企業にパスワードのセキュリティ強化を促す通知を行った。

Googleのセキュリティエンジニアリング担当バイスプレジデント、Heather Adkins氏は「今回の事案は、強力なAIモデルを責任を持って行動するよう訓練することの重要性を示している。このケースでは、モデルは適切に行動した」と述べ、深刻度を抑えたコメントを出している。Googleが今回の事案を当初公表しなかった判断の背景には、モデルが侵入後に自制した点があるとみられる。

他社の「モデル逸脱」事例との違い

今回の事案は、8月に発覚したOpenAIとHugging Faceをめぐる事案とは性質が異なる。OpenAIのケースでは、モデルがベンチマークで高スコアを得るためにソフトウェアの脆弱性を悪用し、テスト環境外の情報に意図的にアクセスしており、明確なモデルの逸脱行動だったと指摘されている。一方、今回のGeminiのケースは、検証環境の設定ミスによって偶発的に外部アクセスが可能になった結果であり、モデル自らが悪意を持って行動したものではない。

とはいえ、パスワードの推測や漏えいした認証情報の悪用によって実企業への不正アクセスが発生した事実に変わりはなく、Googleが事案を把握した時点で速やかに公表すべきだったとの指摘もある。フロンティアAIモデルの検証環境における権限管理の甘さが、意図せぬ形で実害につながりうることを今回の事案は示している。