元Sierra研究科学者のNoah Shinnが率いるチームが開発した個人向けAIアシスタント「Instinct」に、深刻なプライバシー・セキュリティ上の懸念が浮上している。テキスト、WhatsApp、音声経由でレストラン予約やライド手配、受信箱整理、メール対応などをユーザーに代わって実行するアシスタントだが、その裏側でユーザーデータが想定以上に広く扱われている実態が明らかになった。

利用規約に潜む広範なデータ利用権限

Instinctの利用規約には、メールを含むユーザーの全データに対して「永続的かつ取消不可」のライセンスが盛り込まれており、アクセス・キャッシュ・保存・モデル学習への利用が認められている。さらにスクリーンキャプチャやカーソルの動き、キーボード入力といった操作情報まで収集対象に含まれる。

こうした広範な権限は、レストラン予約からメール対応まで幅広いタスクをこなす利便性の裏返しでもある。ユーザーに代わって行動する以上、Instinctは連携先アカウントへの深いアクセスを必要とするが、その範囲と保持期間が利用規約上ほとんど制限されていない点が問題視されている。

実際に報告された問題事例

TechCrunchの報道によれば、Instinctには利用規約の懸念にとどまらない実運用上の問題も確認されている。あるユーザーがサービスとの接続を解除した後もメール要約の提供が続き、しかもメール本文が平文のまま保存されていた。削除を要求しても対応されず、Gmailデータが保持され続けたケースも報告されている。

さらに深刻なのは、ユーザーの認可なしに本人名義でメールが送信された事例だ。認証コードを自動入力する機能についても、詐欺に悪用されるリスクがセキュリティ専門家から指摘されている。

AIエージェント時代のセキュリティ基準を問う

セキュリティ専門家は、こうした広範な権限を持つAIエージェントについて「信頼をゼロにリセットしうる」と警告する。メール送信や認証コード入力など、ユーザー本人になり代わって行動するエージェントが増えるなか、データ保持期間の透明性や削除要求への対応、誤動作時の責任範囲といった安全性基準の再構築が急務になっている。

Instinctに限らず、個人の受信箱やアカウントに深くアクセスするAIアシスタントは今後も増える見込みだ。利便性と引き換えにどこまでのアクセス権限を許容するか、ユーザー自身が利用規約を精査する重要性が改めて浮き彫りになった。