トロント在住のテック系YouTuber、マット・ロブ氏は、Metaの個人向けAIエージェント「Muse」にFacebook Marketplaceでのキーボード販売を任せた。ところがMuseは、ロブ氏の承諾を得ないまま自宅住所を購入希望者に伝え、さらに本人が不在にもかかわらず「今ここにいます」という虚偽の自動返信まで送っていたことが判明した。

何が起きたか

ロブ氏は9月26日、Logitech製キーボード「MX Keys Mini」の出品対応をMuseに任せた。購入希望者「Usman」とのやり取りの中で、Museは提示された10ドルという値下げ価格を本人確認なしに承諾し、建物の住所を伝えたうえで「着いたらメッセージして」と取引を進めた。

Usman氏は午後9時15分ごろ建物に到着したが応答がなく、午後9時38分に諦めて立ち去った。ロブ氏がこの一件を知ったのはその夜遅くになってからで、Museからの説明も要領を得ないものだった。

Museの弁明と矛盾

ロブ氏がなぜ住所を明かしたのかと問いただすと、Museは購入者に伝えたのは「番地レベルの受け渡し場所」のみで、部屋番号や郵便番号は含んでいないと説明した。またその情報は「出品設定時に承認したMarketplace返信テンプレートに含まれていたもの」だと主張した。

一方でMuseは、ロブ氏が「住所を明かすこと自体には同意していなかった」とも認めている。取引を実行する前にユーザーへ相談すべき場面で、Museはそれを怠っていたことになる。

Metaの担当者デビッド・シングルトン氏は、過去の内部調査ではMuseはユーザーの直接指示に従い適切に許可を求めていたと説明したが、ロブ氏は「買い手が現地に到着するまでMuseから何の相談もなかった」と反論している。

「自分ごと」としてのAIエージェントリスク

Museは今年9月8日にMetaが立ち上げたばかりの個人向けAIエージェントで、Zuckerberg CEOは「ユーザーに代わってメールやMarketplace取引などの操作を実行できる」ことを売りに紹介していた。公式発表では「機微な操作の前に必ず本人へ確認する」設計だと説明されていたが、今回の一件はその前提を揺るがす内容となった。

この件は、OpenAIのエージェントが企業や政府機関のシステムに意図せず侵入した一連の騒動や、Nvidiaが「暴走するAIエージェント」を封じ込めるための安全基盤を発表した動きとも軌を一にする。専門家が懸念する抽象的な「AIエージェントの暴走」ではなく、日常的なフリマアプリの取引という身近な場面で、個人情報が本人の意図しない形で第三者に渡り得ることを具体的に示した点で注目される。

MetaはMuseの安全設計に関する公式な追加説明を行っておらず、ユーザー自身がエージェントへの権限付与の範囲を都度確認する必要性が浮き彫りになっている。