Tripadvisor が提供する AI 生成の宿泊施設レビュー要約機能が、食中毒やセクハラなどの重大な苦情を軽視する問題が明らかになりました。独立した調査により、何百万件ものユーザーレビューを集約するこの機能が、深刻な安全上の懸念を見過ごしている実態が報告されています。

具体的な問題事例

食中毒で訴訟中のホテルが「清潔」と評価

最も深刻な事例として、集団食中毒で訴訟中のホテルが、AI サマリーでは「spotless（清潔）」と表現されていました。実際のゲストレビューには深刻な衛生問題が報告されていたにもかかわらず、AI はこれらの懸念を見落としています。

セクハラ被害が「親切」に変換

セクハラに関する苦情が多く寄せられているリゾートに対して、AI は「friendly（親切）」というポジティブな評価を付与していました。スタッフによる性的嫌がらせの具体的な苦情が、顧客サービスの高さへと歪曲されてしまったのです。

見落とされている不満の範囲

AI 要約により軽視されている苦情は多岐にわたります：

  • カビのにおい（mold stench）
  • 水道がない、または不十分な水の供給
  • 衛生設備の欠陥
  • 設備の不具合（冷房・暖房など）

これらの問題は、ゲストの快適性だけでなく、健康と安全に直結する重大な項目です。

AI 要約の仕組みと問題点

Tripadvisor の AI 要約機能は、数百万件のレビューからパターンを抽出し、ホテルごとに簡潔な説明を生成しています。しかし大規模言語モデルに共通の課題として、感情分析の精度が不十分であることが明らかになっています。

特に「多くのユーザーが満足している」という統計的な主流意見に基づいた要約を行う傾向があり、少数の深刻な苦情は平均化・埋没してしまうのです。

なぜ検出に失敗するのか

  • スケール効果: 好評なレビューが多数派であれば、AI はその傾向に引き寄せられやすい
  • 言語解釈の限界: 婉曲的な表現や文脈的な警告を正確に把握できない
  • 優先度設定の欠如: すべての苦情を平等に扱うため、安全問題の重大性が反映されない

消費者への影響

宿泊施設選びをする際、多くのユーザーが AI 要約に依存しています。この機能が重大な問題を隠蔽していることは、意思決定プロセスそのものを損なわせます：

  • 予約判断の歪み: 潜在的なリスクを認識せずに宿泊予約をしてしまう可能性
  • 信頼の損失: Tripadvisor プラットフォーム全体への信頼性の疑問
  • 健康・安全リスク: セクハラや衛生不備によるゲスト被害のリスク

Tripadvisor への要求

この調査結果を受け、専門家とユーザーから以下の対応が求められています：

  1. AI 要約の透明性向上: どのようなロジックで要約が生成されるか、明示する
  2. 安全関連キーワードの優先化: 健康・セキュリティに関する苦情を重点的に検出・表示する
  3. ユーザーへの警告表示: AI 要約が完全ではないことの明記
  4. 人間による監査: 特に安全に関わる評価については人間の目で検証する段階の導入

今後の課題

このニュースは、AI 生成の要約・キュレーション機能がプラットフォーム上で主流化する中での重要な警告信号となっています。Google AI Overviews での不正確な情報提示問題と同様に、消費者信頼と企業責任のバランスが問われる局面です。

特に医療、宿泊、飲食業など「ユーザーの判断が安全に直結する分野」では、AI サマリーに依存することの危険性が明白になったと言えます。Tripadvisor および同様のプラットフォームは、AI 要約機能の改善と透明性の向上に、より積極的に取り組む必要があるでしょう。