プロフェッショナルサービス大手の KPMG が、AI を活用して執筆した報告書「Redefining excellence in the age of agentic AI」を撤回した。複数の大企業から虚偽・誤導的な記述を指摘されたためだ。この事例は、企業が AI で重要な報告書を作成する際の落とし穴を浮き彫りにしている。

撤回に至るまで

KPMG は 2025 年 10 月、AI エージェント時代の組織運営に関する報告書を発表した。報告書作成プロセスで AI ツールを活用していたが、複数の組織が発表後、自社についての記述が「虚偽または誤導的」だと指摘した。

指摘した企業には以下が含まれる：

  • UBS（スイス金融大手）
  • NHS（英国国民保健サービス）
  • スイス連邦鉄道
  • ロンドン交通局

各社は、報告書の中で自分たちの AI 利用状況が誤った形で説明されていたと述べた。KPMG はこうした指摘を受け、報告書の信頼性が損なわれたと判断し、撤回を決定した。

AI 幻覚が生成した虚偽

AI の生成プロセスでは「幻覚」と呼ばれる現象が発生する。モデルが学習データに基づき、もっともらしいが実際には存在しない情報を生成してしまうのだ。

KPMG の報告書では、この幻覚が顧客企業の実際の AI 運用状況について、確認されていない情報を記述した。例えば「X 企業は AI でコスト削減に成功した」といった具体的な事例が、実際には存在しなかったり、企業の認識と異なっていたりした可能性が高い。

検証プロセスの欠落

KPMG の大きな誤りは、「AI が生成したコンテンツについて、独立した情報源で十分に検証しなかった」という点だ。報告書作成に関わった職員も、AI の出力をそのまま採用してしまったと考えられる。

これは、次の 2 つの責任区分の曖昧さを示している：

  • AI の出力責任：モデルが虚偽を生成した責任は誰が負うのか
  • 人間の検証責任：それを採用した組織の責任は

業界への教訓

KPMG の事例から、以下の教訓が導き出される：

  1. 企業報告書に AI は不向き — 事実確認が絶対的に必要な文書では、AI 生成コンテンツは補助的な役割に限定すべき
  2. 複数段階の検証が必須 — AI の出力について、独立した情報源による二重・三重の確認が必要
  3. 信頼の喪失コスト — 一度信頼が傷つくと、回復に多大な時間と投資が必要

KPMG 自身も声明で「すべての職員が AI の責任ある使用に関するガイドラインに従い、コンテンツ検証と独立した情報源の確認の人的監視を期待する」と述べており、今後の内部ガイドライン強化を示唆している。

AI が企業活動に深く入り込む中、単なる「効率化ツール」ではなく「検証が必須のリスク」として扱う姿勢が、企業に求められている。

アップデート：「二次的幻覚」という新しい危険性

KPMG の事例から新たに浮かび上がってきた概念が「secondary hallucinations（二次的幻覚）」だ。AI 検証企業 GPTZero の CEO Edward Tian はこれを警告している。

二次的幻覚とは、信頼度の高い企業から発表された誤った情報が、さらに AI システムや大衆メディアを通じて増幅・拡散される現象を指す。大手コンサルティング企業のような「信頼できる情報源」から出た虚偽が、その信頼性ゆえに広く引用され、さらに他の AI システムの学習データに混入される。結果として、誤情報が業界全体に波及するリスクが存在するのだ。

KPMG のケースは、この二次的幻覚の典型例となった。コンサルティング大手という社会的信用度から、報告書に含まれた虚偽がそのまま受け入れられ、複数企業が被害を受けた。現在、金融・医療・法律などの信頼が重要な領域では、この二次的幻覚のリスクが顕在化しはじめている。

企業が AI で重要な報告書や発表を作成する際には、単なる「AI 出力の検証」だけでなく、「その誤情報が業界全体に波及するリスク」まで考慮する必要があるということだ。