オーストラリア連邦議会の主要委員会の委員長らが、AIが生成した不正確・虚偽の情報が政策決定の場に流れ込んでいると警鐘を鳴らした。Guardian Australiaの調査により、議会への提出書類（サブミッション）に存在しない研究や、実在する学者・著者に架空の論文を紐づける「幻覚」由来の記述が相次いで見つかっている。

少なくとも39件に幻覚由来の参照

Guardian Australiaの分析では、政治的な議会調査に寄せられた提出書類のうち、少なくとも39件で幻覚と見られる引用が確認された。中には委員会の報告書自体が、大半の参照元がAI幻覚由来と見られる提出書類を引用してしまったケースもあるという。

大規模言語モデル（LLM）が生成する幻覚は、実在しない研究や統計を、もっともらしい体裁で提示してしまう現象だ。オーストラリア国立大学(ANU)で規制・グローバルガバナンスを研究するChristian Downie教授は、議員が「存在しない証拠に基づいて意思決定してしまう」重大なリスクがあると指摘する。

検索AIが誤情報の拡散を助長

問題をさらに複雑にしているのが、GoogleのAI概要（AI Overview）やChatGPTなどの検索・要約AIの挙動だ。これらのツールは架空の参照をあたかも実在するかのように要約するだけでなく、幻覚を含む議会提出書類そのものを「情報源」として引用してしまう場合がある。

その結果、幻覚が議会提出書類に紛れ込み、それを検索AIが参照し、さらに別の場所で引用される——という誤情報の再生産サイクルが生まれつつある。

政策立案プロセスへの影響

議会の委員長らは、今後の提出書類についてAI由来の不正確な情報が含まれていないか、より厳格に精査するよう注意を促している。パブリックコメントや専門家証言をベースに政策を組み立てる議会制民主主義において、証拠そのものの信頼性が揺らぐ事態は深刻だ。

同様の問題は日本を含む他国の行政・立法プロセスでも起こり得る。パブリックコメントや審議会資料の作成にAIを活用する動きが広がるなか、提出前のファクトチェック体制をどう整えるかが、今回の豪州の事例から学ぶべき教訓となる。