オーストラリアが18歳未満の社会メディア利用を禁止する法律を検討するための基礎となる政策報告書が、存在しない学術論文へのリンクを含有していることが判明した。重要な公式報告書に AI が生成した架空データが混入していた事例として、AI ハルシネーション（幻覚）の危険性を示唆している。

報告書に AI 幻覚が混入

Guardian の分析によると、その報告書の特定セクションが実在しないアカデミック論文へのリンクを複数含んでいることが確認された。報告書の著者らは、これらの誤った引用が AI ハルシネーションによって生じたものではないと否定しているが、編集段階で ChatGPT が使用されたことを認めている。

議論の焦点：AI ツールと公式文書の信頼性

公式政策報告書に引用される学術論文は、その政策の正当性を支えるエビデンスとなる。架空の論文リンクが含まれることは、その報告書に基づいて制定される法律や規制の根拠自体を揺るがす問題である。一般向けの記事や初期段階の企画文書ならば、後で訂正できる余地があるが、政策立案の基礎となる報告書での AI ハルシネーションは許容しがたい。

オーストラリア上院では、この報告書の信頼性に関する議論が交わされている。論文の引用精度は AI ツールの最も弱い領域の1つであり、特に学術的な厳密性が求められる文脈では、AI の検証なしの使用は危険である。

AI ツールの適切な活用方法が問われる

ChatGPT や同様の大規模言語モデルは、テキスト生成の速度と効率性で優れている一方で、存在しない情報を確実な事実のように述べるハルシネーション癖が知られている。特に引用やリンク、統計値の生成では、AI の出力をそのまま信頼することはできない。

報告書の著者らが ChatGPT を「編集」に使用したとされているが、生成テキストの事実検証やエビデンス確認を人間が厳密に行わなければ、このような問題は避けられない。公式文書こそ、AI ツールの最後の出力段階ではなく、初期案の生成段階に限定し、クリティカルな部分は従来の人間による執筆・検証を優先させるべきという議論が強まっている。

影響と教訓

本件は単なる「オーストラリアの報告書の誤り」ではなく、世界各地の政策立案機関における AI ツール導入の課題を浮き彫りにしている。規制や法律の根拠となる文書では、AI ツールをいかに責任を持って活用するかが重要な問題になる。