政策・規制
更新
arXiv が AI 生成の虚偽引用に 1 年間の投稿禁止処置――『存在しない論文』記載が 10 倍増加
プレプリント・サーバー arXiv が、AI の幻覚(hallucination)による虚偽引用が含まれた論文提出者に対して 1 年間の投稿禁止処置を実施。2023 年以降、hallucinated citations は 10 倍に増加し、2026 年初期の論文の 0.36% に達していることが判明。
続きを読むプレプリント・サーバー arXiv が、AI の幻覚(hallucination)による虚偽引用が含まれた論文提出者に対して 1 年間の投稿禁止処置を実施。2023 年以降、hallucinated citations は 10 倍に増加し、2026 年初期の論文の 0.36% に達していることが判明。
続きを読む新研究は、AIの幻覚が単なるモデルの誤りにとどまらず、利用者の入力や対話設計、認知バイアスが絡み合って生じることを明らかにし、設計改善と検証習慣が抑制に有効であると示唆しています。
続きを読む