AI生成テキストを検出するスタートアップPangramが、出版業界を中心に急速に影響力を拡大している。著者やコンテンツの「AI度」を数値で判定するその力は、すでに複数の書籍契約を白紙に戻すほどの実害を生んでおり、検出技術への信頼性そのものが議論の的になっている。

Shy Girl事件が転機に

Pangramが一躍注目を集めたのは今年1月、著者Mia Ballard氏の自費出版小説「Shy Girl」を巡る騒動だった。RedditやYouTubeでAI生成疑惑が広がる中、Pangram CEOのMax Spero氏が「78%がAI生成」とX(旧Twitter)で判定結果を公表。著者本人は否定したが、出版社Hachetteは同作の刊行を取り消した。

これを皮切りに、同種の指摘が相次いだ。ニューヨーク・タイムズの連載コラム「Modern Love」の一篇はPangramスコア100%と判定され、Commonwealth短編小説賞の受賞作も100%、200万ドル超で売れたスリラー小説は97%という結果が出ている。Pangramは受賞作の遡及調査も行い、2012年以降の同賞受賞作から新たに3件のAI利用疑惑を指摘した。

検出の仕組みと精度への疑問

Pangramは「合成ミラーリング」と呼ぶ手法を採用する。人間が書いた文章をAIに模倣させて生成し、その差分をモデルに学習させることでAI文章の特徴を捉える。誤検出のパターンを収集し再学習に使う「ハードネガティブマイニング」も組み合わせ、精度を高めているという。CEOのSpero氏は、データセットがすべて正規にライセンスされている点を強みとして挙げる一方、「AI企業は特にクリエイターの間で信頼を失っている」と述べている。

もっとも、批判も根強い。エディンバラ・ネイピア大学のAIリテラシー研究者Sam Illingworth氏は「検出ツールは機能しないと考えている」とし、特定の書き手のスタイルに対する判定の偏りを指摘する。Shy Girlの一件でも、Spero氏が判定に使った原稿は海賊版サイトから入手されたものだったことが後に判明し、検証プロセスの粗さを批判する声も出た。

出版業界での実運用と広がり

Penguin Random Houseは編集プロセスの一部としてAI検出ツールを承認済みで使用していると認めており、大手文芸エージェンシーAevitasの共同CEOも、原稿の50〜95%がAI生成と判定されたケースで著者との「難しい対話」を重ねているという。一方でSimon & SchusterやHarperCollinsはコメントを避け、業界内でも対応は割れている。

Pangramは7月、ニュースレタープラットフォームSubstackとの統合も発表しており、読者が投稿のAI関与度を即座に確認できる機能を提供している。出版・教育・採用など幅広い領域に導入が進む一方、AI文章と人間の文章の境界を判定するビジネス自体が、業界の信頼構造を再定義しつつある。

読者への影響

執筆や採用、教育現場でAI検出ツールの判定結果が重い意味を持ち始めている以上、コンテンツ制作者はAIツールの利用実態を記録・開示する習慣を持つ選択肢を検討する価値がある。同時に、単一ツールのスコアだけで真偽を断定するリスクも大きく、判定結果はあくまで参考情報の一つとして扱う姿勢が求められる。