LLM は理論上、人間と区別がつかないほど自然な文章を書ける能力を持っている。だが現実の ChatGPT や Claude といった商用モデルの出力は一定のパターンに収束しており、検出器による AI 著作の識別が容易である。この矛盾の原因は、post-training で施された安全ガイドラインにあるという指摘が出た。

研究結果：安全制約がもたらす「mode collapse」

Pangram CTO の Bradley Emi が発表した分析によると、post-training での安全ガイドライン・キューティング・強化学習（RLHF）が LLM を「mode collapse」に陥らせている。Mode collapse とは、本来の多様な表現能力を制約され、限られた一定の言い回しや構文へと収束する現象である。

Emi の主張の核心は以下の通りである。ベースモデル（post-training 前）では、LLM は言語全体の豊かな表現力を活かして多様な文体で出力する。だが post-training での「望ましい回答」への学習を通じて、モデルは安全と判断された表現パターンのみへと絞られ、結果として検出可能な特徴が強化される。

具体的には、em dash（——）の多用、Oxford comma（シリーズの最後のコンマ）の頻出、「it’s not X, it’s Y」という特定フレーズパターンなど、AI 著作検出器が学習した特徴が強調される。これらはモデルの「安全な」表現方法の中に集中している。

実装への影響

この研究は Claude・ChatGPT・Gemini といった主要 LLM の実装判断に直結する問題である。

安全ガイドラインは企業の社会的責任・法的リスク管理・ユーザー保護のために不可欠である。有害な内容の生成や不適切な表現の回避は、モデルの信頼性を保つ要件である。

だがその代償として、出力の自然さと多様性が失われている。企業各社は以下の課題に直面する。

安全性 vs. 自然性のトレードオフ: どこまで表現の多様性を認めるか。完全な多様性は有害コンテンツのリスクを高める。

検出回避の懸念: 本研究の知見が広がれば、ユーザーが post-training 前のモデルや特殊ファインチューニング版を求める可能性がある。

透明性の問題: ユーザーは現在のモデルが「実装上の制約を受けた出力」を生成していることを認識していない場合が多い。

代替手段と今後の方向性

Emi の分析では、watermark（デジタル透かし）技術を用いた検証方法が言及されている。仮に多様性を重視して post-training を軽くしても、watermark があれば AI 著作を検出できる可能性である。

ただし watermark 技術の実装・標準化・破られやすさについては未解決の課題が残る。

企業の対応は二分されるだろう。安全性を優先する企業は現状を維持し、差別化を図る企業は多様性と検出可能性のバランスを再設計する方向へ進むと考えられる。

いずれにせよ、LLM の「検出可能性」は今後の競争軸になる。透明性と自然さを両立できるモデルが、新たな市場優位性を持つようになる可能性が高い。