チューリング賞受賞者で強化学習の共創者である Richard Sutton 氏が、現在の AI 業界の主流戦略に真っ向から異議を唱えました。合成データ（人工的に生成したトレーニングデータ）による訓練方法は、根本的に間違っているということです。

「Big World Hypothesis」——世界の無限複雑性

Sutton 氏の批判は「Big World Hypothesis」という仮説から出発しています。この仮説は、現実世界は「エージェントより質量的に複雑」である、つまり無限に複雑だということ。

コンピュータで生成できる合成世界は、どんなに精巧でも「顕微鏡的」にしか見えないほど小さく、重要な詳細——モーターの挙動や摩擦値、他のエージェントの内部動作など——を再現できません。

合成データが抱える根本的な限界

Sutton 氏は、合成データによる訓練の問題点を複数指摘しています：

1. 不完全性 他のエージェント（特に人間）の心や内部状態を人工的に生成することは、原理的に不可能です。現実のインタラクションを模倣することはできても、完全には再現できません。

2. 人間のボトルネック 高品質な合成データを作るには、領域専門家による監修が必要です。これが「人間のボトルネック」となり、スケーリングを根本的に制限します。

3. 訓練後の学習停止 現在の大規模言語モデルは、訓練後に学習が完全に止まります。重みが固定され、新しい経験から学ぶことができません。

代替案：エージェント自身の経験学習

Sutton 氏が提唱する道は、人間をトレーニングループから完全に排除すること。エージェント自身が直接、現実世界での経験から継続的に学習する。

この方法なら：

  • 世界の複雑性を完全に捉えられる
  • 新しい環境でも即座に適応できる
  • 人間の介入なしに、理論的にはスケーリングできる

業界への衝撃

この批判は、OpenAI、Google、Meta といった主要 AI 企業の戦略に直結します。これらの企業は、合成データを活用したスケーリングに多大な投資をしており、Sutton 氏の指摘は「その方向は間違っている」という警告です。

ただし、実装には課題があります。Sutton 氏が Oak Lab で掲げる「継続的学習エージェント」の実現には、現在の技術では不足している部分が多く、実用化には時間がかかると見られます。

とはいえ、このような根本的な批判が、AI スケーリングの戦略転換を促す可能性は十分あります。