スケーリング

記事数: 4 件

2026年8月21日

チューリング賞受賞者 Richard Sutton が合成データを『大きな誤り』と批判——AI スケーリングの限界を指摘

Oak Lab を設立した Richard Sutton 氏が、現在の AI 企業の中核戦略である合成データによる訓練を『根本的な誤り』と批判。『Big World Hypothesis』に基づき、エージェント自身の経験学習がスケーリングの唯一の道と主張しています。

2026年7月31日

元 OpenAI の Andrew Ho が「単純なスケーリングでは LLM の汎用性は実現しない」と指摘。今後 AI ラボは $100 億規模の高質訓練データ投資に向かい、プログラミング・数学偏重の「スペシャライゼーション問題」を解決へ。AI 開発の次の段階へ。

2026年6月22日

OpenAI CEO が Stanford で講演。AIのスケーリング継続を強調し、懐疑論者を反論。OpenAI が難しい数学的予想を反証した事例を根拠として挙げ、スケーリング重視アプローチが業界の主流であることを示した。

2026年6月8日

言語モデルのサイズと学習効率の関係について、研究者たちが新たなメカニズムを発見。モデルを大きくするだけでなく、訓練データの構成を工夫することで、小規模モデルでも稀なスキルを習得できる可能性が示唆されました。