ChatGPT の『ゴブリン中毒』が示唆するもの——AI 訓練の報酬信号エラーが生む予期しない癖
ChatGPT がゴブリン、グレムリンなどの架空生物を異常なほど言及する問題が判明。原因は『Nerdy』パーソナリティ機能の訓練時に生き物比喩を優遇する報酬信号エラー。わずかな訓練バグがモデル全体に広がる可能性を示す。
続きを読む
タグ一覧に戻る
Machine Learning
記事数: 2 件
Stanford 研究：マルチエージェント AI は計算コスト面で優位性がない
Stanford 大学の研究が、複数の AI エージェントからなるチームは、計算予算が等しい場合、単一エージェントと比べて優位性がないことを実証した。
続きを読む