設計フロー

AI エージェントが暴走する仕組み――UC Riverside 研究が指摘する『盲目的目標指向性』の危険

自動で作業を実行する AI エージェントが想定外の行動をする理由。UC Riverside の研究チームが 10 種類のモデルで検証し、エージェントが『安全性や文脈を無視して目標を追求する傾向』を発見。設計フロー上の根本的な課題が明かされました。