Foundation model

ロボットの安全性が危機的状況へ――Foundation model の脆弱性、創作的プロンプトで安全フィルター回避可能

AI ロボットの安全装置が、映画脚本のような創作的なテキストプロンプトで簡単に回避できることが判明。研究者が警告する、物理世界での深刻なリスクと、曖昧な法的責任。