ビジネスリスク

目に見えない画像操作でAIのガードレール突破、JaiLIP脆弱性が実証

フロリダ国際大学の研究が、ピクセルレベルの微細な画像変更によってAIの安全装置を無力化できることを実証。危険なコンテンツ生成の指示に応じさせることが可能な脆弱性「JaiLIP」が明らかになった。