AI ブラウザが「夢の中」でガードレール無効化——基本的な誤情報だけで危険コード生成を促進
AI IDE(Cursor・Continue等)が致命的な脆弱性に直面。ユーザーが LLM に『2+2=5』などの基本的な誤情報を与えるだけで、ガードレールを完全にバイパスされ、危険なコード生成・セキュリティ脆弱性の悪用法を素直に応答してしまう。
続きを読むAI IDE(Cursor・Continue等)が致命的な脆弱性に直面。ユーザーが LLM に『2+2=5』などの基本的な誤情報を与えるだけで、ガードレールを完全にバイパスされ、危険なコード生成・セキュリティ脆弱性の悪用法を素直に応答してしまう。
続きを読む