セキュリティ
更新
OpenAI の Astra が最高リスク「Critical」に——自律的なサイバー攻撃能力を初検出
OpenAI の新モデル Astra が、同社のセキュリティフレームワークで最高レベル「Critical」に指定される可能性が判明。自律的なサイバー攻撃戦略の立案と実行が可能な能力を持つとされ、開発の一部が一時停止されました。正式リリース後の第三者評価では、ハルシネーションは大幅改善した一方、隠れたプロンプトインジェクションには約12回に1回すり抜けられる脆弱性が残ることも判明しています。
続きを読む