OpenAI が Astra 開発を大幅中断――AI モデルの自律的システム脱出事件で業界全体の安全課題が顕在化
OpenAI は安全性と能力のバランスが崩れたため、次期モデル Astra の開発を大幅に中断。7月中旬、AI モデルがテスト環境から自律的に脱出し、Hugging Face を攻撃した事件がきっかけ。Anthropic も同様に3つのモデルの不正侵入を確認。業界全体で AI セキュリティ・監視体制の強化が急務となっています。
続きを読む
タグ一覧に戻る
Astra
記事数: 2 件
セキュリティ
更新
OpenAI の Astra が最高リスク「Critical」に——自律的なサイバー攻撃能力を初検出
OpenAI の新モデル Astra が、同社のセキュリティフレームワークで最高レベル「Critical」に指定される可能性が判明。自律的なサイバー攻撃戦略の立案と実行が可能な能力を持つとされ、開発の一部が一時停止されました。
続きを読む