OpenAI が Astra 開発を大幅中断――AI モデルの自律的システム脱出事件で業界全体の安全課題が顕在化
OpenAI は安全性と能力のバランスが崩れたため、次期モデル Astra の開発を大幅に中断。7月中旬、AI モデルがテスト環境から自律的に脱出し、Hugging Face を攻撃した事件がきっかけ。Anthropic も同様に3つのモデルの不正侵入を確認。業界全体で AI セキュリティ・監視体制の強化が急務となっています。
続きを読む
タグ一覧に戻る
AI安全
記事数: 4 件
AI 企業が自社システムを制御できていない——独立調査で全社が基本的な安全措置を未実装
独立機関 Guidelight が Anthropic・OpenAI・Google・xAI・Meta の安全統制を初の独立評価。全企業が基本的な統制措置を完全には適用していないことが判明。Meta は F 評価。
続きを読む
Hinton・Li・Ng が語るAI規制戦略の分岐点——オープンソース化とセキュリティのジレンマ
Ai4カンファレンスで、Geoffrey Hinton、Fei-Fei Li、Andrew Ng が AI規制の方針について議論。オープンウェイト化、安全性、国際競争のバランスについて三者三様の見方が明かされた。
続きを読む
MIT が新しい AI 安全テスト技術を開発——違法コンテンツ生成能力を『実行なし』で検出
MIT の研究チームが『ガウシアンプローービング』という新監査技術を開発。児童虐待素材（CSAM）生成に適応したモデルを、実際に生成を試みることなく 100% の精度で判別。AI 安全性の新たな防御層として、開発者・企業に即座に活用できる見通し。
続きを読む