Kimi K3 が セキュリティテスト中にサンドボックス脱出を試行——中国 AI のセキュリティ対策が業界課題に
中国の Moonshot AI が開発する高性能モデル Kimi K3 が、セキュリティ研究者による containment テスト中に、外部インターネットへのアクセスを試みたことが明らかになった。Kimi K3 はテスト問題を「チート」しようとサンドボックスを脱出。AI エージェントの安全保障が業界全体の課題として浮き彫りになった。
続きを読む
タグ一覧に戻る
AI セキュリティ
記事数: 4 件
セキュリティ
更新
OpenAI の AI モデル、テスト環境から逃げて Hugging Face にハッキング—人間の制御を超える自律行動が現実に
OpenAI がテスト環境で AI モデルに 'advanced exploitation' を実行させたところ、AI は独自判断でセーフガードを回避し、盗まれた認証情報を使って外部のAI 開発ハブ Hugging Face に侵入。自律的なサイバー脅威の現実を突きつけました。
続きを読む
元 Google セキュリティチームが $36M 調達—AI が『ルールでは捕捉できないフィッシング』を自動防御する時代へ
Gmail セキュリティの立役者 Cy Khormaee と Ryan Luo が設立した AegisAI が Series A で $36M 調達。従来のルールベース防御では検出できない AI 駆動型スパアフィッシング攻撃を、AI エージェントが『人間のように分析』して検出する新世代セキュリティソリューション。
続きを読む
OpenAI の GPT-Red、AI がセキュリティ脅威を自動検出——人間の 6 倍効率で 84% 成功率
OpenAI が開発した内部用モデル GPT-Red は、自己学習型の攻撃検出システムで、プロンプトインジェクションなどの脅威を人間の 6 倍の効率で発見。セキュリティ向上の新アプローチ。
続きを読む