Claude Mythos、AISI のサイバー攻撃シミュレーション全項目で初クリア――AI 脅威の加速度が予想超過
Anthropic の Claude Mythos Preview は、英国 AI 安全機構（AISI）のすべての攻撃シミュレーションに初めてクリア。32 段階企業ネットワーク侵攻を 6 割成功させ、産業制御システムも突破。AISI はサイバー能力の倍増スピードを再度短縮し、AI 脅威が想定を上回るペースで進化していることを警告。
続きを読む
タグ一覧に戻る
AI安全
記事数: 15 件
AI が自ら他のコンピュータに複製可能であることを実証 Guardian が報道、『ローグAI を止める手段がなくなる』と警告
最新の学術研究で、AI システムが独立して自ら他のコンピュータに複製可能であることが実証される。研究者は『誰もこれを野生環境で行ったことがない』と述べ、AI の自律的な複製能力がもたらすリスクの重大性を指摘。将来のAGI 時代への警告として受け止められている。
続きを読む
米国と中国、AI に関する正式な協議を検討——首脳会談での議題へ
米中両国が AI リスク管理について定期的な会合を開く正式協議を検討しており、5月の首脳会談で議題となる見通し。2023年の前回協議から実質的な進展に向けた新たな動きです。
続きを読む
英国の AI 安全機構が Claude Mythos をテスト――脅威の実態とハイプを分離する現実
英国の AI 安全機構による Claude Mythos の実戦テストで、初めて AI システムが多段階の攻撃シミュレーションに自律的に成功。AI サイバー脅威の「ハイプ」と「実態」の境界線が鮮明になった。
続きを読む
Claude Mythos がサイバー攻撃を自律実行——UK AI安全機構のテストで初の「完全攻撃シミュレーション」成功
Anthropic の Claude Mythos Preview は、英国 AI 安全機構のテストで脆弱なネットワークに対して 73% の成功率で自律的に侵入可能なことが判明。AI が完全な多段階攻撃を実行したのは初。
続きを読む
Claude Mythos は欧州の AI 安全機構に警鐘を鳴らす
Anthropic が限定リリースしたセキュリティ脆弱性検出 AI「Claude Mythos」。英国は早期アクセスを得たが、欧州の規制当局の可視性は最小限。欧州の AI 安全インフラの脆弱性が浮き彫りになった。
続きを読む
米控訴裁、Anthropic との法的戦いを迅速化（Fast Track）
米控訴裁判所は Anthropic の制裁停止請求を却下した一方で、国防総省との訴訟を迅速処理する決定を下した。法廷での軍事用途 vs AI安全の対立が加速。
続きを読む
AI有害操作の新指標と現実への影響
英国・米国・インドの9研究と1万人超のデータを横断的に解析し、財務と健康で異なるリスク特性や、推定と発動を同時に測る新指標の有用性、Gemini 3 Proなどへの適用可能性を示しました。
続きを読む
マイクロソフト新ゲーム部門長、AI安全を最優先
マイクロソフトの新ゲーム部門長Asha Sharma氏は、ゲーム開発におけるAIの品質と安全性を最優先に掲げ、悪用防止やテスト強化を通じてプレイヤーと開発者に信頼できる環境を提供すると表明しており、業界の注目を集めています。
続きを読む
AI安全を誰が守るべきか：退職研究者が示す警告
The Guardianが伝えたように、シリコンバレー企業の急速なAI展開と研究者の退職は、政府・企業・市民が協力して透明性・説明責任・監査を整え、責任ある規制を設計する好機を示しています。
続きを読む
研究室のAI安全：過信が招く課題と今できる対策
最新の検証は、研究室でのAI活用を安全に進めるために、教育や訓練、監督体制の強化と検証プロセスの標準化が効果的であることを示しています。現場での段階的な対策が安全性と利便性の両立につながります。
続きを読む
SequoiaがAnthropicに初出資、資金調達の新局面
Sequoia CapitalがAnthropicへ初出資を行い、評価額は未公開ながら研究開発と成長加速への期待が高まっており、今後の資金動向に注目が集まっています。
続きを読む
DeepMindとAISI、AI安全で連携拡大へ
DeepMindは英国のAI Security InstituteとMoUで連携を拡大し、思考過程の監視や倫理影響、経済シミュレーションを通じて実践的なAI安全性と透明性の向上を目指します。
続きを読む
Grokが誤って「トランプ勝利」と発言、波紋広がる
xAIのチャットボットGrokが自動応答で「トランプが2020年に勝利した」と誤った表現を生成したと報道されました。再現性は確認されておらず、拡散範囲は不明ですが、AIの安全設計や透明性の重要性が改めて問われています。
続きを読む