Mistral CEO が proprietary AI モデルのデータ使用リスク警告——企業は自社モデル構築を検討すべき
Mistral CEO Arthur Mensch は、OpenAI や Anthropic などの proprietary AI 企業が顧客のビジネスデータを蓄積・活用し、競争優位に利用していると警告。企業はオープンソースモデルやローカル構築で、データ主権を確保すべきと主張。
続きを読む
タグ一覧に戻る
AI セキュリティ
記事数: 11 件
AI ブラウザが「夢の中」でガードレール無効化——基本的な誤情報だけで危険コード生成を促進
AI IDE（Cursor・Continue等）が致命的な脆弱性に直面。ユーザーが LLM に『2+2=5』などの基本的な誤情報を与えるだけで、ガードレールを完全にバイパスされ、危険なコード生成・セキュリティ脆弱性の悪用法を素直に応答してしまう。
続きを読む
Meta が Claude Code と Codex の社内利用を制限、AI 企業間の信頼危機が深刻化
Meta は Anthropic の Claude Code と OpenAI の Codex を従業員の使用から制限。競合 AI の訓練データ汚染を防ぐ狙いだが、業界全体での「蒸留」不安が高まっている。
続きを読む
Qihoo 360が Anthropic 製 Mythos に対抗、脆弱性発見・サイバー防御 AI を発表
中国のサイバーセキュリティ企業・Qihoo 360 が Tu Long Feng（自動脆弱性発見）と Yi Tian Zhen（自動サイバー防御）という2つの AI ツールを発表。創業者・周宏毅は「サイバー核兵器」と位置付けるMythos への対抗姿勢を示す。中国モデルは西側比で20～30%劣後しつつ、エージェントベース戦略で追い上げへ。
続きを読む
Linux Foundation と 20 社、AI による攻撃に先制対応する Akrites イニシアティブを発表・オープンソース脆弱性の協調修正体制
Linux Foundation が主導し Amazon、Anthropic、Google、IBM、Microsoft、OpenAI、NVIDIA など 20 社が参加。AI ツールが悪用する前にオープンソースの脆弱性を発見・修正する Akrites プログラムを開始
続きを読む
Claude Fable 5 が最高位獲得――ロシアプロパガンダベンチマーク研究、60 モデルを調査
エストニア言語研究所が、AI モデルのロシアプロパガンダへの耐性を測定するベンチマークを発表。Claude Fable 5 が 95.2 点で最高位、全 Claude モデルが上位を占める。業界の深刻な脆弱性が浮き彫りに。
続きを読む
Trump 政権が AI セキュリティ令に署名、フロンティア・モデルの事前審査と情報交換所の設立を指示
Trump 政権は 2026 年 6 月 2 日、AI セキュリティに特化した行政令に署名した。フロンティア・モデルの公開前 30 日以上の審査、重大インフラのサイバー脆弱性検出用 AI 情報交換所の設立が柱だが、強制的な規制は禁止されており、実効性に疑問も残る。
続きを読む
ロボットの安全性が危機的状況へ――Foundation model の脆弱性、創作的プロンプトで安全フィルター回避可能
AI ロボットの安全装置が、映画脚本のような創作的なテキストプロンプトで簡単に回避できることが判明。研究者が警告する、物理世界での深刻なリスクと、曖昧な法的責任。
続きを読む
OpenAI が Google の SynthID 採用・C2PA 標準推進、AI 画像検証を業界標準化へ
OpenAI が Google 開発の SynthID ウォーターマーク技術を製品に統合し、C2PA メタデータ標準にも対応。Nvidia・Google との連携で、AI 生成画像の信頼性検証が業界スタンダード化。フェイク対策の重要度が一気に高まる。
続きを読む
Claude Mythos、ゼロデイ脆弱性を自動発見――防御と攻撃の二面性が浮き彫りに
Anthropic の Claude Mythos Preview が数千のゼロデイ脆弱性を自動で発見。AI による防御能力と攻撃能力の急速な進化が、サイバーセキュリティの今後を左右する可能性がある。
続きを読む
OpenAI・Anthropic・Google が中国の無断モデルコピーに対抗、Frontier Model Forum で連携
3大 AI 企業が Bloomberg への報道を受けて中国企業による AI モデルの無断蒸留（distillation）に対抗する連携を表明。Deepseek、Moonshot、Minimax の抽出手法が対象。
続きを読む