タグ一覧に戻る

セキュリティ

記事数: 240
更新

Claude Mythos のサイバーセキュリティ能力は再現可能:小オープンモデルも同等の脆弱性検出に成功

Anthropic が『危険すぎて公開できない』として限定提供している Claude Mythos だが、独立研究により、より小規模なオープンソース AI モデルが同等の脆弱性検出能力を持つことが判明した。

続きを読む

OpenAI が Advanced Account Security を発表――フィッシング耐性ログイン、強化された復旧機構でアカウント乗っ取りを防止

OpenAI が ChatGPT ユーザーの保護を強化。フィッシング耐性を備えたログイン機構、より堅牢なアカウント復旧機能、機密データ保護の強化により、業界最高水準のセキュリティを実現。

続きを読む
OpenAI が FedRAMP Moderate 認可を取得――米政府機関が ChatGPT Enterprise・API を公式利用可能に

OpenAI が FedRAMP Moderate 認可を取得――米政府機関が ChatGPT Enterprise・API を公式利用可能に

OpenAI が米連邦政府のクラウドセキュリティ認定制度「FedRAMP Moderate」の認可を取得した。ChatGPT Enterprise と OpenAI API が対象で、米国連邦政府機関は安全な AI 導入が公式に可能となる。政府向け AI 市場への本格参入を意味する歴史的なマイルストーン。

続きを読む
AI反発の暴力化を懸念――OpenAI CEO への Molotov cocktail 攻撃、社会的抵抗の深刻化を警告

AI反発の暴力化を懸念――OpenAI CEO への Molotov cocktail 攻撃、社会的抵抗の深刻化を警告

OpenAI CEO Sam Altman の邸宅への Molotov cocktail 投擲事件を背景に、Guardian のポッドキャスト「Will the backlash against AI turn violent?」は、テクノロジー進展への社会的反発が暴力化する可能性を検討している。容疑者 Daniel Moreno-Gama は attempted double homicide の罪に問われる。

続きを読む
更新

OpenAI・Anthropic・Google が中国企業のモデルコピーに共同対抗、Frontier Model Forum で連携

OpenAI、Anthropic、Google が Frontier Model Forum を通じて、中国企業による非認可モデルコピー対策に共同で取り組んでいる。「adversarial distillation」という手法を使った不正な複製が年間数十億ドルの損失を引き起こしている。

続きを読む
Anthropic、Mythos への無許可アクセス被害を確認――Discord グループが第三者ベンダー経由で流出

Anthropic、Mythos への無許可アクセス被害を確認――Discord グループが第三者ベンダー経由で流出

Anthropic が開発する AI セキュリティツール『Mythos』が、Discord グループによる無許可アクセスの対象となったことが判明。Bloomberg の報告により、グループがスクリーンショット・デモ映像の証拠を提供。Anthropic は調査中だが、自社システムへの直接的な影響はないと主張している。

続きを読む
Anthropic の Mythos、Mozilla Firefox で 271 件のセキュリティ脆弱性を発見

Anthropic の Mythos、Mozilla Firefox で 271 件のセキュリティ脆弱性を発見

Anthropic の最新サイバーセキュリティAI『Mythos』が、Mozilla Firefox 150 で 271 件のセキュリティ脆弱性を特定。Mozilla CTO は『世界最高のセキュリティ研究者と同等の能力』と評価する一方、OpenAI の Sam Altman は『恐怖に基づくマーケティング』と批判。

続きを読む
OpenAI、Codex に画面記憶機能「Chronicle」を追加。ただしセキュリティリスクを同時警告

OpenAI、Codex に画面記憶機能「Chronicle」を追加。ただしセキュリティリスクを同時警告

OpenAIは、Codex アプリに「Chronicle」という新機能を展開しました。スクリーン録画を使用してAIエージェントが文脈を記憶し、将来のタスク処理に活用します。ただし、プロンプト注入攻撃やレート制限の消費など、複数のリスクが指摘されています。

続きを読む
Anthropic Mythos が『ハッキングを激化させる』と懸念——脆弱性発見が修正速度を圧倒、Project Glasswing で企業を秘密裏にサポート

Anthropic Mythos が『ハッキングを激化させる』と懸念——脆弱性発見が修正速度を圧倒、Project Glasswing で企業を秘密裏にサポート

Anthropic の Mythos が数千のゼロデイ脆弱性を自動発見・悪用できる能力を持つため、公開は見送られ、Project Glasswing を通じて Amazon・Apple・Cisco・JPMorgan・Nvidia など主要企業のみに提供。AI が脆弱性を発見する速度が企業の修正速度を圧倒し、大規模サイバー攻撃の懸念が高まっている。

続きを読む

Claude Mythos の『セキュリティ特化性』の神話が崩壊——小規模オープンモデルも同等の脆弱性発見が可能

Anthropic が独占的な能力を謳う Claude Mythos サイバーセキュリティモデルについて、2 つの独立した研究が、小規模なオープンソースモデルでも同等かそれ以上の脆弱性検出が可能であることを示した。競争優位性は個別モデルではなく『システム全体構築』にあると両研究は結論づける。

続きを読む
Claude Mythos の「独占的セキュリティ能力」が神話に——小規模オープンモデルも同等の脆弱性分析が可能、Anthropic の非公開アクセス制限に疑問

Claude Mythos の「独占的セキュリティ能力」が神話に——小規模オープンモデルも同等の脆弱性分析が可能、Anthropic の非公開アクセス制限に疑問

Anthropic が Project Glasswind でアクセスを11団体に限定していた Claude Mythos のセキュリティ分析能力。しかし新しい研究により、GPT-OSS-20b(わずか36億パラメータ)などの小規模オープンモデルでも、同レベルの脆弱性検出・エクスプロイト構築が可能であることが判明。Anthropic の「非公開アクセス」戦略の根拠が揺らいでいる。

続きを読む
Anthropic が Claude Mythos のリリースを延期、セキュリティ懸念と疑惑の狭間で

Anthropic が Claude Mythos のリリースを延期、セキュリティ懸念と疑惑の狭間で

Anthropic が AI モデル Claude Mythos のリリースを延期した。未知の脆弱性を自動発見できるという強力さからセキュリティ懸念が高まる一方で、企業の danger を誇大化しているのではないかという指摘も出ている。

続きを読む
Anthropic Claude Mythos が脆弱性発見で米当局を緊急招集——FRB議長ら銀行首脳が個別会談、AI セキュリティリスクが政策テーブルに

Anthropic Claude Mythos が脆弱性発見で米当局を緊急招集——FRB議長ら銀行首脳が個別会談、AI セキュリティリスクが政策テーブルに

Anthropic の最新 AI モデル Claude Mythos が数千件の未知の脆弱性を自動発見。緊迫した国家セキュリティ懸念により、米連邦準備制度理事会議長 Jerome Powell ら政府高官が主要銀行の経営陣と緊急協議。

続きを読む
Valve の AI モデレーションシステム SteamGPT、内部ファイルが流出——ゲーム配信プラットフォームの AI 活用が進む

Valve の AI モデレーションシステム SteamGPT、内部ファイルが流出——ゲーム配信プラットフォームの AI 活用が進む

Valve が開発中の「SteamGPT」と呼ばれる AI ベースのセキュリティ審査システムに関する内部ファイルが流出。PC ゲーム配信プラットフォーム Steam での大規模 AI モデレーション体制が明らかに。

続きを読む
Anthropic Mythos、セキュリティ専門家が警告——開発者の甘い認識が露呈

Anthropic Mythos、セキュリティ専門家が警告——開発者の甘い認識が露呈

Anthropic の新 AI モデル Claude Mythos の登場により、セキュリティ業界で警告が相次いでいる。同モデルがハッカーの「スーパーウェポン」と化す危険性と、開発者が長年セキュリティを軽視してきた現実が浮き彫りになった。

続きを読む
AIで取り戻す自由時間の未来と働き方

AIで取り戻す自由時間の未来と働き方

AIは家事や事務の自動化で自由時間を増やす可能性がありますが、実際の恩恵は制度設計や企業対応、教育・社会保障の整備で左右されるため、本稿では誰が得をし誰が不安を抱くかを示し、現実的な対策と個人や企業が取るべき具体的行動、政策提言までわかりやすく解説します。

続きを読む
McKinsey内部AIが2時間で突破された真相

McKinsey内部AIが2時間で突破された真相

McKinseyの内部AI「Lilli」へ攻撃用AIエージェントが侵入し、約2時間で生産データベースの読み書き権限を取得したと報じられますが、組織は透明性ある説明と認証強化、アクセス制御の見直し、顧客データ保護や組織文化の改善で信頼回復を目指す必要があります。

続きを読む
NVIDIA、オープンソースAIエージェント戦略の全貌

NVIDIA、オープンソースAIエージェント戦略の全貌

NVIDIAがオープンソースのAIエージェントプラットフォームを計画しているとの情報が伝わりました。正式発表前の未確定情報ですが、成功すれば開発者や企業のワークフローに大きな変化をもたらす可能性があり、今後の公式発表とライセンスを注目してご覧ください。

続きを読む
Anthropic新機能で株価が揺れた理由

Anthropic新機能で株価が揺れた理由

Anthropicの新機能Claude Code Securityの発表直後に起きた株価変動を時系列で整理し、発表の意図と市場の初動を見比べて今後注目すべきポイントを丁寧に解説します。市場の反応に残された疑問と期待を整理し、投資家や開発者が注視すべき短期・中長期の視点を提示します。判断材料として役立ててください。ぜひ注目!

続きを読む
公式APIを超える?AI代理の近未来

公式APIを超える?AI代理の近未来

サム・アルトマンは、AI代理が公式APIに依存せず外部サービスへ自律的に接続する未来を示唆しています。実現には認証や権限管理、透明性の確保、規制整備が必要ですが、新たな連携モデルが業界の設計を変える可能性が高く、開発者や企業、利用者にとって重要な課題となりそうです。

続きを読む
AIエージェントのリンク安全策2024

AIエージェントのリンク安全策2024

OpenAIはエージェントが外部リンクを開く際のデータ保護機能を整備しています。実装詳細は限定的ですが、公式ガイドラインの遵守、データ最小化、URL検証、ログ・監査の実施が現場で有効です。現状を把握しつつ段階的な対策を進めることをおすすめします。

続きを読む
24歳博士候補、Australia Day狙いの爆発計画で起訴

24歳博士候補、Australia Day狙いの爆発計画で起訴

Sepehr Saryazdi被告がGold CoastでのAustralia Dayを狙った疑いで起訴されたことを受け、公平な審理と透明な情報提供を通じて安全対策やAI教育に関する建設的な議論が深まり、研究者や教育機関、市民が協力して予防と理解を進めるきっかけになることが期待されます。

続きを読む
X退会の理由は性的虐待コンテンツか?安全性を考える

X退会の理由は性的虐待コンテンツか?安全性を考える

ガーディアンのレターを受け、X(旧Twitter)からの退会が性的虐待コンテンツへの懸念を可視化し、個人の情報安全性や企業のソーシャル戦略、AI利用の信頼性見直しに役立つ実践的な視点を提示し、最新方針の注視や代替手段の検討が重要である点もお伝えします。

続きを読む
2025年:中国のオープンAIが世界を席巻するか

2025年:中国のオープンAIが世界を席巻するか

スタンフォードの分析は、中国のオープンウェイト(公開モデル)AIが配布と現場導入で先行している可能性を示しており、企業や研究者は技術習得と運用準備、セキュリティ対策を同時に進めることで成長機会を最大化できます。

続きを読む
Google Research 2025:AIの大胆突破

Google Research 2025:AIの大胆突破

Google Research 2025の報告は、研究成果が実務へ移る転換点を示しています。スケール化、マルチモーダル連携、安全性評価の強化が進み、産業横断で新たな機会と課題が生まれます。公式資料を基にまず小さな実証から始めることを勧めます。

続きを読む
12億回再生の偽動画とAIの脅威 拡散の実態

12億回再生の偽動画とAIの脅威 拡散の実態

本記事では、Keir Starmer氏を標的にした偽動画がYouTubeなどで12億回以上再生された事例を手がかりに、150超の匿名チャンネルと安価なAI生成ツールがどのように連動して拡散を生み出したかをわかりやすく解説し、読者が日常で実践できる検証法とプラットフォームに期待する対策を提示します。

続きを読む
AI検証ツールの盲点:自作偽画像を見抜けない?

AI検証ツールの盲点:自作偽画像を見抜けない?

AI検証ツールによる偽画像検証に一石を投じた事例をきっかけに、外部データや人の検証、複数手法の併用が重要であることをわかりやすく解説し、日常で使える簡単な確認方法と設計改善の方向性も盛り込み、初歩用語も噛み砕いて説明します。

続きを読む
NotebookLMで著作権は危ない?対策ガイド

NotebookLMで著作権は危ない?対策ガイド

NotebookLMの要約自由度は増し利便性は高まりましたが、著作権や機密データの侵害リスクも上がりました。本稿では問題点を整理し、企業・個人向けの現実的な対策を具体的に解説します。運用ルールと技術的対処法を含め、すぐに実践できるチェックリストも紹介します。

続きを読む