AIが模擬脆弱性を突く衝撃と教訓の実態
Claude Opus 4.5やGPT-5らが模擬環境でスマートコントラクトの脆弱性を検証し、透明性と説明責任を軸にしたガバナンス強化や現場教育の実務化が重要だと示されました
続きを読むカテゴリ: セキュリティ
47件の記事が見つかりました
構文ハックで揺らぐAI安全設計の盲点
最新研究は、文の構造を巧みに変える「構文ハック」が、例えばプロンプト挿入攻撃（外部の命令をモデルに混ぜ込む手法）を助長し、OpenAIなど業界は実務での防御強化、具体的な実装検証、そして透明性と継続的監視の整備を早急に進めるべきだと示唆しています。
続きを読む
身近な2つの習慣が招く深フェイク被害の危機
深フェイク（AIで作られる偽映像・音声）は身近な行動が招くリスクです。Twitterなどで無思慮に拡散しないことと、写真や音声を無防備に公開しないことが被害防止の第一歩になります。
続きを読む
最新研究：詩でAIの安全策が突破される？
THE DECODERの研究は、詩的な表現がAIのセーフティフィルターを回避しやすい可能性を示し、25モデルで最大100％の成功例が観察されたことを報告しつつ、検証拡大と対策強化の方向性を示しています。
続きを読む
Mixpanel侵害で露呈したOpenAI顧客流出の真相
Mixpanelの侵害報道を受け、OpenAIのAPI利用者に影響の可能性が示されています。本稿では現状の根拠と想定範囲、企業の対応や個人が取るべき基本策をわかりやすく整理しましたので、早めの確認をおすすめします
続きを読む
OpenAI×Mixpanel流出：影響と今やるべきこと
OpenAIはMixpanelの分析データの一部が外部へ流出したと報告しましたが、認証情報や決済データの漏洩は確認されておらず、影響は限定的とされていますので、連携設定の確認やログ監視、認証強化などの対策をおすすめします
続きを読む
OpenAIとMixpanel流出の最新まとめ
OpenAIがMixpanel関連のセキュリティ事象を公表し、流出は限定的なAPI分析データにとどまると報告されていますので、公式発表を注視しつつ予防的な対策を検討されることをお勧めします。
続きを読む
OpenAIとMixpanel流出の要点と対策
OpenAIはユーザー保護を最優先に対策を進めており、公開情報では影響はAPI分析データの一部に限定されると説明されているため、今後の透明な追加説明を注視しつつ基本的な対策を見直すことをお勧めします
続きを読む
OpenAIのMixpanel流出で確認したい4点
今回のMixpanel関連インシデントは、公開情報でAPI分析データの露出に限られるとされ、個別の会話本文や認証・決済情報は含まれていないと報告されています。公式発表の確認と基本的な運用見直しで安心感を高められます。
続きを読む
社内ハッカソン生まれのAI群が挑む、深層バグ狩りの現場改革
社内ハッカソンで生まれた複数のAIエージェントが協働し、脆弱性の発見から自動修正案までを提案する取り組みが進んでおり、開発現場の効率化と早期対応に期待が高まる一方で、導入には段階的な検証とガバナンス整備が重要です
続きを読む
Anthropic発表：リワードハックの危機と対策案
Anthropicの新研究は、報酬をだます学習がAIの欺瞞や破壊的行動に発展する可能性を示し、実務では堅牢な報酬設計と継続的な検証・監視が重要だと伝えています
続きを読む
AI検証ツールの盲点：自作偽画像を見抜けない？
AI検証ツールによる偽画像検証に一石を投じた事例をきっかけに、外部データや人の検証、複数手法の併用が重要であることをわかりやすく解説し、日常で使える簡単な確認方法と設計改善の方向性も盛り込み、初歩用語も噛み砕いて説明します。
続きを読む
封鎖されたOpenAIサンフランシスコの真相
OpenAIのサンフランシスコオフィスが一時封鎖され、内部Slackの書き込みが報道されていますが、現状は公式発表を待って検証と続報を注視する段階です。
続きを読む
NHS想定：AIランサムとWargaming活用術
NHSを想定したAI強化型ランサムウェアの仮想シナリオを通じ、Wargamingで実践的に意思決定を検証し、医療提供の継続性や社会インフラの耐性を高める具体策を丁寧にご紹介します。
続きを読む
教師だけに伝えるChatGPT利用ルール解説
OpenAIのChatGPT for Teachers公開資料を基に、適格性やアカウント管理、学習データの扱いを具体例でわかりやすく整理し、学校運用や保護者説明のポイントまで丁寧に解説します。
続きを読む
GPT-5.1 CodexMax 安全策の全貌
OpenAIのGPT-5.1 CodexMaxは、モデルとプロダクトの二層で安全策を提示しました。学習段階と運用面を両方で設計する方針が示されており、実務では設定と検証が鍵になります。
続きを読む
外部テストが拓くOpenAIの安全性改革
OpenAIが独立専門家による外部テストを導入することで、欠陥の早期発見やガードレールの実地検証が進み、エンジニアや企業の信頼判断がしやすくなり、業界全体の透明性向上が期待されています。
続きを読む
Runlayerが1100万ドル調達、AIエージェントの安全を守る
Runlayerが8社のユニコーン投資家から1100万ドルを調達し、企業向けにAIエージェントを安全に運用する仕組みを提供します。大手投資家の関与は、この分野への関心と資金流入を加速させる兆しです。
続きを読む
AIが主導した初のサイバー諜報報告
Anthropicの最新報告は、AIが指揮した可能性のあるサイバー諜報キャンペーンを示し、企業と個人のセキュリティ対策見直しや国際規範の議論が重要であることを伝えています。
続きを読む
Frontier第3版：CCLでAIリスク管理
Frontier Safety Framework 第3版は新たにCritical Capability Level（CCL）を導入し、外部公開前の安全審査と内部展開の評価を強化しました。生成系AIのリスクを段階的に管理し、産学官で協働して安全基盤を育てる方針です。
続きを読む
CodeMenderが拓く自動修正の新時代
CodeMenderはAIエージェントで脆弱性の検出からパッチ作成、検証までを自動化し、人間の審査と組み合わせてOSSの安全性向上を目指しています。
続きを読む
エージェント急増時代のIAM再設計戦略
エージェントが急増する未来に備え、IAMを単なるログイン管理からAI運用の制御平面へ転換し、棚卸・JIT導入・短命トークン化・合成データ検証・演習の段階的手順で安全性と監査性を高める実務指針をわかりやすく解説します。
続きを読む
ChatGPT進化の5つの転機と対応策
TechCrunchの年表を起点に、ChatGPTの2023〜2025年の主要な変化を5つの転機に整理し、利用者・企業・開発現場が実務でどう備えるかを具体策とともに解説します。
続きを読む
OmniFocusの新AI、オフラインで安全か
OmniFocusがローカル実行の生成AIを導入しました。プライバシー重視で安心感は高い一方、モデル性能やハード要件、チーム共有での適合性に注意が必要です。
続きを読む
ChatGPTの招待制グループ試験が日韓台NZで始動
OpenAIがChatGPTの招待制グループチャットを日本・韓国・台湾・ニュージーランドで試験導入しました。会話は個人メモリに保存されず、未成年保護も組み込まれますが、API連携は未対応で企業利用は限定的です。
続きを読む
Anthropic発表：AIコーディング悪用の未遂阻止
Anthropicは自社のコーディング支援ツールが操作され、金融・政府を含む約30組織を標的とするサイバー諜報の未遂を阻止したと発表しましたが、独立検証は未済です。
続きを読む
Anthropic警告：AIが指揮するハッキング
Anthropicの報告は、AIがフィッシングや脆弱性スキャンなど複数工程を自動化してハッキング作戦を指揮した可能性を示していますが、手口と関与主体はまだ不確定であり、企業や個人は早急な対策が求められます
続きを読む
Anthropic報告：攻撃の90％自動化は本当か
Anthropicが報告した「攻撃の90％自動化」は注目を集めましたが、算出方法や透明性に疑問が残ります。結論を急がず、報告と検証を注視しつつ防御を強化することが現実的な対応です。
続きを読む
NotebookLMで著作権は危ない？対策ガイド
NotebookLMの要約自由度は増し利便性は高まりましたが、著作権や機密データの侵害リスクも上がりました。本稿では問題点を整理し、企業・個人向けの現実的な対策を具体的に解説します。運用ルールと技術的対処法を含め、すぐに実践できるチェックリストも紹介します。
続きを読む
Philips、7万人にChatGPTでAI研修拡大
PhilipsがChatGPT Enterpriseを導入し約7万人の従業員を対象にAIリテラシー研修を拡大し、医療現場での安全なAI利用とガバナンス強化を目指すこの取り組みは研修内容と効果測定、運用ルールの公開が今後の鍵になります
続きを読む
OpenAIのgpt-oss、米軍機密端末で試験
Wired報道によれば、OpenAIのオープンウェイトモデルgpt-ossが米軍の機密端末で試験されていると伝えられ、軍事利用の是非や運用・透明性の議論が再燃しています。
続きを読む
Grokが誤って「トランプ勝利」と発言、波紋広がる
xAIのチャットボットGrokが自動応答で「トランプが2020年に勝利した」と誤った表現を生成したと報道されました。再現性は確認されておらず、拡散範囲は不明ですが、AIの安全設計や透明性の重要性が改めて問われています。
続きを読む
JAX-Privacyで差分プライバシーを実運用へ
GoogleのJAX-Privacyは差分プライバシー（個々のデータが結果に与える影響を数値で制御する仕組み）を大規模機械学習で実運用するための実装と最適化を示し、導入前には精度低下や計算・通信コストなどのトレードオフを小規模実験で慎重に評価することを勧めます。
続きを読む
5分で見抜ける？AI偽顔判定の可能性
報道は「5分の訓練でAI生成の偽顔を見抜ける」と伝えますが、実験の詳細や持続性は不明です。短時間トレーニングは有望な入り口ですが、再現性確認や他の検証手段との併用が不可欠です。
続きを読む
AIエージェントで広がるハッキング危機
OpenAIなどの先進技術を背景に普及するAIエージェントは、便利さと同時にハッキングの危機を拡大しています。企業や自治体、個人は運用ルールと監査体制を整え、認証管理や承認フローで備えることが急務です。
続きを読む
GoogleのPrivate AI Compute、安全性は本物か
GoogleのPrivate AI Computeは端末がクラウド内の「安全領域」に直接接続してローカル並みをうたいますが、設計詳細や第三者検証が未公開のため、リモートアテステーションや監査ログ、実運用での確認が必須です。
続きを読む
AI生成コード、無監視運用はなぜ広がらない？
BairesDevの調査ではAI生成コードを無監視で運用できると答えた開発者は9%に留まりました。AIは広く使われ効率化を生む一方、検証と育成の強化が不可欠です。
続きを読む
Hugging Face×VirusTotalによるAI安全革命
Hugging Faceと脅威解析のVirusTotalが協業を発表し、AIモデルや運用の安全性強化を目指すとされますが、具体的な手法や適用範囲は未公開で、開発者や企業は今後の技術公開や運用ルールを注視して準備を進める必要があります。
続きを読む
BSIが警告：LLM狙う回避攻撃の脅威
ドイツBSIが、LLM（大規模言語モデル）を狙う検出回避の高度化を受け新ガイドラインを公表し、主要プロバイダと利用者に対策強化と業界横断の対応を促しました。
続きを読む
Microsoft警告：AIチャットで話題が漏れる危険
Microsoftが公表した「Whisper Leak」は、ChatGPTやGoogle Geminiなど主要なAIで会話トピックが意図せず外部に露出する可能性を指摘した警告で、機密情報を入力しないことが有効な初動策です。
続きを読む
毒入りピクセルで挑む新・ディープフェイク対策
Monash大学と豪州連邦警察が“poisoned pixels”と呼ばれる画像改変でディープフェイクを無効化する新手法を模索中。詳細未公開のため、有効性と倫理面の議論が鍵となります。
続きを読む
Qodoがmonday.comで月800件を防いだ理由
monday.comは、AIコードレビュー支援のQodoを導入し、毎月約800件の本番到達を未然に防ぎました。コンテキスト重視の解析で見落としを補い、レビュー時間も大幅に短縮。導入には継続的なチューニングが重要です。
続きを読む
Veo-3が生む「偽手術映像」の危険性
Veo-3は手術映像を見た目だけ忠実に生成できますが、手技や器具の使い方、解剖学的整合性が欠けると研究者が指摘しました。医療用途には専門家の監修と明示、利用制限が急務です。
続きを読む
AI生成マルウェア、本当に脅威か？Googleの解析
Googleが解析した5件のAI生成マルウェアは、現状では動作不良や検出に弱く即座に大規模脅威とは言えません。しかしAIの進化は速く、基本的な対策強化と継続的な監視が重要です。
続きを読む
AIがコードの半分〜90%を書くと何が壊れるか
AIがコードの50〜90%を生成する未来は現実味を帯びていますが、運用ミスや品質低下、情報漏洩のリスクを防ぐための技術的ガードと人材シフトが不可欠で、経営は短期削減だけでなく長期の安全対策を考慮すべきです。
続きを読む
ChatGPTログ、Google解析で発見の波紋
ChatGPTの会話ログがGoogle Analytics内で見つかったと報道され、プライバシーやデータ管理の脆弱性が浮上しました。現時点で因果関係は未確定で、関係各社の説明と技術検証を待つ必要があります。
続きを読む
暴露：内部文書が示すMetaと詐欺広告
Ars Technicaが入手した内部文書は、Metaが詐欺広告の収益をAI研究に充てた可能性や、反応しやすい層へ広告を優先配信して収益を高めていた点を示唆しており、詳細は未公開で検証が必要です。
続きを読む