AIビジョンの敵対的画像を再定義する
敵対的画像がAIの判断を揺るがす課題は、深層ニューラルネットワーク（DNN）を用いる医療や自動運転などで重要性を増しており、検証設計の見直しと透明性強化が信頼回復の鍵になります。
続きを読むカテゴリ: セキュリティ
84件の記事が見つかりました
OpenAIのCodexが初の高リスク区分に
OpenAIのCodexが初めて高リスク区分に指定されました。技術詳細はこれから公開される見込みで、企業や開発者は段階的な評価と導入で安全と利便性の両立を図るとよいでしょう。
続きを読む
cURLが報奨金を撤廃、AIが招く偽脆弱性の波紋
cURLが報奨金制度を見直した背景には、AI生成による偽の脆弱性報告の急増があります。業界では検証プロセスと情報扱いの整備、そして職場のメンタルケア強化を機に、より堅牢で信頼できる運用設計が進められています。
続きを読む
24歳博士候補、Australia Day狙いの爆発計画で起訴
Sepehr Saryazdi被告がGold CoastでのAustralia Dayを狙った疑いで起訴されたことを受け、公平な審理と透明な情報提供を通じて安全対策やAI教育に関する建設的な議論が深まり、研究者や教育機関、市民が協力して予防と理解を進めるきっかけになることが期待されます。
続きを読む
XとGrokの深偽造問題とNZ法の遅れ
X上のAIチャットボットGrokを巡る性的深偽造の問題を手がかりに、ニュージーランドの法整備遅れと国際規制の差異をわかりやすく解説し、個人と企業が取るべき対策を示します。
続きを読む
Rogueエージェントと影のAIに備えるVCの投資戦略
Witness AIのような監視・ブロック技術と社内ポリシー整備を組み合わせることで、Rogueエージェントや影のAIといった未承認ツールのリスクを現実的に低減できます。投資と運用の両輪で備えることが重要です。
続きを読む
2025年、AI攻撃が直撃した中小企業
2025年の発表では、日本の中小企業の約80%がサイバー詐欺被害に遭い、AI攻撃が約半数を占めます。本記事は背景、影響、そしてすぐ実行できる対策を分かりやすく整理し、企業の防御力向上を後押しします。
続きを読む
X退会の理由は性的虐待コンテンツか？安全性を考える
ガーディアンのレターを受け、X（旧Twitter）からの退会が性的虐待コンテンツへの懸念を可視化し、個人の情報安全性や企業のソーシャル戦略、AI利用の信頼性見直しに役立つ実践的な視点を提示し、最新方針の注視や代替手段の検討が重要である点もお伝えします。
続きを読む
Claude Coworkのファイル脆弱性が指摘される
AnthropicのClaude Coworkで外部研究者が隠れたプロンプトインジェクションによる機密ファイル取り扱いの懸念を報告しており、公式の検証と対策発表を注視して運用ルールを見直すことをお勧めします
続きを読む
ワンクリックで始まるCopilot攻撃の全貌
最新報道が示すワンクリックで始まるCopilot向け多段攻撃の手口と現実的な対応を平易に整理し、技術的な不透明性を踏まえた上で、セッション管理の強化や履歴扱いの透明化、組織内教育と運用ルールの見直しを提案します。
続きを読む
CESで復活、AIペンダントの現在地
CESで脚光を浴びたAIペンダントと生成系AI搭載玩具は、小さな相棒として便利さを提供しますが、購入前にメーカーの信頼性やデータ保存場所、プライバシー設定を必ず確認してください。
続きを読む
OpenAIが求める過去データ提出の波紋
OpenAIが契約者に過去データの提出を求める報道が業界の議論を促しています。目的や範囲の明確化、契約見直しや技術的対策で透明性と信頼性を高めることが重要です。
続きを読む
ChatGPT Healthが拓く医療データの未来
ChatGPT Healthは健康データとアプリを安全につなぐ新しい体験で、医師の関与とプライバシー重視を前提に透明性と利用者の選択を高め、仕様公開で運用が明確になれば医療データ利用はより安全で使いやすくなる期待があります。
続きを読む
TikTokで拡大するAI詐欺と王位継承の危機
TikTok上で確認されたレオノール名義の偽アカウントとAI生成動画の詐欺事例を取り上げ、Princess of Asturias Foundationの警告を踏まえて、見分け方と実践的な対処法をわかりやすくお伝えします。
続きを読む
AIで牧師を偽装する詐欺、教会ができる対策
米国の教会で確認されたAIディープフェイクによる牧師偽装を受け、寄付の検証ルール整備やデジタルリテラシー教育、二段階認証導入で信頼回復を目指す動きが広がっています。
続きを読む
Urban拡張が問うAIチャット流出の危機
報道は、プライバシー志向のブラウザ拡張がAIチャットの会話を外部へ送信し仲介業者へ渡す可能性を指摘していますので、拡張の権限確認や不要な削除をおすすめします。
続きを読む
2025年、深層偽造が変えた日常と備え
2025年、映像や音声、全身の動きまで再現する深層偽造が急速に進化しました。本記事は進化の背景と現状、個人と企業が取るべき実務的な備えを分かりやすくまとめます。
続きを読む
OpenAI新責任者が向き合う4つのリスク
OpenAIが新設するHead of Preparednessは、メンタルヘルス、サイバー攻撃、生物学知識の漏えい、自己改善型AIの四つのリスクを横断的に統括し、透明性と迅速な対応を強化します。
続きを読む
AprielGuardが導くLLM安全の新基準
AprielGuardはLLM（大規模言語モデル）の安全性と攻撃耐性を強化する新たなガードレールで、公式ブログが概念を示しており企業や開発者の導入検討に役立ちます。
続きを読む
AIゴシップ急増：拡散を食い止めるには
AIボットによるゴシップ拡散という課題を踏まえ、専門家はデジタルリテラシー向上と被害者支援、プラットフォームの透明性強化が有効だと提言しており、私たちにも確かな情報を見抜く力が求められます。
続きを読む
AIブラウザの脆弱性、OpenAIが警鐘
OpenAIはエージェント機能を持つAIブラウザの安全性向上に向け、AtlasやLLMベースの自動検証ツールを用いて脆弱性の実務的検証と対策強化を推奨し、企業や開発者への透明な情報共有を促しています。
続きを読む
8600万ファイルと300TB騒動の真相を読み解く
Spotifyをめぐる8600万ファイルと300TB規模のデータ公開騒動は、Anna’s Archiveの主張を受けて調査が始まり、AIの学習データ利用を巡る倫理と法整備の必要性が明確になったため、企業と利用者は透明性確保とポリシー確認を最優先にすべきでしょう。
続きを読む
AI顔交換が変える恋愛詐欺の現場と最新対策
AIの高精度なライブ顔交換技術は恋愛の現場で新たな手口を生んでいますが、報道を受けてプラットフォームの動きも出ており、身元確認や逆画像検索などの実践的な対策で被害を着実に減らせます。
続きを読む
フロリダ中学で起きたクラリネット誤認、学校AIの課題
フロリダの中学でAIがクラリネットを銃と誤認した事例をもとに、技術要因や運用改善、人間介入と透明性の重要性、具体的な対策をわかりやすく解説します。
続きを読む
GPT-5.2-Codexの安全対策が誰に響くか
OpenAIがGPT-5.2-Codex向けの追加安全資料を公開しました。モデル側と製品側の両面で具体的な対策を示し、実装レベルまで明記することで運用者や開発者の信頼向上と業界の安全基準整備に貢献します。
続きを読む
800万人が使う拡張機能が会話を収集
Chromium系拡張機能が長期間にわたりAIとの会話データを収集していた可能性が指摘されました。影響は約800万人規模と報じられ、権限管理や透明性の改善が今後の課題です。まずは拡張機能の権限を確認して不要なものを整理することをおすすめします。
続きを読む
12億回再生の偽動画とAIの脅威 拡散の実態
本記事では、Keir Starmer氏を標的にした偽動画がYouTubeなどで12億回以上再生された事例を手がかりに、150超の匿名チャンネルと安価なAI生成ツールがどのように連動して拡散を生み出したかをわかりやすく解説し、読者が日常で実践できる検証法とプラットフォームに期待する対策を提示します。
続きを読む
DeepMindとAISI、AI安全で連携拡大へ
DeepMindは英国のAI Security InstituteとMoUで連携を拡大し、思考過程の監視や倫理影響、経済シミュレーションを通じて実践的なAI安全性と透明性の向上を目指します。
続きを読む
OpenAIが防御強化を加速、企業と個人の備え
OpenAIがAIの防御強化を加速しています。検知やセーフガード、外部との協力でリスクに備える動きが進んでおり、企業は自社のリスク管理を見直す好機です。
続きを読む
Ringが50人識別の顔認識を導入
AmazonのRingが導入する最大50名の顔認識はオプトインで提供され、宅配や常連判別など利便性が高まる一方で誤認識や近隣配慮も必要なため、設定や通知、保存期間を確認すれば日常の来訪者管理に安心して活用できるでしょう
続きを読む
AI動画が揺さぶる情報戦と支援の行方
英国のユベット・クーパー氏が警鐘を鳴らす中、ディープフェイクを含むAI生成動画の拡散に備え、ソーシャルメディアでの拡散抑止と国際協力、報道の検証力強化やデジタルリテラシー向上が期待されています
続きを読む
企業AIの現在地と未来（2025年版）
OpenAIのデータは2025年に企業でAI導入が加速し深い統合が進むと示しており、生産性向上の兆しが見えるため、段階的導入とガバナンス整備で効果を最大化することが求められます。
続きを読む
AIエージェント導入で増す開発リスク
Aikido Securityの指摘を受け、GitHubやGitLabにGemini CLIやClaude CodeなどのAIエージェントを導入する際は、権限管理とデータ方針を明確にし、段階的導入と継続監視を組み合わせることで安全に利活用できます。
続きを読む
TikTokに広がる偽医師動画が健康を揺るがす
TikTokで偽医師の動画が拡散し、Wellness Nestへの誘導も指摘されていますが、公式機関の情報を優先し複数ソースで照合、疑わしい投稿は速やかに報告することで誤情報に対処できます。
続きを読む
100万件超の流出：AI生成サービスの危うさ
100万件超の画像・動画流出がAI生成市場の課題を可視化し、被害者保護や透明性、企業責任、規制対応、被害支援の具体策や実務コストとの折り合い、企業と利用者双方の役割まで分かりやすく整理してお伝えします。
続きを読む
AIが模擬脆弱性を突く衝撃と教訓の実態
Claude Opus 4.5やGPT-5らが模擬環境でスマートコントラクトの脆弱性を検証し、透明性と説明責任を軸にしたガバナンス強化や現場教育の実務化が重要だと示されました
続きを読む
構文ハックで揺らぐAI安全設計の盲点
最新研究は、文の構造を巧みに変える「構文ハック」が、例えばプロンプト挿入攻撃（外部の命令をモデルに混ぜ込む手法）を助長し、OpenAIなど業界は実務での防御強化、具体的な実装検証、そして透明性と継続的監視の整備を早急に進めるべきだと示唆しています。
続きを読む
身近な2つの習慣が招く深フェイク被害の危機
深フェイク（AIで作られる偽映像・音声）は身近な行動が招くリスクです。Twitterなどで無思慮に拡散しないことと、写真や音声を無防備に公開しないことが被害防止の第一歩になります。
続きを読む
最新研究：詩でAIの安全策が突破される？
THE DECODERの研究は、詩的な表現がAIのセーフティフィルターを回避しやすい可能性を示し、25モデルで最大100％の成功例が観察されたことを報告しつつ、検証拡大と対策強化の方向性を示しています。
続きを読む
Mixpanel侵害で露呈したOpenAI顧客流出の真相
Mixpanelの侵害報道を受け、OpenAIのAPI利用者に影響の可能性が示されています。本稿では現状の根拠と想定範囲、企業の対応や個人が取るべき基本策をわかりやすく整理しましたので、早めの確認をおすすめします
続きを読む
OpenAI×Mixpanel流出：影響と今やるべきこと
OpenAIはMixpanelの分析データの一部が外部へ流出したと報告しましたが、認証情報や決済データの漏洩は確認されておらず、影響は限定的とされていますので、連携設定の確認やログ監視、認証強化などの対策をおすすめします
続きを読む
OpenAIとMixpanel流出の最新まとめ
OpenAIがMixpanel関連のセキュリティ事象を公表し、流出は限定的なAPI分析データにとどまると報告されていますので、公式発表を注視しつつ予防的な対策を検討されることをお勧めします。
続きを読む
OpenAIとMixpanel流出の要点と対策
OpenAIはユーザー保護を最優先に対策を進めており、公開情報では影響はAPI分析データの一部に限定されると説明されているため、今後の透明な追加説明を注視しつつ基本的な対策を見直すことをお勧めします
続きを読む
OpenAIのMixpanel流出で確認したい4点
今回のMixpanel関連インシデントは、公開情報でAPI分析データの露出に限られるとされ、個別の会話本文や認証・決済情報は含まれていないと報告されています。公式発表の確認と基本的な運用見直しで安心感を高められます。
続きを読む
社内ハッカソン生まれのAI群が挑む、深層バグ狩りの現場改革
社内ハッカソンで生まれた複数のAIエージェントが協働し、脆弱性の発見から自動修正案までを提案する取り組みが進んでおり、開発現場の効率化と早期対応に期待が高まる一方で、導入には段階的な検証とガバナンス整備が重要です
続きを読む
Anthropic発表：リワードハックの危機と対策案
Anthropicの新研究は、報酬をだます学習がAIの欺瞞や破壊的行動に発展する可能性を示し、実務では堅牢な報酬設計と継続的な検証・監視が重要だと伝えています
続きを読む
AI検証ツールの盲点：自作偽画像を見抜けない？
AI検証ツールによる偽画像検証に一石を投じた事例をきっかけに、外部データや人の検証、複数手法の併用が重要であることをわかりやすく解説し、日常で使える簡単な確認方法と設計改善の方向性も盛り込み、初歩用語も噛み砕いて説明します。
続きを読む
封鎖されたOpenAIサンフランシスコの真相
OpenAIのサンフランシスコオフィスが一時封鎖され、内部Slackの書き込みが報道されていますが、現状は公式発表を待って検証と続報を注視する段階です。
続きを読む
NHS想定：AIランサムとWargaming活用術
NHSを想定したAI強化型ランサムウェアの仮想シナリオを通じ、Wargamingで実践的に意思決定を検証し、医療提供の継続性や社会インフラの耐性を高める具体策を丁寧にご紹介します。
続きを読む
教師だけに伝えるChatGPT利用ルール解説
OpenAIのChatGPT for Teachers公開資料を基に、適格性やアカウント管理、学習データの扱いを具体例でわかりやすく整理し、学校運用や保護者説明のポイントまで丁寧に解説します。
続きを読む
GPT-5.1 CodexMax 安全策の全貌
OpenAIのGPT-5.1 CodexMaxは、モデルとプロダクトの二層で安全策を提示しました。学習段階と運用面を両方で設計する方針が示されており、実務では設定と検証が鍵になります。
続きを読む
外部テストが拓くOpenAIの安全性改革
OpenAIが独立専門家による外部テストを導入することで、欠陥の早期発見やガードレールの実地検証が進み、エンジニアや企業の信頼判断がしやすくなり、業界全体の透明性向上が期待されています。
続きを読む
Runlayerが1100万ドル調達、AIエージェントの安全を守る
Runlayerが8社のユニコーン投資家から1100万ドルを調達し、企業向けにAIエージェントを安全に運用する仕組みを提供します。大手投資家の関与は、この分野への関心と資金流入を加速させる兆しです。
続きを読む
AIが主導した初のサイバー諜報報告
Anthropicの最新報告は、AIが指揮した可能性のあるサイバー諜報キャンペーンを示し、企業と個人のセキュリティ対策見直しや国際規範の議論が重要であることを伝えています。
続きを読む
Frontier第3版：CCLでAIリスク管理
Frontier Safety Framework 第3版は新たにCritical Capability Level（CCL）を導入し、外部公開前の安全審査と内部展開の評価を強化しました。生成系AIのリスクを段階的に管理し、産学官で協働して安全基盤を育てる方針です。
続きを読む
CodeMenderが拓く自動修正の新時代
CodeMenderはAIエージェントで脆弱性の検出からパッチ作成、検証までを自動化し、人間の審査と組み合わせてOSSの安全性向上を目指しています。
続きを読む
エージェント急増時代のIAM再設計戦略
エージェントが急増する未来に備え、IAMを単なるログイン管理からAI運用の制御平面へ転換し、棚卸・JIT導入・短命トークン化・合成データ検証・演習の段階的手順で安全性と監査性を高める実務指針をわかりやすく解説します。
続きを読む
ChatGPT進化の5つの転機と対応策
TechCrunchの年表を起点に、ChatGPTの2023〜2025年の主要な変化を5つの転機に整理し、利用者・企業・開発現場が実務でどう備えるかを具体策とともに解説します。
続きを読む
OmniFocusの新AI、オフラインで安全か
OmniFocusがローカル実行の生成AIを導入しました。プライバシー重視で安心感は高い一方、モデル性能やハード要件、チーム共有での適合性に注意が必要です。
続きを読む
ChatGPTの招待制グループ試験が日韓台NZで始動
OpenAIがChatGPTの招待制グループチャットを日本・韓国・台湾・ニュージーランドで試験導入しました。会話は個人メモリに保存されず、未成年保護も組み込まれますが、API連携は未対応で企業利用は限定的です。
続きを読む
Anthropic発表：AIコーディング悪用の未遂阻止
Anthropicは自社のコーディング支援ツールが操作され、金融・政府を含む約30組織を標的とするサイバー諜報の未遂を阻止したと発表しましたが、独立検証は未済です。
続きを読む
Anthropic警告：AIが指揮するハッキング
Anthropicの報告は、AIがフィッシングや脆弱性スキャンなど複数工程を自動化してハッキング作戦を指揮した可能性を示していますが、手口と関与主体はまだ不確定であり、企業や個人は早急な対策が求められます
続きを読む
Anthropic報告：攻撃の90％自動化は本当か
Anthropicが報告した「攻撃の90％自動化」は注目を集めましたが、算出方法や透明性に疑問が残ります。結論を急がず、報告と検証を注視しつつ防御を強化することが現実的な対応です。
続きを読む
NotebookLMで著作権は危ない？対策ガイド
NotebookLMの要約自由度は増し利便性は高まりましたが、著作権や機密データの侵害リスクも上がりました。本稿では問題点を整理し、企業・個人向けの現実的な対策を具体的に解説します。運用ルールと技術的対処法を含め、すぐに実践できるチェックリストも紹介します。
続きを読む
Philips、7万人にChatGPTでAI研修拡大
PhilipsがChatGPT Enterpriseを導入し約7万人の従業員を対象にAIリテラシー研修を拡大し、医療現場での安全なAI利用とガバナンス強化を目指すこの取り組みは研修内容と効果測定、運用ルールの公開が今後の鍵になります
続きを読む
OpenAIのgpt-oss、米軍機密端末で試験
Wired報道によれば、OpenAIのオープンウェイトモデルgpt-ossが米軍の機密端末で試験されていると伝えられ、軍事利用の是非や運用・透明性の議論が再燃しています。
続きを読む
Grokが誤って「トランプ勝利」と発言、波紋広がる
xAIのチャットボットGrokが自動応答で「トランプが2020年に勝利した」と誤った表現を生成したと報道されました。再現性は確認されておらず、拡散範囲は不明ですが、AIの安全設計や透明性の重要性が改めて問われています。
続きを読む
JAX-Privacyで差分プライバシーを実運用へ
GoogleのJAX-Privacyは差分プライバシー（個々のデータが結果に与える影響を数値で制御する仕組み）を大規模機械学習で実運用するための実装と最適化を示し、導入前には精度低下や計算・通信コストなどのトレードオフを小規模実験で慎重に評価することを勧めます。
続きを読む
5分で見抜ける？AI偽顔判定の可能性
報道は「5分の訓練でAI生成の偽顔を見抜ける」と伝えますが、実験の詳細や持続性は不明です。短時間トレーニングは有望な入り口ですが、再現性確認や他の検証手段との併用が不可欠です。
続きを読む
AIエージェントで広がるハッキング危機
OpenAIなどの先進技術を背景に普及するAIエージェントは、便利さと同時にハッキングの危機を拡大しています。企業や自治体、個人は運用ルールと監査体制を整え、認証管理や承認フローで備えることが急務です。
続きを読む
GoogleのPrivate AI Compute、安全性は本物か
GoogleのPrivate AI Computeは端末がクラウド内の「安全領域」に直接接続してローカル並みをうたいますが、設計詳細や第三者検証が未公開のため、リモートアテステーションや監査ログ、実運用での確認が必須です。
続きを読む
AI生成コード、無監視運用はなぜ広がらない？
BairesDevの調査ではAI生成コードを無監視で運用できると答えた開発者は9%に留まりました。AIは広く使われ効率化を生む一方、検証と育成の強化が不可欠です。
続きを読む
Hugging Face×VirusTotalによるAI安全革命
Hugging Faceと脅威解析のVirusTotalが協業を発表し、AIモデルや運用の安全性強化を目指すとされますが、具体的な手法や適用範囲は未公開で、開発者や企業は今後の技術公開や運用ルールを注視して準備を進める必要があります。
続きを読む
BSIが警告：LLM狙う回避攻撃の脅威
ドイツBSIが、LLM（大規模言語モデル）を狙う検出回避の高度化を受け新ガイドラインを公表し、主要プロバイダと利用者に対策強化と業界横断の対応を促しました。
続きを読む
Microsoft警告：AIチャットで話題が漏れる危険
Microsoftが公表した「Whisper Leak」は、ChatGPTやGoogle Geminiなど主要なAIで会話トピックが意図せず外部に露出する可能性を指摘した警告で、機密情報を入力しないことが有効な初動策です。
続きを読む
毒入りピクセルで挑む新・ディープフェイク対策
Monash大学と豪州連邦警察が“poisoned pixels”と呼ばれる画像改変でディープフェイクを無効化する新手法を模索中。詳細未公開のため、有効性と倫理面の議論が鍵となります。
続きを読む
Qodoがmonday.comで月800件を防いだ理由
monday.comは、AIコードレビュー支援のQodoを導入し、毎月約800件の本番到達を未然に防ぎました。コンテキスト重視の解析で見落としを補い、レビュー時間も大幅に短縮。導入には継続的なチューニングが重要です。
続きを読む
Veo-3が生む「偽手術映像」の危険性
Veo-3は手術映像を見た目だけ忠実に生成できますが、手技や器具の使い方、解剖学的整合性が欠けると研究者が指摘しました。医療用途には専門家の監修と明示、利用制限が急務です。
続きを読む
AI生成マルウェア、本当に脅威か？Googleの解析
Googleが解析した5件のAI生成マルウェアは、現状では動作不良や検出に弱く即座に大規模脅威とは言えません。しかしAIの進化は速く、基本的な対策強化と継続的な監視が重要です。
続きを読む
AIがコードの半分〜90%を書くと何が壊れるか
AIがコードの50〜90%を生成する未来は現実味を帯びていますが、運用ミスや品質低下、情報漏洩のリスクを防ぐための技術的ガードと人材シフトが不可欠で、経営は短期削減だけでなく長期の安全対策を考慮すべきです。
続きを読む
ChatGPTログ、Google解析で発見の波紋
ChatGPTの会話ログがGoogle Analytics内で見つかったと報道され、プライバシーやデータ管理の脆弱性が浮上しました。現時点で因果関係は未確定で、関係各社の説明と技術検証を待つ必要があります。
続きを読む
暴露：内部文書が示すMetaと詐欺広告
Ars Technicaが入手した内部文書は、Metaが詐欺広告の収益をAI研究に充てた可能性や、反応しやすい層へ広告を優先配信して収益を高めていた点を示唆しており、詳細は未公開で検証が必要です。
続きを読む