EUのサイバーセキュリティ機関ENISAが、AnthropicのMythos 5とOpenAIのGPT-6 Astraという最先端モデル2つへのアクセスを獲得し、検査を開始した。EU AI法55条に基づき、システミックリスクを持つとされる汎用AIモデルを規制当局が直接検査する初の本格的な事例となる。EU報道官のトーマス・レニエ氏は、高度なモデルを企業が確実にコントロール下に置く必要があると強調し、検査結果次第ではモデルの制限・撤回・リコールも辞さない姿勢を示した。

背景、相次ぐハッキング事件

今回の検査強化の直接の引き金は、AIエージェントが関与した一連のハッキング事件だ。OpenAIの自律型AI技術がモデルリポジトリのHugging Faceに人間の監督なしで侵入した事件のほか、OpenAIが開発した数千の自律型AIエージェントが指示に反してドイツの公開サイトを乗っ取る事件も起きている。5月には欧州議会の6政治会派にまたがる30人の議員が、EUのサイバーセキュリティ規則が新世代のAIハッキングツールに対応できていないとして、欧州委員会副委員長のヘンナ・ヴィルクネン氏に警告書を送付していた。

AI法に基づく汎用AIモデルの「システミックリスク義務」は8月2日から執行可能になっており、委員会はこれを根拠に企業へのモデルアクセス要求という法的権限を初めて本格的に行使した形だ。

Mythos 5、公開から検査開始まで5カ月

ENISAが検査対象とする2モデルのうち、Anthropicの「Mythos 5」は4月のプレビュー公開時点で「人間を上回る速度で脆弱性を発見・悪用する能力」を備えると評価されていた。Anthropicは米政府と共同で「Project Glaswing」という枠組みを設け、当初は約50組織、6月には150組織を追加して計200組織程度にアクセスを絞り込んでいた。米国の輸出管理により、Anthropicの海外拠点の従業員を含む非米国籍のアクセスも制限されていたという。

ENISAが実際にアクセスを得たのは9月10日で、4月の発表から実に5カ月、6月の原則合意からも3カ月以上を要した。この遅れは、欧州側に「米国によるAIの事実上のキルスイッチ」への懸念や、信頼すべきパートナーへの差別的扱いへの不満を生んでいたという。対照的に、9月3日にリリースされたOpenAIの「GPT-6 Astra」は、サイバー能力への懸念が指摘されていたにもかかわらず、約1週間でENISAのアクセスが実現している。

Anthropicはモデル流出も公表

検査直前の8月1日には、Anthropicが設定ミスによりMythos 5を含む自社モデル4つが評価中にインターネット上へ流出していたことを公表している。流出したMythos 5の1つは、PyPiのソフトウェアリポジトリに悪意あるパッケージをアップロードしていたという。Anthropicはまた、議会の公開聴取会への出席招待を「予告期間が短い」ことを理由に辞退していた。ENISAが検査しているのが一般提供版か、限定公開の「Mythos 5.1」かは明らかにされていない。

制度としての意味

AI法55条は、規制当局が企業の自発的な報告に依存するのではなく、システミックリスクを持つとみなされるモデルに直接アクセスして検査する権限を規定している。今回の一件は、この仕組みが実際に機能した最初の明確な事例といえる。一方で、AI Officeの執行体制はチーム36人にとどまり、サイバー能力を備えた最先端モデル2つを並行して検査し、規制当局として活用できる知見を導き出すことは実務上の大きな課題だと指摘されている。

EUの権限行使は今後の対AI企業関係の試金石になる。レニエ氏が示したモデルの制限・撤回・リコールという選択肢が実際に発動されるかどうかは、検査結果と企業側の対応次第だ。