カリフォルニア州のギャビン・ニューサム州知事は2026年9月18日、フロンティアAIモデルに対する緊急停止機構、いわゆる「キルスイッチ」の整備を加速させる行政命令に署名した。フロンティアAI企業に対しては、研究所内に独立した検証団体を常駐させ、安全性フレームワークや透明性レポート、リスク評価を継続的に監査させる体制も求める。

既存法の運用を前倒し

今回の命令は、州がすでに制定していたAI安全関連法(SB 813、AB 1405)の運用を加速させる位置づけだ。世界トップクラスの専門家を招集し、2カ月以内に安全対策の強化に関する勧告をまとめさせるほか、「重大な安全インシデント」の定義を更新し、AIモデルが人間の制御を失う「制御喪失事案」を新たに含める。

ニューサム氏は声明で「手をこまねいている場合ではない。手遅れになる前に、実質的で責任あるAI監督の取り組みを加速させる」と述べた。独立監査人を研究所に直接配置するという枠組みは、AI企業側からも提案されていたものだという。

直近の警告が後押し

今回の命令は、OpenAIやGoogle DeepMind、Anthropicなど業界大手の経営陣が相次いでAIリスクへの警告を発したことを受けたものだ。ニューサム氏はトランプ政権のAI政策を「誇大広告」だと批判し、連邦レベルでの規制の不備を指摘した上で、カリフォルニアの枠組みを全米標準として採用するよう議会に呼びかけている。

命令自体はキルスイッチの即時義務化ではなく、実現可能性の調査と体制整備の指示にとどまる。ただし、独立検証団体の研究所常駐や制御喪失事案の報告義務化は、AI企業の情報開示のあり方に直接影響する内容であり、他州や連邦レベルの規制論議にも波及する可能性がある。

開発者・企業への影響

カリフォルニアはOpenAIやAnthropic、Google DeepMindなど主要AI企業の本拠地であり、同州の規制強化はこれらの企業の運用実務に直結する。研究所への監査人常駐が実現すれば、モデルの学習・評価プロセスの透明性が外部から検証可能になる一方、企業側には新たなコンプライアンスコストが発生する。今後2カ月の専門家パネルの勧告内容が、キルスイッチの技術的な実装方法を左右することになる。