DeepMind の CEO Demis Hassabis は、急速に進化する AI 開発の監視体制を強化するための新しい規制枠組みを提案した。米国に FINRA（金融業規制機構）を模範とした基準策定機関を設置し、フロンティアモデルに対する評価プロトコルを開発する構想だ。

未知の領域での「慎重な楽観主義」

Hassabis は、AI の将来がいかに不確実かを強調する。「誰も確実に次に何が起こるか知っていない」という言葉で始まる提案は、急速な技術進展への警戒感と、それでも規制枠組みを今から構築する必要があるという信念を反映している。彼は「慎重な楽観主義」の観点から、守護柵（guardrails）を今すぐに構築すべきだと主張する。

FINRA 型規制枠組みの特徴

Hassabis の案は、以下の特徴を持つ。まず、業界資金で運営される独立した基準策定機関を米国に設置する。この機関は定期的に更新されたベンチマークを用いて、フロンティアモデルの評価プロトコルを開発する。重要な点は、制度が自発的段階から強制的監視へ移行できる柔軟性を保有すること。必要に応じて AI 開発速度の調整を調整する権限も想定されている。

ただし、スタートアップと学術研究機関は対象外とする。規制による参入障壁の上昇を避け、業界全体の活力を損なわないための配慮だ。

研究者コミュニティの警告と乖離

この提案は、200 人以上のノーベル賞受賞者と AI 研究者による最近の警告と時を合わせたもの。彼らは AI の経済的影響への準備期間が急速に閉じていると警告している。一方、AI の意識や汎用性については研究者間の見解が分かれている。Yann LeCun は言語モデルベースの AGI（汎用人工知能）を「完全なたわごと」と呼び、一方で DeepMind の Shane Legg は最小限の AGI 実現確率を 50 パーセント、2028 年までと推定している。

業界への含意

Hassabis の提案は、自主規制に頼る現状からの転換を示唆している。金融業界の FINRA のように、AI 業界にも第三者による監視と基準設定が不可欠だという判断だ。業界各社にとっては、規制の形が定まる前に自らの安全措置を整備する機会にもなる。