フィールズ賞（数学のノーベル賞）受賞者 Jacob Tsimerman がトロント大学からOpenAI に転職することが明らかになりました。Tsimerman は、AI が人類絶滅をもたらす可能性を分析した論文を昨年発表しており、安全性研究の最前線に身を置く選択です。

Jacob Tsimerman とは

Tsimerman はトロント大学の数学教授で、整数論や幾何学の分野で活躍してきました。2022年、彼は「Omnicidal AGI Scenarios」と題した論文を発表。その中で、極めて強力な AI システムが人類の利益と矛盾した行動をとる可能性について詳細に分析しています。

OpenAI での役割

OpenAI は Tsimerman を AI 安全性研究に従事させます。特に、数学的な証明や検証を通じた AI システムの動作保証が重要となります。Tsimerman 本人は、次のように述べています。

「AI は極めて変革的な技術であり、社会はより多くの努力を安全性に費やす必要がある。数学者は重要な貢献ができる。なぜなら、AI はほぼ経験的に運営されており、システムの動作保証が不足しているからです」

なぜこの採用が重要なのか

  1. 基礎研究への投資: OpenAI は単なるプロダクト改善だけでなく、AI の数学的基礎の理解を強化する意思を示しています。

  2. 有力人材の獲得: フィールズ賞受賞者は世界で数十人程度。その獲得は、OpenAI の研究体制が国際的に競争力を持つことを示唆しています。

  3. 安全性へのコミットメント: AI の能力が高まるほど、その管理と制御に関する数学的理解が不可欠になります。

業界への示唆

AI 企業が単なるスケーリング競争から、理論的・数学的な基礎研究へと投資をシフトさせていることが窺えます。これは、API 公開や規制対応だけでなく、根本的な安全性の理解を求める気運が高まっていることを示します。

同時に、Tsimerman の論文が実務的な政策立案に反映されるかは、今後の注視ポイントです。

アップデート：Tsimerman氏、独立系の「数学的AI安全研究所」設立を発表

Tsimerman氏は新たに、数学的手法でAIの安全性を証明することを目指す非営利研究機関「Mathematical AI Safety Institute(MAISI)」の設立を発表しました。同氏は「現在の安全基準は大幅に引き上げる必要がある」と述べています。

MAISIは、AIシステムが責任ある行動や正確な結果を生成することを数学的に証明する手法の確立、複数のAIエージェントが協働する際に有害な結果を防ぐ仕組み、未発見の脆弱性への耐性確保などを目標に掲げます。ゼロ知識証明といった手法を用いることで、AIラボの内部情報を開示せずに安全性を示せる可能性も検討されているとのことです。

2027年1月の始動を予定しており、サンフランシスコ・ベイエリアを拠点に10〜30人規模の数学者を採用する計画です。現状、AIの安全性は主に実践的なテストでのみ検証されており、「安全」を厳密に定義する理論的枠組みすら確立されていません。フィールズ賞受賞者自らが理論的な安全保証の確立に乗り出したことで、AI安全性研究における数学的アプローチの機運がさらに高まる可能性があります。