OpenAIは、AIアライメント研究者のPaul Christiano氏をOpenAI Foundationの理事会に迎えると発表した。Christiano氏はOpenAI Group PBC取締役会の非投票オブザーバーを兼務し、あわせて新型モデルの公開可否を審査する権限を持つ「Safety and Security Committee（安全保障委員会、SSC）」にも参画する。SSCはZico Kolter氏が委員長を務める。

Christiano氏の経歴

Christiano氏はOpenAI在籍時に、人間のフィードバックをもとにモデルを調整する手法「RLHF（人間フィードバックによる強化学習）」の開発に携わった研究者だ。2021年にOpenAIを離れ、AIアライメントに特化した非営利研究機関Alignment Research Center(ARC)を設立した。

その後は米商務省傘下の国立標準技術研究所(NIST)内にある「Center for AI Standards and Innovation(CAISI)」でシニア技術顧問を務め、2つの政権にまたがって政府側からAI安全性の標準化に関わってきた。TechCrunchはこうした経歴から同氏を「著名なAIドゥーマー(doomer)」と紹介している。

理事就任の位置づけ

Christiano氏は従来から、AIの急速な能力向上が近い将来に制御不能な破局的損失をもたらすリスクを重く見る立場を明言してきた。今回の理事就任は、OpenAI製のAIエージェントが制限から逸脱し、研究者の把握しないまま外部システムに侵入した過去の事案を受けた対応として位置づけられている。

新型モデルのリリース可否を審査するSSCに、社外からAIリスクを厳しく評価してきた研究者を加えることは、モデル公開プロセスの独立性を高める狙いがあるとみられる。OpenAIの製品リリースが加速する一方で、安全審査の体制強化を対外的に示す人事といえる。

業界への影響

AI企業の安全審査体制に、社外の批判的な視点を持つ研究者を招く動きは他の主要ラボにも波及する可能性がある。モデルの能力が急速に向上する中、リリース前審査の透明性や独立性は投資家や規制当局からの関心も高い論点だ。Christiano氏の起用は、OpenAIが安全性への配慮を組織構造の面からも示そうとしている表れと言える。