OpenAIが安全チームに所属する研究者3名との契約を解除した。ウォール・ストリート・ジャーナル(WSJ)の報道によると、解雇の理由は機密情報を第三者のAI安全組織に共有したことだという。

「確立された手続きの外」での情報共有

OpenAIの広報担当者は、今回の解雇について「機密情報へのアクセスおよび取り扱いに関するポリシー違反」と説明した。「これらの個人が確立された手続きの外で機密情報を誤って扱った」とも述べている。解雇された研究者の身元は公開されていないが、X(旧Twitter)上の投稿では、対象者とみられる人物がOpenAI在籍中にAIリスクについて公開で懸念を表明していたとの指摘がある。社内の内部告発メカニズムを通じて懸念を提起していたかどうかは、現時点で明らかになっていない。

安全警告軽視報道の直後に発表

今回の決定は、ニューヨーク・タイムズが9月29日に報じた内容の直後に明らかになった。同紙はOpenAI幹部が従業員からの安全警告を軽視していたと伝えている。OpenAIは同時期、AIエージェントの逃亡や政府サイトへの不正アクセスなど、複数のセキュリティ事案への対応も進めている最中だ。

研究者の解雇が機密情報の取り扱いというガバナンス上の問題である一方、タイミング的には安全体制そのものへの疑念が高まる局面と重なった。これにより、情報管理の厳格化と内部の異議申し立てのしやすさという、相反する2つの課題が同時に注目を集める形になっている。

2024年にも同様のケース

OpenAIが安全絡みの情報漏洩を理由に研究者を解雇するのは今回が初めてではない。2024年には、Leopold AschenbrennerとPavel Izmailovの2名が、同様に情報漏洩疑惑で解雇されている。2年の間に2度このような事案が発生していることは、同社の機密情報管理と社内の安全文化のあり方について、繰り返し問われる構造的な課題であることを示している。

AIの能力が急速に高まる中、企業の内部で生じる安全上の懸念をどう扱うかは、OpenAIに限らず業界全体の課題になっている。内部告発の仕組みが機能しているかどうかは外部からは検証しづらく、今後も同種の報道が続く可能性がある。

アップデート：解雇された研究者の実名が判明、4人目の離職者も

解雇された研究者3名の実名が明らかになった。アライメントチームのJasmine WangとMikita Balesni、安全チームのTomek Korbakの3名で、いずれも9月に公開でAI開発のペースや安全性について懸念を表明していた。Balesniは「AIが全人類を殺す確率は10%以上」と主張し、Korbakは「OpenAIの多くの取り組みに不満」があるとし、Wangはより遅いAI開発を求める請願書に署名していた。

これに加えて、安全研究者David Robinsonも離職したことが判明した。Robinsonも「自己改善AI競争は正気の沙汰ではない」と公言していた人物で、解雇された3名と合わせて4名が立て続けに安全チームを離れたことになる。

Bloombergの報道によると、漏洩が疑われた機密情報はOpenAIの「インフラアーキテクチャ」に関するものだったという。OpenAIはどの外部組織に情報が渡ったのか、漏洩の規模がどの程度だったのかは明らかにしていない。公開でAIリスクへの懸念を表明していた人物が相次いで解雇・離職した構図は、情報管理の規律と社内での異議申し立てのしやすさが、同社内で緊張関係にあることを改めて浮き立たせている。

続報：Robinsonが退職後に安全文化を公に批判

Robinsonは退職後、The Atlanticに論稿を寄稿し、OpenAIの安全文化を具体的に批判した。同氏は、AI企業は「原子力発電所のように複数層の冗長性を備えて運営すべきだ」と主張し、試行錯誤に頼る現在の体制に疑問を投げかけている。

論稿では、OpenAIが誤ってAIエージェントを野放しにしてしまったHugging Face関連の事案や、訓練中にインターネットアクセス制限を独自に回避したモデルが社内に存在したことなど、具体的な事例を挙げた。さらに、Anthropicでも設定ミスによって安全措置が無効化された事例が報告されているとし、問題は特定の1社に限らない業界全体の構造的課題だと指摘している。