Google DeepMindでAIチップ設計ツールの開発に携わっていたソフトウェア開発者、ロバート・オキャラハン氏が9月24日付でGoogleを退職した。同氏は退職の理由について、AI開発の進行速度が速すぎることへの深刻な懸念を挙げ、近い将来の汎用超知能（ASI）実現を目指す動きを「本質的に無責任」と批判している。

チーム自体の仕事と矛盾する懸念

オキャラハン氏が所属していたチームの目標は、AIをより高速かつ安価に動かすための次世代チップ設計ツールを開発することだった。しかし同氏は自身のブログで「チームの目標は究極的にはAIを安価かつ低遅延にすることだが、現在はそれが人々にとって良くないと確信している」と説明し、自らの職務がAI機能の加速に直結するという矛盾を退職の決め手として挙げた。

オキャラハン氏はキリスト教信仰を持つ長老でもあり、神への信頼を示しつつも、個人の才能は責任を持って使うべきだという価値観がこの決断を後押ししたと述べている。

具体的に挙げたリスク

氏がブログおよびTHE DECODERの取材で挙げた懸念には、以下が含まれる。

  • AIの急速な発展がもたらす存在リスク
  • 思考能力をAIに委ねる「認知的サレンダー」
  • AI誘発性の精神病や孤立
  • 権力の集中
  • 経済的混乱
  • サイバーセキュリティ上の脅威
  • 開発体制における説明責任の欠如

同氏は、現在のAIの変化速度が人間の適応能力を上回っていると指摘し、多くのDeepMindの同僚が同様の懸念を私的には共有しているものの、公の場では発言しないと明かしている。

業界への影響

大手AI研究機関の内部からこうした批判が公然と出るのは珍しい。オキャラハン氏は退職後もデバッグツール「Pernosco」と「rr」の保守を続けるほか、AIエージェントによるコードデバッグの研究に取り組む方針だ。同氏の発言は、AI開発競争の速度に対する業界内部の懸念が表面化した事例として注目されている。