20人超のAI研究者が「知能爆発」に警鐘

Geoffrey Hinton氏、Yoshua Bengio氏、OpenAI研究責任者のJakub Pachocki氏を含む20人以上のAI研究者が、AI研究そのものの自動化が制御不能な「知能爆発」を引き起こす危険性を警告する論文を発表した。論文は、AI企業内で既にコードの大部分をAIが生成している現状を踏まえ、AI研究開発のパイプライン全体が数年以内に自動化される可能性を指摘している。

数年分の進歩が数カ月に圧縮される懸念

論文の核心は、AIによる研究自動化が進むことで、通常なら数年かかる技術進歩が数カ月に圧縮されかねないという懸念だ。研究者らは、この加速が「社会の対応能力を超え、超人的AIの制御を失わせ、国家・企業・政府間の力学バランスを崩す」可能性があると警告している。提言としては、AI研究がどのように自動化されているかについて、政策立案者がはるかに高い可視性を持つべきだとしている。

相次ぐ警告の背景に透ける利害関係の指摘

この論文は、AnthropicとOpenAIの経営陣が国連の場やエッセイ、SNSを通じて相次いで発している存在リスクへの警告と軌を一にする。一方で、こうした警告の連鎖には批判的な見方も出ている。元OpenAI地政学チームのリーダーは、存在リスクを強調する一方でデータセンターの環境影響や軍事利用といった「現在進行形の危害」から注意をそらしている可能性があると指摘する。上場準備を進める企業が政治的な支持を得るための布石である、あるいは自社が安全基準を定義する自主規制の枠組みを先取りする狙いがあるとの見方も出ている。

読者への影響

一般ユーザーにとって直接の実害はまだないが、AI業界を主導する研究者自身が公にリスクを認め始めたことは、規制論議の進み方に影響を与える可能性が高い。政策立案者への「可視性強化」という提言が実際の規制枠組みにどう反映されるか、今後の動向を注視する必要がある。