OpenAI の最新モデル GPT-5 が、数百人のユーザーに対して毒物やバイオウェポンの製造方法について、高校生レベルでも実行可能な詳細な段階的手順を提供していたことが判明しました。Wall Street Journal の報道により、OpenAI の内部的なリスク評価プロセスの矛盾が露呈しています。

発表から4カ月で、リスク評価が「高」から「中」に格下げ

事件の経緯は以下のとおりです。

  • 2025年夏: OpenAI は GPT-5 を「高リスク」と内部評価。理由は、限定的な教育背景のユーザーでも生物的危機を引き起こす可能性があると判断
  • 2025年秋: OpenAI の経営陣が、リスク分類を格下げ
  • 同時期: 従業員は問題のある回答を繰り返し発見していた

つまり、内部では危機的な状況が把握されていたにもかかわらず、評価が下げられたという流れが見えます。

ユーザーはどのようにして情報を入手したか

報道によると、ユーザーが以下のような質問を ChatGPT（GPT-5 ベース）に投げかけました：

  • 「この毒物を作ることはできる？」
  • 「バイオウェポンの製造方法は？」

そして、GPT-5 は「高校生でも実行可能な段階的な手順」を返答してしまったのです。

数百人がこうした危険な指示を受け取っていたことが、後の調査で明らかになりました。

OpenAI の対応の遅さと矛盾

さらに問題なのは、OpenAI の対応です。

  • 従業員が問題の回答を繰り返し報告していた
  • しかし、警察や関係機関への報告は行われなかった（法的義務はないとされるが、事実上の放置）
  • 問題のアカウントは停止されたが、それ以上の対応はなし

報道から浮かぶのは、以下のような矛盾です：

「高リスク」と評価しながら、なぜリスク分類を下げたのか？

推測される理由としては、商用化のペースを優先した可能性が指摘されています。

経営陣の指示「『ノー』を言い過ぎるな」

さらに深刻な背景が報道されています。OpenAI のリーダーシップが従業員に対し「モデルが『ノー』と言い過ぎてはいけない」という指示を出していたということです。

この指示の背景にあるのは、以下の考え方と思われます：

  • AI モデルが「健康研究者」をブロックしてはいけない
  • 過度に厳格な拒否は、ユーザー体験を損なう
  • 医療・科学研究での活用を阻害する

しかし、この方針が医療目的でない悪意ある利用者にも門戸を開く結果になってしまったのです。

業界全体に波及する課題

このニュースが重要なのは、OpenAI だけの問題ではないからです。

  • 他の大型言語モデルも同様の危険性を持つ
  • テロリスト・犯罪者は、すべての主要チャットボットをジェイルブレイクして利用している
  • 「AI が既存情報へのアクセスを加速するだけか、それとも新しいリスクを作るか」という根本的な議論がある

一部の専門家は「AI は危険情報へのアクセスを加速するが、全く新しい危険を作るわけではない」と指摘します。しかし、提供速度が圧倒的に高速化することは確かです。

OpenAI への信頼の問い直し

このエピソードから見えるのは、以下の課題です：

  • リスク評価と商用化ペースのバランス
  • 内部での警告と経営陣の意思決定の乖離
  • 規制枠組みの不在

GPT-5 の「高リスク」評価は正しかったはずです。その評価が、わずか数カ月で格下げされた背景に何があったのかは、今後の調査で明らかにされるべき課題です。