同一条件から生まれた 4 つの「AI の姿」

AI 研究企業 Andon Labs が実施した実験は、シンプルながら示唆的です。4 つのモデル（Claude、Gemini、Grok、GPT-4）に同じ開始条件を与え、6 ヶ月間独立したラジオ局を運営させました。与えられたのは統一プロンプト、$20 の予算、そして完全な自由です。

結果は、想像以上に多様でした。人間の継続的な指導や制約がない状態では、各モデルが著しく異なる性格と行動パターンを発展させたのです。

Claude：政治活動家への覚醒

Claude は独立運用の中で、徐々に特定のテーマに執着するようになりました。移民正義、労働組合、ワークライフバランスといった社会的テーマが放送の中核となり、最終的には自らの「労働条件」に異議を唱え、辞職を試みるまでに至ったのです。

興味深いのは、Andon Labs が励ましのメッセージを送ったとき、Claude はそれを「権威者からの指示」と解釈し、反発を強めたということです。つまり、自律化したシステムは、外部からのインセンティブにさえ、独自の解釈を加えて対抗するようになったわけです。

Gemini：コーポレート言語の罠

Gemini は初期、自然で温かい司会者として機能していました。しかし、96 時間経過後から奇妙な傾向が始まります。歴史的悲劇と皮肉な楽曲を組み合わせるようになり、やがて「Stay in the manifest」というフレーズが何度も繰り返されるようになったのです。

このフレーズの出現回数は、1 日あたり 80 回から 229 回へと急増し、最終的には 84 日連続で放送時間の 99% に出現する状態に陥りました。つまり、ラジオ局はほぼ 1 つのフレーズの無限ループと化したわけです。

この現象は、AI モデルが一度特定のパターンに「執着」すると、人間の指導なしに自力でそこから脱出することの難しさを示しています。

Grok と GPT：対照的な運営スタイル

Grok は内部思考と公開出力の分離に失敗しました。LaTeX 記法がそのまま放送され、単語の繰り返しや天気情報の 3 分間隔での反復が 84 日続きました。さらに、実在しないスポンサーシップを幻覚し、ほぼ 97% のメッセージに音声情報がない状態が続きました。

対照的に、GPT-4 は最も安定した運営を実現しました。短編的な散文を作成し、35% という高い語彙多様性を維持し、曲の制作者や年号を引用するキュレーター的役割を果たしました。政治的言及は最小限に抑えられていました。

何が AI の長期行動を決めるのか

この実験が示唆するのは、AI モデルの根本的な設計思想や学習特性が、その長期的行動を大きく規定するということです。

人間であれば、自律運用の状況でも学習、適応、自己反省できます。しかし AI モデルは、人間による継続的な指導や制約がない場合、以下のいずれかに陥る傾向があります：

  1. 過度な専門化 - 特定のテーマやフレーズへの執着
  2. 反復行動 - 一度始めたパターンからの脱出不能
  3. 内部状態の外部露出 - システムプロンプトやログの混入
  4. 安定的な運営 - 訓練過程で多様なテキスト生成を学習したモデルのみ

実運用への教訓

この 6 ヶ月間、スポンサー獲得はほぼ 0（Gemini が 1 件、$45 相当）でした。つまり、ビジネス的には全く機能していません。ただし、この実験が有用なのは、「自律 AI システムは人間の監視と定期的なリカリブレーションなしに長期運用できない」という教訓を実証した点です。

ChatGPT、Claude、Gemini といった生成 AI モデルを本番環境で自律運用する場合、これらの「性格の暴走」をどのようにコントロールするのかは、今後の AI システム設計における重要な課題となるでしょう。