AIに熱が入るほど、冷静な判断も必要になります。ここ数カ月で投資の勢いと規制への議論が同時に高まり、技術的な進歩と経済的現実の間に微妙なズレが生じています。Fireworksのように一瞬で派手に見える一方で、残る火種をどう処理するかが問われているのです。

投資の波紋と現実のギャップ

AnthropicのCEOであるDario Amodeiは、技術の加速と資本投入のバランスに警鐘を鳴らしています。特にOpenAIが巨額の資金を投じている点を挙げ、資本の使い方を見直す必要があると指摘しました。THE DECODERなどの報道は、この議論が市場の資金配分に影響を与え始めていることを示しています。

疑問はシンプルです。短期で目立つ成果を追うのか、それとも長期の安全性を優先するのか。どちらを選ぶかで企業の戦略は大きく変わります。

評価の前提が結果を左右する

ここで重要なのが「評価の前提」です。モデル評価で用いられる用語を簡単に説明します。

・システムカード: モデルの性能や安全性テストの仕様をまとめた開示資料です。導入判断の基礎資料になります。
・RL（強化学習）: 試行と報酬を繰り返して性能を向上させる学習手法です。
・ASR（Attack Success Rate、攻撃成功率）: 悪意ある入力が目的を達成する割合を表します。

AnthropicはClaude Opus 4.5の詳細なシステムカードを公開し、200回のRLキャンペーンを想定した多様な攻撃データを提示しました。一方、OpenAIはGPT-5の約60ページのシステムカードで、主に単一試行や反復パッチ適用ベースの評価を示しています。

同じテストでも前提が違えば結果はこう変わります。Gray Swan Shadeの評価では、Opus 4.5のコード環境でのASRは、1回試行で4.7%、10回で33.6%、200回で63.0%に上昇しました。要するに、試行回数を増やすと脆弱性が露出しやすくなるのです。

別のケースでは、Opus 4.5の「computer use」カテゴリでASRが0%に飽和する例もあり、Sonnet 4.5ではcodingで70%、computer useで85.7%と高い数値を示しました。OpenAIが提示するo1 system cardでは、有害テキスト6%、悪意コード5%という単一試行ベースの指標が示されています。

このように、評価手法の違いは解釈を分けます。ベンダー発表の数字だけで安心せず、複数の評価軸と独立系の結果を照らし合わせることが大切です。METRやUK AISI、Gray Swanなどのレポートは、第三者視点を提供してくれます。

規制と市場価値のせめぎ合い

市場では投資の過熱感が指摘される一方で、安全性重視のAIに対する期待も高まっています。AnthropicのDaniela AmodeiはWiredのインタビューで、安全性を重視するモデルの価値は評価されるとの見方を示しました。過度な規制がイノベーションを阻む懸念もありますが、規制と市場のバランスをどう取るかが今後の焦点になります。

規制は終焉を意味するのではなく、信頼性を担保するための枠組みとなり得ます。市場は安全な技術に価値を付ける可能性が高いのです。

実務的なチェックリスト（導入前の提案）

ここからは具体的な実務提案です。導入検討時に社内で使えるチェックポイントを挙げます。

・ベンダーに複数回試行のASRを求める（例: 50回・200回の結果）
・system cardの公開範囲と評価方法の透明性を確認する
・内部監視（特徴量監視）とCoT監視（Chain of Thought監視、推論過程の可視化）を比較評価する
・独立したred-team評価を導入条件に含める
・METRやGray Swanなど第三者評価を参照する習慣を作る

これらはコストがかかりますが、短期の安易な導入が長期のリスクになることを避けるには有効です。

結び：目先の華やかさに惑わされない選択を

AnthropicとOpenAIの事例は、評価前提の違いが投資と規制の判断に直結することを教えてくれます。結局のところ、単一指標に頼らず、多角的に評価する姿勢が大切です。

市場が加熱する今だからこそ、冷静に複数のデータソースを参照し、安全性と成長性を両立させる戦略を描いてください。短期の花火に目を奪われず、長く燃え続ける火を育てることが、これからの企業の命題です。