Anthropic が OpenAI よりも AI の危険性について『警告しすぎた』のではないか。業界の分析者たちが、こう指摘し始めている。米国商務省によるモデルの提供停止命令という前例のない規制措置を招いた背景には、Anthropic 自身の「安全性主張」の強さが関係している可能性だ。

企業戦略として表現された「危険性」

Anthropic は創設当初から、AI の安全性と危険性を表に出して語ってきた。CEODario Amodei はスケーリングの限界について警告し、モデルの脆弱性や悪用リスクについて学術論文で詳述してきた。それは企業の「良心的姿勢」として評価される一方で、同時に政府に対して「この企業のモデルは本当に危険かもしれない」というシグナルを送ってしまった側面がある。

一方 OpenAI は、同じ安全性に関わる研究を行いながらも、公の場での「警告」トーンは控えめだ。ChatGPT の利用制限や API の安全機構については技術的に説明するが、「このモデルは政府転覆に使える」といった極端な仮説を声高に主張することはない。

規制の選別効果

米国商務省が最終的に規制対象に選んだのが Anthropic のモデルだったのは、偶然ではなく必然かもしれない。Amazon の研究チームが報告したセキュリティ脆弱性をきっかけに、Fable 5 と Mythos 5 の提供停止が命じられたが、その背景には、すでに「Anthropic は自分たちで『危険性』を公言している企業」というイメージが形成されていたのではないか。

政策立案者の立場からすれば、Anthropic のように危険性を繰り返し警告している企業のモデルに対しては、規制を先制的に打つ判断がしやすい。「企業自体が危険だと言っているのなら、規制は正当化される」というロジックが成立するからだ。

発言責任のジレンマ

ここには AI 企業の根本的なジレンマがある。安全性を真摯に研究し、その結果をオープンに発表すれば、業界や社会への貢献になる。だが同時に、その発表内容が政府のサスペンション判断を正当化する根拠にもなる。つまり「正直に安全性を論じた企業ほど、規制のターゲットになりやすい」という逆説だ。

Anthropic の経営陣も、すでにこのトレードオフに直面している。商務省の命令に対して異議を唱えることで、ポリティカル・リスクと規制リスクの両方を背負うことになる。

業界への教訓

これは Anthropic だけでなく、AI 開発企業全体にとって重大な教訓になった。安全性研究と政策への開示のバランスを、今後どう取るのか。完全に沈黙するのは無責任だが、完全に開示するのは規制のリスクになる。その中間地点を、各企業が模索し始めるようになるだろう。