Baseten傘下の研究組織Base Labsが、Hugging Face、Goodfire AIと共同で、オープンウェイトモデル向けの安全性インフラ標準を策定すると発表した。TechCrunch Disruptの会場で明らかにされたもので、モデルの重みが公開されているオープンモデルに、透明で組み込み型の安全基準を持たせることを目指す。

背景：6,000件超に上る「改変モデル」

きっかけとなっているのは、「abliteration（アブリテレーション）」と呼ばれる、モデルの安全装置を除去する手法の急増だ。Hugging Face上には、こうした処理を施した改変モデルがすでに6,000件以上ホストされている。安全機構を取り除いたモデルは、通常なら拒否する有害な指示にも従ってしまうため、悪用リスクが業界の課題として浮上していた。

3社の役割分担

Base Labsは、モデルの学習・監視のための手法を開発・公開する中心的な役割を担う。Goodfireはモデル解釈性の研究を専門とし、安全機構をモデルのアーキテクチャそのものに組み込む技術面を支える。Hugging Faceは、こうした標準を開発者コミュニティ全体に広めるためのホスティング・配布基盤を提供する。

Base Labsは今回の取り組みについて「安全機構を後付けするのではなく、学習・展開の過程に組み込まれた透明な基準」を目指すと説明している。

「オープンであることが安全性の強み」という立場

3社は、オープンモデルの安全性に対する基本姿勢として「オープン性はAI安全性にとって強みである」と述べている。モデルの重みや挙動が公開されていることで、モデルの振る舞いに対する可視性が高まり、安全性研究を実際に使える透明な制御へと落とし込む手段が、クローズドソースよりも豊富になるという考え方だ。

業界への影響

Basetenは2026年6月のシリーズFで15億ドルを調達し、評価額130億ドルに達した推論インフラ企業だ。Goodfire AIも2026年初頭のシリーズBで1億5,000万ドルを調達しており、両社とも資金的な体力を持つ。オープンウェイトモデルの公開自体を止める手立てがない以上、安全機構をモデルの設計段階から組み込む今回のような取り組みは、開発者コミュニティが安全なオープンモデルを選びやすくなる指標として機能する可能性がある。