元OpenAI研究者のDiogo Almeida氏が設立したTypeSafe AIが、テキストを一切生成しないAIモデル「Jev」を公開した。ChatGPTのような対話ではなく、あらかじめ定義した選択肢の中から最適なものを確率付きで判定するモデルで、ソフトウェアの自動意思決定に組み込むことを想定している。

何が新しいのか

一般的な大規模言語モデル(LLM)はテキストを生成し、そこから意味を解釈する必要がある。Jevはその逆で、開発者が質問と回答の選択肢をあらかじめ定義しておき、ユーザー入力に対して該当する選択肢とその確信度スコアを返すだけの仕組みだ。TypeSafe AIはこれを「System One Model」と呼び、新しいアーキテクチャとサンプラー、独自の学習アルゴリズム「Reinforcement Learning for Calibrated Decisions(RLCD)」で構築したと説明している。

例えば、カスタマーサポートで「二重請求された」という問い合わせが来た場合、Jevは「支払い問題」といったラベルと確信度を返し、店舗システムはその結果をもとに自動ルールで処理を振り分けられる。テキスト生成を経由しないため、出力そのものに「幻覚」が生じない設計になっている。

速度とコストの数字

応答時間は70〜500ミリ秒で、同一の呼び出しに複数の質問を追加してもほとんど遅延が増えないという。TypeSafe AIの公式発表によれば、一般的なLLMと比べて193.6倍速く、444.6倍安い。価格は入力100万トークンあたり0.042ドルで、出力は無料。同社はこの入力価格をClaude Fable 5.1と比較して238倍低いとしている。

判定特化モデルの位置づけ

Jevの「幻覚がない」という謳い文句は、あくまで出力形式が定型化されていることを指す。選択肢自体の中身が事実として正しいかどうかまでは保証しないため、判定の信頼性検証は導入する企業側の責任になる。

とはいえ、分類・ルーティング・承認可否といった大量かつ低コストな判定処理を、フルスペックのLLMではなく専用モデルに任せる発想は、AIコストの最適化を模索する開発者にとって選択肢の一つになりそうだ。TypeSafe AIは現在、公式サイトでウェイトリストへの登録を受け付けている。

アップデート:開発者による独立検証結果

TechCrunchの報道によると、実際にJevを試した開発者からも肯定的な評価が集まっている。VercelはOpenAIのモデルと比較して「5〜18倍高速で、精度も向上した」と報告。Bryo AIはGeminiと比べて「10〜20倍安価」であることに加え、判定結果に信頼度スコアが付与される点を評価している。

想定される用途としては、ソフトウェアの自動分類処理のほか、LLMエージェントの挙動監視・検査、複数モデルへのリクエスト振り分け判定などが挙がっており、公式発表の数字を裏づける形で第三者からの実測データが揃いつつある。