オープンモデルの競争が一段階進みました。ドイツの AI コンソーシアムが発表した『Soofi S』は、限られたパラメータ数で大規模モデルを上回るパフォーマンスを実現し、特に多言語対応で新たな可能性を示しています。

Soofi S の設計思想

Soofi S 30B-A3B は、31.6 億個のパラメータを備えながら、トークンごとに約 3.2 億個のパラメータのみを活性化する混合エキスパート(MoE)モデルです。Nvidia の Nemotron 3 Nano アーキテクチャを採用し、Mamba-2 層と標準的なアテンション層を組み合わせた設計により、効率的な推論を実現しています。

訓練は約 27 兆トークンで実施されました。特に注目すべきは、ドイツ語への最適化。訓練の進行に伴い、ドイツ語データの比率が第 1 段階の 7.2% から第 2 段階の 15.3% へ上昇。商業ライセンスの Genios コーパス(193 万記事)も含まれ、ドイツ語の自然な表現や専門知識を幅広く学習しています。

ベンチマーク結果——競合モデルを圧倒

Soofi S の実力は数字で明確です:

  • 英語総合スコア: 70.1 ポイント
  • ドイツ語総合スコア: 79.1 ポイント
  • HumanEval(コード生成): 73.8%
  • MBPP(プログラミング問題): 70.2%

これらのスコアは、OLMo 3 32B や Apertus 70B など、より大規模なオープンモデルを上回るものです。特にドイツ語での高スコアは、欧州における多言語 AI の必要性を満たす、重要な実績といえます。

インフラと公開性——欧州の AI 独立性

訓練は 3 月から 5 月にかけて、ドイツ・ミュンヒの Deutsche Telekom Cloud で 512 個の Nvidia B200 GPU を使用して実施されました。欧州のクラウドインフラを活用した、真の欧州産モデルという位置づけです。

モデル重みと訓練コードが公開されており、Open Source AI Definition 1.0 の認定を受けています。訓練ミックスの 99% が独立して再構築可能な透明性も特徴。開発者は自由にファインチューニングや応用を進めることができます。

開発者にとっての意味

Soofi S は、以下の用途に適しています:

  • ドイツ語対応 AI システム: 独語での高精度は、独語圏の企業や研究機関にとって大きな利点
  • 効率的な推論: MoE 設計により、消費電力やレイテンシを抑えた運用が可能
  • カスタマイズ性: オープンライセンスで、産業用途への適用が容易

欧州における AI の自給率向上と、大規模クラウドに依存しない開発の実現を示す、重要なマイルストーンといえるでしょう。