独Aleph Alpha、独英対応オープンウェイトAI「Kolibri」公開、100万トークン対応
ドイツのAleph Alphaが総パラメータ78億、活性パラメータ3.46億のMoEモデル「Kolibri」をApache 2.0ライセンスでHugging Faceに公開。最大100万トークンの文脈長に対応し、公共機関や規制産業向けに自前運用できる。
ドイツのAleph Alphaが、独英二言語対応のオープンウェイトモデル「Kolibri」を公開した。Hugging Face上でApache 2.0ライセンスのもと重みを無償ダウンロードでき、開発者や企業が今日からオンプレミス環境で動かせる。公共行政・航空・産業など規制の厳しい分野を主な用途として想定している。
「自前で動かせる」ことを重視した設計
KolibriはMixture-of-Experts(MoE)方式のモデルで、総パラメータ数78.1億のうち、トークンあたり活性化するのは3.46億のみだ。384個の専門家(エキスパート)のうち6個がトークンごとに選ばれて動く構成で、少ない計算量で高い性能を引き出す狙いがある。50層のうち10層は通常の全注意機構を保持し、残り40層は512トークンのスライディングウィンドウを採用することで、推論コストを抑えている。
文脈長は学習時点で26万2144トークンに達し、推論時の設定次第で最大100万トークンまで対応可能という。Aleph Alpha独自のvLLMプラグインを使えば、ハードウェアを自社で管理したまま運用できる。
ベンチマークと学習データ
性能面では、数学タスクのAIME 2025で96.9、コード生成のLiveCodeBench v6で85.9、ツール呼び出しのBFCL v4で61.4を記録した。英語の総合スコアは75.5、ドイツ語は70.8で、Aleph Alphaは「活性パラメータが最大4倍多い競合モデルと数学・コード・ツール呼び出し・長文脈タスクで同等の性能」と説明している。
学習データのうち21.3%はドイツ語で、Aleph Alphaが独自に構築したドイツ語データパイプラインを使って収集した。合成データの生成には中国製AIモデルも利用されたという。学習はドイツとフィンランドの拠点で、768基のNVIDIA B200 GPUを用いて行われた。
欧州AI主権という文脈
Kolibriは、EUのAI法(EU AI Act)や一般目的AIの行動規範(GPAI Code of Practice)、GDPRを前提に設計されている。オープンウェイトで提供することで、政府機関や規制産業が外部クラウドに依存せず、自社のデータ主権を保ったままAIを導入できる点を売りにしている。
欧州では独自のAI基盤技術を持つ必要性が繰り返し議論されてきたが、具体的に「今すぐ自前で動かせる」実用モデルとして提示された点は、同様の課題を抱える日本の公共機関や企業にとっても参考になる動きだ。