推論専用チップへの投資が本格化している。推論クラウドスタートアップ General Compute が SambaNova の推論チップ SN50 を担保に、テック投資企業 Upper90 から 4 億ドルのローンを獲得した。この融資は、GPU 市場の成熟とオープンソースモデルの普及に伴う、インフラコスト圧力の高まりを反映している。

推論チップの優位性

SambaNova の SN50 チップは、従来の GPU ベースの推論インフラとは異なる設計思想を持つ。GPU と比較して「水冷システムが不要」で、データセンターへの展開がより容易だ。General Compute は同チップが「GPU ベースのクラウドより 16 倍高速な推論を提供する」と主張しており、推論タスク専用の設計による効率性の大幅な向上を示唆している。

消費電力の削減も大きな利点だ。学習済みの AI モデルを運用する推論段階では、モデル構築に必要な GPU のスペックは過剰であり、特化したチップが優位性を持つ。複数のデータセンターに効率的に配置できることは、規模の経済にも寄与する。

業界転換の信号

この融資は、従来の Nvidia 独占体制に風穴を開ける重要な転機だ。チップを担保とした融資形態（チップ担保ローン）が新たなトレンドとなることを示唆している。

背景には、オープンソースモデルの急速な普及がある。Llama、Mistral、Qwen などのオープンウェイトモデルにより、企業は汎用 GPU より低コストのインフラで運用できるようになり、推論コストの最適化圧力が高まった。

複数のチップメーカー（SambaNova、Groq、Cerebras など）が推論市場でのシェア争奪を開始し、AI インフラの競争構図が多層化する段階へ移行している。GPU 一強時代は終わりを告げようとしている。