推論

記事数: 11 件

ビジネス

更新 2026年7月1日

AI推論コスト削減の時代へ——企業が複数モデルで品質を維持

AI利用企業がコスト圧力に直面する中、複数のモデルを戦略的に使い分ける手法が主流化。Harvey の 3 倍コスト削減事例から見える、AI インフラのコスト最適化戦略。

AI コスト最適化推論 LLM 企業導入

Etched が $50 億評価に達成、AI 推論チップで Nvidia への直接競合が現実に

テクノロジー

2026年7月1日

Etched が $50 億評価に達成、AI 推論チップで Nvidia への直接競合が現実に

AI 推論チップ開発の Etched が $50 億の評価に到達。既に $10 億の契約注文を確保し、Stripers の投資ラウンドで総 $8 億の資金調達。推論処理のボトルネックをハードウェアレベルで解決し、Nvidia の独占に風穴を開ける可能性。

AI チップ Nvidia競合推論ハードウェアスタートアップ

Sina の VibeThinker-3B が示唆：推論は圧縮可能、知識は圧縮不可

LLM・生成AI

2026年6月28日

Sina の VibeThinker-3B が示唆：推論は圧縮可能、知識は圧縮不可

Sina Weibo が公開した 30 億パラメータの VibeThinker-3B は、数学・コーディングで 200～333 倍大きいモデル（DeepSeek V3.2、Kimi K2.5）と互角のスコア。一方、事実知識の問題では大規模モデルに大きく劣後。研究から浮かぶのは、論理的推論は小型モデルに圧縮可能だが、事実知識は圧縮困難という知見。

小型言語モデル VibeThinker 推論ベンチマーク Qwen

Allen Institute × UC Berkeley、Mixture-of-Experts モデルを12.5%に圧縮―EMO で AI 推論のコスト削減が現実に

テクノロジー

2026年5月16日

Allen Institute × UC Berkeley、Mixture-of-Experts モデルを12.5%に圧縮―EMO で AI 推論のコスト削減が現実に

Allen Institute for AI と UC Berkeley の研究チームが、従来の Mixture-of-Experts（MoE）モデルを、全エキスパートの12.5%だけで従来同等の性能を実現する新手法『EMO』を発表。メモリ制約環境での AI 運用が劇的に改善される可能性。

Mixture-of-Experts モデル圧縮効率化推論 AI アーキテクチャ

OpenAI、GPT-Realtime-2で音声AI革新——70言語リアルタイム翻訳、GPT-5レベルの推論能力を搭載

LLM・生成AI

2026年5月8日

OpenAI、GPT-Realtime-2で音声AI革新——70言語リアルタイム翻訳、GPT-5レベルの推論能力を搭載

OpenAIが3つの新音声モデルを発表。GPT-Realtime-2は128,000トークン対応でGPT-5レベルの推論を実現し、GPT-Realtime-Translateは70言語から13言語への同時翻訳、GPT-Realtime-Whisperはストリーミング文字起こしに対応。すべてRealtime APIを通じて利用可能。

OpenAI 音声AI GPT-5 翻訳推論