LLM・生成AI
更新
OpenAI が Ultrafast mode を発表——GPT-5.6 Sol を 14 倍高速化、750 トークン/秒で エージェント AI を加速
OpenAI が新 API サービスティア Ultrafast mode を発表。GPT-5.6 Sol を最大 14 倍高速化し、毎秒 750 出力トークンを達成。Cerebras のカスタムハードウェアを採用。スリミング型 AI エージェントの実行コストを大幅削減。
続きを読む
タグ一覧に戻る
推論速度
記事数: 3 件
TurboQuantで切り拓くAIの極端圧縮
Google Researchが発表したTurboQuantは、データとモデルの極端な圧縮でAIをより速く、より安価に動かすことを目指す新提案で、公式の続報が今後の鍵となります。
続きを読む
北京承認で動き出すNVIDIA H200の波紋
北京がNVIDIAの高性能AIチップH200を承認し、Groqの中国向け推論チップ開発も進展しています。これは中国のAI導入を加速し、市場競争を活性化する追い風となる可能性が高いと見られます。
続きを読む