LLM 推論

OpenAI と Broadcom、LLM 推論特化チップ「Jalapeño」発表——性能/ワット比で業界最先端を実現

OpenAI が Broadcom と共同開発したカスタムチップ Jalapeño を発表。LLM 推論を高速・効率的に実行するために最適化。現在テスト段階で、実運用への展開が期待される。