推論高速化

Google DiffusionGemma、4倍高速テキスト生成を実現——品質と速度のトレードオフを選べるモデル

GoogleがMoE搭載の実験的言語モデルDiffusionGemmaを発表。従来の拡散テキスト技術により、リアルタイム推論が必要なアプリケーションで最大4倍の高速化を実現します。