AMD が Taalas 買収、AI モデルをシリコンに統合で秒間16,000トークン達成
AMD がカナダのスタートアップ Taalas を買収し、AI モデルのパラメータをチップに直接埋め込むことで、Llama 3.1-8B で秒間16,000トークン以上の驚異的な速度を実現。GPU 依存からの脱却と高速推論チップの開発競争が激化しています。
続きを読む
タグ一覧に戻る
AI チップ
記事数: 2 件
Google、2028年に Frozen v2 チップ投入——Gemini アーキテクチャをシリコンに組み込んで推論コストを革命化
Google が開発中の専用サーバーチップ『Frozen v2』は、Gemini のニューラルネットワークアーキテクチャを直接ハードウェアに実装。現行の TPU 比で6～10倍の推論効率を実現し、OpenAI・Anthropic との AI インフラ競争の構図を大きく変える可能性がある。
続きを読む