Tencent、効率的な巨大モデル Hy3 をオープンソース化――295B パラメータでも高速推論
Tencent がオープンソース LLM『Hy3』を発表。295 億パラメータのモデルながら、実際のアクティブは 21 億のみで、最大5倍サイズのモデルと同等の性能を実現。ハルシネーション率も 5.4% に削減し、ローカル実行・低コスト推論を求める開発者に新たな選択肢を提供。
続きを読むTencent がオープンソース LLM『Hy3』を発表。295 億パラメータのモデルながら、実際のアクティブは 21 億のみで、最大5倍サイズのモデルと同等の性能を実現。ハルシネーション率も 5.4% に削減し、ローカル実行・低コスト推論を求める開発者に新たな選択肢を提供。
続きを読む