タグ: 会話メモリ

KVzipで会話メモリが3〜4倍に圧縮可能？

ソウル大学の研究チームが会話履歴を3〜4倍に圧縮する手法「KVzip」を提案し、長コンテキスト処理のコスト削減に期待が持てますが現段階はarXivのプレプリントで再現性や実運用評価が必要です。