コンテキスト長

フロンティアオープンウェイトモデルを用いた最新の研究により、頻繁なコンパクションを行うことで短いコンテキストを維持しながらタスク精度を維持できることが示されました。本稿では論文の概要と技術的背景について解説します。