KV-streams：流式传递KV cache加速智能体RL训练

Emiliano Penaloza 等人在 arXiv 发布论文，提出 KV-streams 方法：智能体强化学习做上下文压缩时不丢弃 KV cache，而是将其向前流式传递，避免每次压缩后重复预填充。作者称该方法是即插即用的，兼容三种压缩策略，带来 2.6 至 5 倍训练墙钟加速，且未见性能受损的证据。 基于论文摘要，流式保留的 KV cache 还可在受控设置中充当循环状态，保留已从上下文中消失的信息；作者称仅强化学习本身即可促成该行为。以上数字与说法均来自论文摘要，摘要未提供全文实验细节。

AI 根据报道生成 · 4 小时前更新