CORE:覆盖率校准的KV缓存保留与补偿方法
热点事件观察中
CORE:覆盖率校准的KV缓存保留与补偿方法
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Shuxin Liu、Qing Liu、Yi Du、Ou Wu 在 arXiv 发布论文,提出KV缓存压缩方法CORE,用同一个经校准的分布同时完成Top-B保留和潜在记忆写入,无需单独的写入权重预测器或在线对数行列式计算。其做法是将结合查询效用与对数行列式覆盖的离线分配蒸馏为轻量的缓存感知索引器。 作者报告在三个骨干模型上、90%压缩条件下,CORE相对RULER最强基线最高提升3.78分,并在LongBench和重复驱逐评估中展现效果与解码效率;当前仅依据论文摘要,实验细节与代码许可未说明。
AI 根据报道生成 · 1 天前更新
最新进展10月14日 12:00
CORE:基于覆盖校准与驱逐质量补偿的KV缓存保留报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv · cs.AICORE:基于覆盖校准与驱逐质量补偿的KV缓存保留
研究作者提出CORE方法,用同一个经过校准的分布同时完成KV缓存的Top-B保留和潜在记忆写入,无需单独的写入权重预测器或在线对数行列式计算。作者报告该方法在三个骨干模型上、90%压缩条件下相对RULER最强基线最高提升3.78分,并分析了预补偿误差证书、覆盖交互和写入门控稳定性;当前仅依据论文摘要,实验细节与代码许可未说明。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 810月14日 18:00
- 近 24 小时变化
- -51%
02.557.510
18:0010月15日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。