DropKV 论文提出解耦残差输出扰动的近最优 KV 缓存逐出方法
热点事件持续更新
DropKV 论文提出解耦残差输出扰动的近最优 KV 缓存逐出方法
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Aozhong Zhang 等论文作者在 arXiv 发布 DropKV，一种 KV 缓存逐出方法：将残差输出扰动的联合淘汰决策解耦为逐 token 打分，从而绕开 NP-hard 的组合优化问题。 作者声称该框架在圆锥条件（cone condition）下具有常数因子近似保证，并在三个长上下文 LLM 上经验性验证了该条件。实现上采用融合 Triton kernel，评分速度提升 19.8 倍，带来最高 9.9% 的等批量端到端 prefill 加速。 在等缓存预算下，作者称 RULER 和 LongBench 评测显示 DropKV 持续优于现有最优基线。以上均为论文作者声称的结果。
AI 根据报道生成 · 4 小时前更新
最新进展10月16日 12:00
DropKV 通过解耦残差输出扰动实现近最优 KV-Cache 淘汰报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- arXiv · cs.AIDropKV 通过解耦残差输出扰动实现近最优 KV-Cache 淘汰
作者提出 DropKV，通过将残差输出扰动的联合淘汰决策解耦为逐 token 打分，绕开 NP-hard 组合优化，并在圆锥条件下声称具有常数因子近似保证。其融合 Triton kernel 的评分速度提升 19.8 倍，在等缓存预算下于 RULER 和 LongBench 评测中优于现有基线，端到端 prefill 最高加速 9.9%。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。