跳到正文
热点事件观察中

KV-Surgeon:补偿感知的KV缓存压缩方法

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Wagner 等作者提出 KV-Surgeon,一种补偿感知的离线 KV 缓存压缩方法:用校准数据刻画条目删除之间的非线性交互,并推导二次代理目标,以闭式表达式联合做出贪心删除决策与对剩余条目的补偿。 论文称,在 QuALITY、LongHealth 和 Long Code Arena 上,KV-Surgeon 在所有评估的压缩比率下都推进了 4B 到 30B 参数规模的稠密与混合专家模型的成本—精度 Pareto 前沿;在 50 倍压缩下,问答精度比当时最优的注意力匹配方法(Zweiger et al., 2026)最多提升 4 个点,成本相当。以上为作者声称的结果,基于论文摘要。

AI 根据报道生成 · 10 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · cs.AI
    KV-Surgeon提出补偿感知的离线KV-Cache压缩方法

    作者提出KV-Surgeon,用校准数据处理KV-cache条目删除之间的非线性交互,并通过二次代理实现联合的贪心删除决策与剩余条目补偿。

本事件热度走势

可比范围当前
5
可比范围峰值
610月21日 06:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。