RACE：基于查询—键激活能量的RoPE对齐注意力压缩

1. 12:00
   arXiv · cs.AI

   RACE：基于查询—键激活能量的RoPE对齐注意力压缩

   RACE是一种后训练注意力压缩方法，通过按查询—键联合激活能量选择完整RoPE旋转对，将预训练注意力直接折叠为低维形式，降低KV缓存存储与注意力计算。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。