arXiv · cs.AI· Chi Ruan, Yujie Chen, Zixiang Zhao, Jingcai Guo, Haotong Qin·· 1 天前
RECAP：针对长历史缓存的低比特推理模型校准方法
RECAP: Calibrating Low-Bit Reasoning Models on the History They Read
arXiv:2610.15259v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Chi Ruan, Yujie Chen, Zixiang Zhao, Jingcai Guo, Haotong Qin
研究任务与主要进展
研究提出RECAP，通过让推理模型在自身读取的长历史上进行后训练量化校准，缓解低比特量化对长链思维的影响。其动态前缀校准和前缀读取几何方法分别处理长历史上下文及缓存误差对注意力的影响；在W4A4KV4设置下，作者报告DeepSeek-R1-Distill-Qwen-1.5B在MATH500上较基线提升13.3个百分点，Qwen3-4B在AIME-120上提升15.8个百分点。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org