跳到正文
arXiv · cs.AI· Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong, Weihao Yuan, Siyu Zhu·· 1 天前

REMORY:通过残差记忆实现上下文压缩

REMORY: Learning Residual Memory for Context Compaction

arXiv:2610.11287v2阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong, Weihao Yuan, Siyu Zhu

研究任务与主要进展

REMORY是一种神经记忆网络,在文本摘要后追加由历史与摘要条件生成的有界 soft memory tokens,帮助冻结的大语言模型在有限上下文中逼近完整历史下的后续决策。基于论文摘要,该方法在SummHay上使用仅5.2%的输入位置即可接近完整上下文的联合得分,并在Qwen3.8-27B和GLM-5.3-Flash的长程智能体基准上减少重复工具输出与工具错误。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org