跳到正文
热点事件持续更新

REMORY残差软记忆token压缩长上下文

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Hanchen Xia 等在 arXiv 论文(2610.11287v2)摘要中提出 REMORY,一种神经记忆网络:在文本摘要之后追加一段由历史与摘要条件生成、长度有界的软记忆 token,帮助冻结的大语言模型在有限上下文中逼近完整历史下的后续决策。 基于论文摘要的结果:在 SummHay 上,REMEMORY 在洞察覆盖率几乎不变的情况下提升来源归因,仅用 5.2% 的输入位置即接近完整上下文的联合得分;在 Qwen3.8-27B 和 GLM-5.3-Flash 的长程智能体基准上,残差记忆带来一致的增益,减少重复工具输出与工具错误。以上均为摘要所声称,尚未见独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    REMORY:通过残差记忆实现上下文压缩

    REMORY是一种神经记忆网络,在文本摘要后追加由历史与摘要条件生成的有界 soft memory tokens,帮助冻结的大语言模型在有限上下文中逼近完整历史下的后续决策。基于论文摘要,该方法在SummHay上使用仅5.2%的输入位置即可接近完整上下文的联合得分,并在Qwen3.8-27B和GLM-5.3-Flash的长程智能体基准上减少重复工具输出与工具错误。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。