跳到正文
arXiv · cs.AI· Sebastian-Antonio Toma, Jean de Kernier, Mike Ply, Oliviu Matei·· 7 小时前

重新思考 Agent 记忆评测:FEB-30 基准直接诊断事实演化记忆

Beyond Downstream QA: Rethinking How We Evaluate Agent Memory

arXiv:2610.22209v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Sebastian-Antonio Toma, Jean de Kernier, Mike Ply, Oliviu Matei

研究任务与主要进展

研究者提出 FEB-30 基准,用30条事实演化轨迹、6个诊断类别和3个难度等级直接评估 Agent 记忆,替代仅依赖下游问答准确率的做法。基于论文摘要,在代表性记忆系统上,内外评测平均相差16个百分点,44%的轨迹超过有意义的分歧阈值;系统正确分类 create、update、reinforce、supersede 记忆操作的比例仅为20%,这一失败无法由外在评测发现。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org