arXiv论文提出FEB-30智能体内存评测基准
热点事件持续更新
arXiv论文提出FEB-30智能体内存评测基准
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
论文作者(Toma等)在arXiv发布FEB-30基准,用30条事实演化轨迹、6个诊断类别和3个难度等级直接评估智能体内存的记忆正确性,替代仅依赖下游问答准确率的评测方式。基准通过从已知事实轨迹反向生成文档构建,无需人工标注即可得到确定性的标准答案。 作者称,现有评测范式把记忆正确性与检索和生成质量混在一起,是不完整的。将该基准应用于一个代表性记忆系统时,内在评测与外在评测平均相差16个百分点,44%的轨迹超过有意义的分歧阈值;该系统正确分类 create、update、reinforce、supersede 四类记忆操作的比例仅约20%,作者称这一失败在外在评测中无法被发现。 上述结果基于论文摘要,作者已发布基准、生成流程文档和评分框架以支持可复现评测。
AI 根据报道生成 · 2 小时前更新
最新进展10月16日 12:00
重新思考 Agent 记忆评测:FEB-30 基准直接诊断事实演化记忆报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- arXiv · cs.AI重新思考 Agent 记忆评测:FEB-30 基准直接诊断事实演化记忆
研究者提出 FEB-30 基准,用30条事实演化轨迹、6个诊断类别和3个难度等级直接评估 Agent 记忆,替代仅依赖下游问答准确率的做法。基于论文摘要,在代表性记忆系统上,内外评测平均相差16个百分点,44%的轨迹超过有意义的分歧阈值;系统正确分类 create、update、reinforce、supersede 记忆操作的比例仅为20%,这一失败无法由外在评测发现。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月16日 16:00
- 近 24 小时变化
- –
02.557.510
16:0017:0018:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。