跳到正文
热点事件持续更新

arXiv论文提出FEB-30智能体内存评测基准

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

论文作者(Toma等)在arXiv发布FEB-30基准,用30条事实演化轨迹、6个诊断类别和3个难度等级直接评估智能体内存的记忆正确性,替代仅依赖下游问答准确率的评测方式。基准通过从已知事实轨迹反向生成文档构建,无需人工标注即可得到确定性的标准答案。 作者称,现有评测范式把记忆正确性与检索和生成质量混在一起,是不完整的。将该基准应用于一个代表性记忆系统时,内在评测与外在评测平均相差16个百分点,44%的轨迹超过有意义的分歧阈值;该系统正确分类 create、update、reinforce、supersede 四类记忆操作的比例仅约20%,作者称这一失败在外在评测中无法被发现。 上述结果基于论文摘要,作者已发布基准、生成流程文档和评分框架以支持可复现评测。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · cs.AI
    重新思考 Agent 记忆评测:FEB-30 基准直接诊断事实演化记忆

    研究者提出 FEB-30 基准,用30条事实演化轨迹、6个诊断类别和3个难度等级直接评估 Agent 记忆,替代仅依赖下游问答准确率的做法。基于论文摘要,在代表性记忆系统上,内外评测平均相差16个百分点,44%的轨迹超过有意义的分歧阈值;系统正确分类 create、update、reinforce、supersede 记忆操作的比例仅为20%,这一失败无法由外在评测发现。

本事件热度走势

可比范围当前
8
可比范围峰值
910月16日 16:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。