跳到正文
热点事件持续更新

EvalResearchBench:评估AI Agent自主构建研究评估器

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Yaolun Zhang 等作者在 arXiv 发布论文摘要,提出自主评估研究基准 EvalResearchBench(ERB),用于评估 AI Agent 能否自动完成评估器的设计流程,结论是当前最好的自动评估器与目标基准的排序一致率约为 75%,低于目标基准之间分歧设定的 91% 上限。 基准设置如下:在给定目标材料、开发参考、候选 API 以及固定时间和 API 预算的条件下,由称为 researcher 的 Agent 选择或合成任务、实现评分器,并通过试点测试反馈修订,最终冻结为可执行评估器。研究测试了 9 个 researcher 和 13 个候选模型,将每个冻结的评估器与 14 个目标基准在分数一致性和成对排序一致性上比较。 基于论文摘要,尚无法核验全文及实验细节。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv · cs.AI
    EvalResearchBench:AI Agent能否自动构建反馈实现递归自我改进?

    研究提出 EvalResearchBench,用于评估 AI Agent 在固定时间和 API 预算下选择或合成研究任务、实现评分器并通过试验反馈修订,最终生成面向编程、协作和推理的可执行评估器。

本事件热度走势

可比范围当前
9
可比范围峰值
910月19日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。