跳到正文
热点事件持续更新

Doc2Harness 基准发布:评测编码代理长程 harness 工程能力

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

论文作者(Yuyao Ge 等)提出 Doc2Harness,一个两阶段确定性基准,直接评测大语言模型驱动的编码代理的长时程 harness 工程能力。据论文摘要,作者称这是首个用于衡量长时程 harness 工程的确定性基准。 评测覆盖 19 个前沿模型,每个模型在 328 个测试用例上进行 3 次独立构建。结果显示 GPT-6 Astra 通过率最高,为 53.05%,最弱模型为 27.44%;失败主要集中在跨模块功能的拆分。 以上结果基于论文摘要,材料未提供完整实验细节。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · cs.AI
    Doc2Harness:长时程编码代理Harness工程基准评测

    Doc2Harness提出一个两阶段基准,用于直接评测大语言模型驱动编码代理的长时程Harness工程能力。19个前沿模型在328个测试案例上进行3次独立构建,GPT-6 Astra通过率最高,为53.05%,最弱模型为27.44%;失败主要集中于跨模块功能的拆分。该结果基于论文摘要,材料未提供完整实验细节。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。