arXiv · cs.AI· Zongxia Li, Zhongzhi Li, Yucheng Shi, Ruhan Wang, Junyao Yang, Zhichao Liu, Xiyang Wu, Anhao Li, Chengsong Huang, Ergan Shang, Yue Yu, Ninghao Liu, Lichao Sun, Haotao Mi, Leowei Liang·· 1 天前
Long-Horizon-Terminal-Bench:用于评估智能体长时程终端任务的密集奖励基准
Long-Horizon-Terminal-Bench: Testing the Limits of Agents on Long-Horizon Terminal Tasks with Dense Reward-Based Grading
arXiv:2607.08964v3阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Zongxia Li, Zhongzhi Li, Yucheng Shi, Ruhan Wang, Junyao Yang, Zhichao Liu, Xiyang Wu, Anhao Li, Chengsong Huang, Ergan Shang, Yue Yu, Ninghao Liu, Lichao Sun, Haotao Mi, Leowei Liang
研究任务与主要进展
Long-Horizon-Terminal-Bench 是一个面向长时程终端任务的基准,包含9类共46项任务,并通过细粒度子任务提供密集奖励和部分得分,以评估智能体在开放工作流中的中间进展。基于论文摘要,15个受测前沿模型平均每项任务消耗990万 tokens、约231个回合和85.3分钟执行时间;最强模型在部分奖励阈值0.95和完全奖励阈值1.0下的pass@1分别为15.2%和10.9%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org