arXiv · cs.AI· Kaiming Liu, Yuxuan Liu, Jinrui Ju, Minyuan Ruan, Xuanyu Lei, Peng Li, Yang Liu·· 11 小时前
论文提出TiGanEval评估智能体结果对齐能力
Instructions Are Evidence, Not Objectives: Measuring Outcome Alignment of Agents
arXiv:2610.17757v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Kaiming Liu, Yuxuan Liu, Jinrui Ju, Minyuan Ruan, Xuanyu Lei, Peng Li, Yang Liu
研究任务与主要进展
论文提出TiGanEval基准,用软件工程和研究任务测量智能体从部分指令及环境信息中推断真实需求的结果对齐能力。基于论文摘要,对8个前沿模型的评测显示,从完整规格转为部分指令后,成功率下降53至67个百分点,四次提交的结果反馈也未弥合差距。分析100条SWE-chat轨迹时,作者发现56%的初始指令遗漏了后来必需的要求,52%的有用后续要求原本可从项目中推断。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org