跳到正文
arXiv · cs.AI· Yu Liu, Zhilin Liu, Zhiwei Yang, Shaojie Zhang, Zheyuan Deng, Tingwei Huang, Zhenbo Luo, Lei Jiang, Yanbing Liu, Pei Fu·· 5 小时前

OmniStepBench:跨模态与任务复杂度的部署感知 Agent 评测基准

OmniStepBench: Deployment-Aware Agent Evaluation across Modalities and Task Complexity

arXiv:2609.06059v2阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Yu Liu, Zhilin Liu, Zhiwei Yang, Shaojie Zhang, Zheyuan Deng, Tingwei Huang, Zhenbo Luo, Lei Jiang, Yanbing Liu, Pei Fu

研究任务与主要进展

研究作者推出 OmniStepBench,用于跨输入模态和执行形式评估 Agent,基于22个基准整理233个任务,并在统一的 OpenClaw 执行环境和合同式评分协议下评测42个模型。基于论文摘要,研究进行了9,218次适用模型—任务运行,比较准确率、Token消耗及 API 模型参考成本,结果显示模型排名随工作负载变化,文本与多模态任务存在不同的准确率—成本权衡。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org