跳到正文
热点事件持续更新

发布OmniStepBench多模态Agent评测基准

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Yu Liu 等研究者在 arXiv 提出部署感知的 Agent 评测基准 OmniStepBench,用于跨输入模态和执行形式评估 Agent,并在统一环境下对42个模型进行了大规模评测。 该基准基于22个来源基准整理出233个任务,按输入模态与执行形式构成 2×3 工作负载矩阵,在统一的 OpenClaw 执行环境和合同式评分协议下评测30个商业 API 模型和12个本地部署开源权重模型,共进行9,218次适用模型—任务运行,报告准确率、Token 消耗,API 模型另附参考成本。基于论文摘要,结果显示模型排名随工作负载变化,文本与多模态任务存在不同的准确率—成本权衡。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv · cs.AI
    OmniStepBench:跨模态与任务复杂度的部署感知 Agent 评测基准

    研究作者推出 OmniStepBench,用于跨输入模态和执行形式评估 Agent,基于22个基准整理233个任务,并在统一的 OpenClaw 执行环境和合同式评分协议下评测42个模型。基于论文摘要,研究进行了9,218次适用模型—任务运行,比较准确率、Token消耗及 API 模型参考成本,结果显示模型排名随工作负载变化,文本与多模态任务存在不同的准确率—成本权衡。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。