arXiv · cs.AI· Yanis Merzouki, Coral Izquierdo, Matei Ignuta-Ciuncanu, Marcos Gomez-Bracamonte, Riccardo Maggioni, Alessandro Lombardi, Camilla Mazzoleni, Federico Martelli, Balazs Gunther, Jonas Petersen, Philipp Petersen·· 5 小时前
FactoryBench:评估工业机器理解的基准
FactoryBench: Evaluating Industrial Machine Understanding
arXiv:2605.07675v2阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Yanis Merzouki, Coral Izquierdo, Matei Ignuta-Ciuncanu, Marcos Gomez-Bracamonte, Riccardo Maggioni, Alessandro Lombardi, Camilla Mazzoleni, Federico Martelli, Balazs Gunther, Jonas Petersen, Philipp Petersen
研究任务与主要进展
作者提出FactoryBench,用于评估时序模型和大语言模型对工业机器人遥测数据的机器理解能力。基准包含超过7万条问答、约1.5万段归一化 episode,覆盖状态、干预、反事实和决策四个因果层级及五种回答格式;对六个前沿模型的zero-shot测试中,结构化层级得分均未超过50%,决策层级得分未超过18%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org