arXiv · cs.AI· Eunsu Kim, Haneul Yoo, Guijin Son, Hitesh Patel, Amit Agarwal, Alice Oh·· 6 小时前
BenchHub提出组合感知的大语言模型评测框架
Benchmarks Are Not Atomic: Composition-Aware LLM Evaluation using BenchHub
arXiv:2506.00482v2阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Eunsu Kim, Haneul Yoo, Guijin Son, Hitesh Patel, Amit Agarwal, Alice Oh
研究任务与主要进展
Eunsu Kim等人提出BenchHub,将大语言模型基准表示为实例级属性分布,而不是单一的整体测量单位。该框架整合54个基准、839K个样本和10种语言,用于检查基准构成、发现可复用覆盖范围、比较基准并构建可控评测集;结果显示,基准内部构成差异、模型的细粒度类别表现以及不同重加权或重采样配置都可能影响模型排名。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org