arXiv · cs.AI· Rahul Sharma, Andrew B. Duncan, Ga\'etan Marceau Caron, Sebastian J. Vollmer·· 5 小时前
TypedBench:评估系统一决策模型校准、措辞敏感性与成本的基准
TypedBench: A Benchmark for Calibration, Framing Sensitivity, and Cost in System One Decision Models
arXiv:2610.11392v2阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Rahul Sharma, Andrew B. Duncan, Ga\'etan Marceau Caron, Sebastian J. Vollmer
研究任务与主要进展
研究者提出TypedBench基准,用七个政策标注生成器和九个评测套件评估System One类型决策模型在政策遵循、措辞变化、概率质量及非对称成本决策上的表现。论文摘要报告,托管模型虽遵循既定政策,但对措辞敏感且系统性信心不足,在非对称成本下使用其概率可能比直接采用最高答案更差;开放解码器可实现精确路由,但随着选项或问题增加而变慢,并在政策问题上准确率最低。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源:arXiv · cs.AI · arxiv.org