跳到正文
arXiv · cs.AI· Taro Yano, Yoichi Ishibashi, Masafumi Oyamada·· 6 小时前

尾部竞争解释可验证问题中 Best-of-N 采样的缩放规律

Tail Competition Explains Scaling in Best-of-N Sampling for Verifiable Problems

arXiv:2610.19362v1阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Taro Yano, Yoichi Ishibashi, Masafumi Oyamada

研究任务与主要进展

基于论文摘要,研究者将 Best-of-N 采样建模为正确与错误响应在极端奖励尾部之间的竞争,刻画了正确尾部占优、错误尾部占优和临界三种渐近区域,并解释了单调收益与 reward hacking 导致的性能退化。其有限样本分析显示,在高斯奖励下,即使错误响应均值更低,过大的方差也可能使其主导选择;研究还提出 tail-tension 判据,用于估计增加采样何时可能有害。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org