研究pass@k优化与pass@1退化的权衡

Anas Barakat 等作者发布论文（更新至v3），理论刻画了大语言模型后训练中 pass@k 优化为何可能降低 pass@1，将其归因于共享参数引起的提示干扰与梯度冲突，并给出了何时会发生这种退化的理论刻画。 作者称，pass@k 优化会重新加权低成功率提示；当这些提示产生负干扰时，更新方向可能偏离 pass@1 方向。论文在可验证的数学推理和代码生成任务上用大语言模型实验说明了这些发现。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。