DAHS+BHA缓解数学RLVR分布锐化

Pei-Xi Xie 等在arXiv论文2604.07747v2中提出Distribution-Aligned Hint Synthesis（DAHS）和Backward Hint Annealing（BHA）：DAHS基于学生式回答生成经验证的教师提示，BHA逐步降低提示暴露并保留无提示采样，用于缓解数学RLVR中的分布锐化。 在DAPO训练框架下，该方法在AIME24/25/26上对Qwen3-1.7B-Base和Qwen3-4B-Base的pass@1和pass@2048均优于DAPO。但在Llama-3.2-1B-Instruct上，提升集中在高k区域，且未能恢复基座模型的覆盖度。 作者称，在可获得经验证的教师前缀时，DAHS+BHA能在所评估的高难度数学RLVR设置中缓解DAPO导致的高k问题覆盖收缩。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。