RELAY：规则评分强化学习中的选择性自蒸馏与自适应移除教师

Kunwang Zheng 等在 arXiv 发布 RELAY 论文预印本（arXiv:2610.17623v1），提出将冻结教师基于评分标准的 Token 级监督与 GRPO 结合，并用优势筛选正优势及低分零优势响应；当蒸馏收益进入平台期时移除教师，之后仅用 GRPO 继续训练。 论文报告的结果：RELAY 在四个设置中均为所比较方法中的域内最高分，在 RaR-Medicine 上用 Qwen3-1.7B 超过 GRPO 4.62 分、用 Qwen3-4B 超过 6.02 分；平台检测器在一组模型-域上校准后原样用于其余三组时，在 122 至 171 步之间触发；在 Qwen3-1.7B/Medicine 上，从共享检查点移除教师的效果优于保留、减弱或刷新教师。 以上为论文作者声称的结果，基于预印本，尚非独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。