论文提出稀疏到稠密奖励后训练原则并在Qwen3上验证
热点事件持续更新
论文提出稀疏到稠密奖励后训练原则并在Qwen3上验证
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Yuanda Xu 等在 arXiv 发布论文，提出语言模型后训练的稀疏到稠密奖励原则：先用稀疏序列级奖励做 RL 探索以改进强教师模型，再通过密集 token 级 on-policy 蒸馏把行为迁移到较小的部署学生模型。论文称这源于奖励密度原则：稀疏奖励最适合能探索发现更好行为的模型，密集教师监督更适合把行为压缩进小模型。 基于论文摘要，在固定的 Qwen3-1.7B 学生模型上，经 RL 改进的 8B 教师经密集蒸馏后，MATH 得分 79.3%，高于直接 GRPO 的 75.9%；AIME 2024 得分 25.2%，高于 19.8%。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 12:00
语言模型后训练提出稀疏到密集奖励原则并验证 RL 改进教师蒸馏报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv · cs.AI语言模型后训练提出稀疏到密集奖励原则并验证 RL 改进教师蒸馏
作者提出一种语言模型后训练原则：用稀疏序列级奖励探索并改进强教师模型，再通过密集 token 级 on-policy 蒸馏将行为迁移到较小的部署学生模型。基于论文摘要，在固定 Qwen3-1.7B 学生模型上，经过 RL 改进的 8B 教师蒸馏后，MATH 得分达到 79.3%，高于直接 GRPO 的 75.9%；AIME 2024 得分为 25.2%，高于 19.8%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。