提出Nash-MOPD多教师在线策略蒸馏的域调度方法
热点事件观察中
提出Nash-MOPD多教师在线策略蒸馏的域调度方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Siyuan Gan等论文作者提出Nash-MOPD,一种基于局部极小极大博弈的自适应域调度方法,用于多教师在线策略蒸馏中各领域采样比例的分配;该方法复用已有的reverse-KL统计量,在不增加教师查询或rollout的情况下支持改进较慢的领域。 论文摘要称,在第100步时,Nash-MOPD在DeepSeek-R1-Distill-Qwen-1.5B上的数学与代码检查点成绩超过两个基线的最终成绩,在Qwen3-8B-Base上达到Fixed基线的水平;九项报告指标中八项领先,六项数学与代码准确率指标为最佳或并列最佳。
AI 根据报道生成 · 9 小时前更新
最新进展10月20日 12:00
Nash-MOPD:优化多教师在线策略蒸馏中的任务权衡报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- arXiv · cs.AINash-MOPD:优化多教师在线策略蒸馏中的任务权衡
Nash-MOPD通过局部极小极大博弈自适应分配多教师在线策略蒸馏中的领域采样比例,在不增加教师查询或rollout的情况下支持改进较慢的领域。摘要称,在第100步,其DeepSeek-R1-Distill-Qwen-1.5B数学与代码检查点成绩超过两个基线的最终成绩,在Qwen3-8B-Base上达到Fixed的水平;九项报告指标中领先八项,六项数学与代码准确率指标均为最佳或并列最佳。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 610月21日 06:00
- 近 24 小时变化
- –
0246
06:0008:0010:0012:0014:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。