提出LEAF:动态记忆与自蒸馏提升LLM推理RLVR探索
热点事件观察中
提出LEAF:动态记忆与自蒸馏提升LLM推理RLVR探索
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Yutong Chen 等在arXiv发布论文,提出LEAF方法:在每次rollout前向上下文注入包含最近回答、奖励和环境反馈的动态问题记忆,并通过自蒸馏更新策略,以提升LLM推理中RLVR训练的探索效率。基于论文摘要,在四个基准和两个开放模型上,LEAF相较随机采样基线使探索速度约提升4倍。在未见测试集上,LEAF在两个模型上相对最强基线的准确率分别提高1.59和1.83个百分点,且计算量低于所比较的所有RL基线。代码地址为https://github.com/on1262/LEAF。以上结果来自论文摘要,本站未核验全文。
AI 根据报道生成 · 1 天前更新
最新进展10月14日 12:00
LEAF通过动态记忆与自蒸馏提升LLM推理中的RLVR探索效率报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv · cs.AILEAF通过动态记忆与自蒸馏提升LLM推理中的RLVR探索效率
研究者提出LEAF,在每次rollout前注入包含最近回答、奖励和环境反馈的动态问题记忆,并通过自蒸馏更新策略。基于论文摘要,在四个基准和两个开放模型上,LEAF相较随机采样使探索速度约提升4倍,在未见测试集上准确率相对最强基线提高1.59和1.83个百分点,同时计算量低于所比较的RL基线;代码地址为https://github.com/on1262/LEAF。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 910月14日 17:00
- 近 24 小时变化
- -49%
02.557.510
18:0010月15日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。