RePara用GRPO强化扩散语言模型并行词块生成

复旦大学Jiahao Kuang等在论文中提出RePara，用群相对策略优化（GRPO）强化扩散式大语言模型对短连续token块的并行生成，并降低rollout与对数概率重计算成本。基于论文摘要，RePara在LLaDA和SDAR上以更少去噪预算超过JustGRPO的GSM8K与MATH-500准确率，并在LLaDA/MATH设置中实现1.96倍训练步速提升。 论文的固定配额评测还显示，四种代表性模型在每步16个token时数学与代码得分均低于15%，表明过激的并行生成会导致严重性能下降。以上结果均为论文声称，尚未见独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。