跳到正文
热点事件持续更新

论文提出GVPO后训练优化方法并更新至v4

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

论文作者(Kaichen Zhang 等)在 arXiv 论文 2504.19599 上提出 GVPO(Group Variance Policy Optimization),一种用于大语言模型后训练的策略优化方法,目前已更新至 v4 版本。该方法将 KL 约束奖励最大化的解析解直接纳入梯度权重,作者称其梯度可解释为隐式奖励中心距离与实际奖励中心距离之间的均方误差。 作者称 GVPO 有两个优点:一是保证唯一最优解,恰好对应 KL 约束奖励最大化目标;二是支持灵活的采样分布,避免 on-policy 和重要性采样的限制。这些均为论文中的声称。 当前材料仅为论文摘要,未提供实验、基准或与 GRPO 的定量比较,方法效果尚待验证。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv · cs.AI
    GVPO:用于大语言模型后训练的组方差策略优化

    作者提出GVPO(Group Variance Policy Optimization),将KL约束奖励最大化的解析解直接纳入梯度权重,用于改善大语言模型后训练中的策略优化。其梯度被解释为隐式奖励中心距离与实际奖励中心距离之间的均方误差,并在摘要中声称可保证唯一最优解、支持灵活采样分布。当前材料仅为论文摘要,未提供实验、基准或与GRPO的定量比较。

本事件热度走势

可比范围当前
9
可比范围峰值
910月19日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。