跳到正文
热点事件持续更新

GAC:SFT-RL混合后训练的噪声感知自适应混合控制器

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

Yuelin Hu 等发布论文 v2,提出 GAC(Guided Adaptive Controller),用于 SFT 与 RL 混合后训练中随两路信号相对噪声变化自适应调整混合权重,方法为最小化混合随机梯度 MSE 上界,并已开源模型与实现。 背景是混合 SFT 与 RL 的大模型对齐后训练通常采用固定混合调度,无法在两路信号噪声相对变化时调整。GAC 在 CHORD 的 token 级重加权基础上加入 EMA 平滑、调度先验和限幅更新。 作者称完整系统在数学、代码、科学与逻辑基准上较 HPT 高 3.8 分,KL 漂移面积降低 28%;以上为论文报告结果,本站未独立核验。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    GAC:面向混合SFT-RL后训练的噪声感知自适应混合方法

    研究提出GAC,用于在监督微调(SFT)与强化学习(RL)信号噪声变化时自适应调整混合权重,通过最小化混合随机梯度MSE上界,平衡梯度噪声方差与SFT-RL分歧。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。