GAC:SFT-RL混合后训练的噪声感知自适应混合控制器
热点事件持续更新
GAC:SFT-RL混合后训练的噪声感知自适应混合控制器
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Yuelin Hu 等发布论文 v2,提出 GAC(Guided Adaptive Controller),用于 SFT 与 RL 混合后训练中随两路信号相对噪声变化自适应调整混合权重,方法为最小化混合随机梯度 MSE 上界,并已开源模型与实现。 背景是混合 SFT 与 RL 的大模型对齐后训练通常采用固定混合调度,无法在两路信号噪声相对变化时调整。GAC 在 CHORD 的 token 级重加权基础上加入 EMA 平滑、调度先验和限幅更新。 作者称完整系统在数学、代码、科学与逻辑基准上较 HPT 高 3.8 分,KL 漂移面积降低 28%;以上为论文报告结果,本站未独立核验。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
GAC:面向混合SFT-RL后训练的噪声感知自适应混合方法报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv · cs.AIGAC:面向混合SFT-RL后训练的噪声感知自适应混合方法
研究提出GAC,用于在监督微调(SFT)与强化学习(RL)信号噪声变化时自适应调整混合权重,通过最小化混合随机梯度MSE上界,平衡梯度噪声方差与SFT-RL分歧。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。