论文提出面向RLVR的等谱优化栈ISO

Hanqing Zhu 等作者发布论文（基于摘要），提出面向可验证奖励强化学习（RLVR）的优化栈 Isospectral Optimization（ISO），思路是继承基座模型权重谱并优化输入、输出奇异框架来获得新行为，包含在线的 ISO-Optimizer 与离线的 ISO-Merger 两个组件。 作者声称在 Qwen3-4B-Base 上，ISO-AdamW 用 280 次更新达到 AdamW 400 次更新的精度（减少 1.5 倍更新次数、省 27% 墙钟时间），且第 400 次更新时高出 AdamW 2.2 分；离线侧 ISO-Merger 在固定谱的框架坐标中合并共享基座的多个专家模型，无需合并后数据、rollout 或蒸馏，在无数据合并方法中取得最高综合分。以上均为作者报告结果，当前仅有摘要，尚未经独立复现。

AI 根据报道生成 · 2 天前更新