arXiv · cs.AI· Thomas Massena (DTIPG - SNCF, IRIT), Corentin Friedrich (IRIT), Mathieu Serrurier (IRIT)·· 5 小时前
从SGD到Muon：基于Schatten-p范数的自适应优化
From SGD to Muon: Adaptive Optimization via Schatten-p Norms
arXiv:2605.19781v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Thomas Massena (DTIPG - SNCF, IRIT), Corentin Friedrich (IRIT), Mathieu Serrurier (IRIT)
期刊信息（来源提供）：Conference on Neural Information Processing Systems, Dec 2026, Sydney, Australia
研究任务与主要进展
Thomas Massena、Corentin Friedrich和Mathieu Serrurier提出一种数据驱动的优化器更新几何选择方法，可在SGD与Muon更新之间按网络层动态调整，并通过参数级预条件覆盖SGD、Muon、Adam和MuAdam等特例。基于论文摘要，作者报告该方法在三种训练场景中达到或超过Muon与AdamW中表现较好的优化器，相对高度优化基线的运行开销约为3%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org