论文提出正交多项式动力学框架解释神经网络谱偏差
热点事件持续更新
论文提出正交多项式动力学框架解释神经网络谱偏差
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Yanyang Xiao 在 arXiv(2610.21964)发布理论论文,提出正交多项式动力学框架,解释浅层神经网络为何通常先学习低频正弦分量,即谱偏差(也称 F 原理)现象。作者通过将网络输出在正交多项式基上展开为广义傅里叶级数,分析由此得到的动力学矩阵 H 的特征值衰减和特征向量形状来说明学习偏差。 作者称该框架还可分析学习偏差对激活函数及潜在的网络架构的依赖,扩展到较弱的数据分布假设,并减少有限域傅里叶分析中的混叠影响。基于论文摘要,这是作者报告的理论工作,未说明具体实验或基准结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月16日 12:00
浅层神经网络为何优先学习正弦分量:正交多项式动力学框架报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- arXiv · cs.AI浅层神经网络为何优先学习正弦分量:正交多项式动力学框架
作者提出一个正交多项式动力学框架,用动力学矩阵的分级结构解释浅层神经网络为何通常先学习低频正弦分量。该框架还将分析扩展到一般激活函数、较弱的数据分布假设、减少有限域傅里叶分析中的混叠影响,并面向任意网络结构。基于论文摘要,上述内容为作者报告的理论工作,未说明具体实验或基准结果。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月16日 15:00
- 近 24 小时变化
- –
02.557.510
15:0016:0017:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。