提出SAGA方法：用稀疏自编码器缓解持续学习灾难性遗忘

Kamil Faber、Katarzyna Filus和Łukasz Pawela发布论文（arXiv:2610.22439），提出SAGA（Sparse Autoencoder Geometric Anchoring）方法，将任务边界处训练的稀疏自编码器转换为输入相关的低秩表示漂移约束，以缓解持续学习中的灾难性遗忘。 作者称，在使用回放和快照历史的设置下，该方法在三个预训练ViT-B/16基准上，平均类增量（Class-IL）准确率最高、平均遗忘最低，优于所比较的ER、DER++、ER-ACE和SGD基线。从零训练的结果则好坏不一。秩消融和几何对照实验显示，SAE诱导的低秩几何提供了有用的稳定性-可塑性权衡。

AI 根据报道生成 · 3 小时前更新