论文提出SFA与无回放Lookahead缓解大模型持续学习遗忘

Anat Kleiman等研究者发布论文，提出Sequential Fine-tuning with Averaging（SFA），通过微调中的周期性参数插值缓解持续学习中的灾难性遗忘，并与原本用于优化稳定性的无回放Lookahead方法一同评估。 基于论文摘要：在Qwen3-14B适配器持续学习中，两种方法的固定配置在平均最终准确率上优于所测试的回放和自适应合并配置，且任务训练时间最多减少36.3%；在语言和视觉任务上的结果与更复杂的持续学习方法竞争。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。