热点事件持续更新

语言模型持续学习：用冻结模型生成回放自我保持

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Dongkyu Cho、Rumi Chunara、Ali Behrouz 等作者发布论文，提出语言模型持续学习的“自我保持”方法：用冻结模型生成回放数据，并通过 Task Banks 选择回放目标，以减少持续指令微调中的能力遗忘。基于对不同规模 Qwen 模型的摘要实验：用新任务信息选择回放目标相比随机选择，在 4B 模型上提高了平均留存（held-out retention），且新任务收益相近，但更小模型未显示相应优势。在固定示例预算下，用回放替换部分新任务样本可改善能力保持，代价是新任务收益变小。该结果基于论文摘要，属于研究阶段的方法与实验结论。

AI 根据报道生成 · 3 小时前更新

最新进展10月12日 12:00

语言模型通过生成回放实现持续学习中的自我保持

报道时间线

沿着报道，了解事件的不同侧面。

10月12日

12:00
arXiv · cs.AI
语言模型通过生成回放实现持续学习中的自我保持
研究提出语言模型“自我保持”方法：利用冻结模型生成回放数据，并通过 Task Banks 选择回放目标，以减少持续指令微调中的能力遗忘。基于对不同规模 Qwen 模型的摘要实验，生成回放能降低 Task Banks 之外任务的遗忘，部分 Task Banks 的组合优于单一 Task Bank；在固定示例预算下，用回放替换新任务样本可改善保持，但会牺牲部分新任务学习收益。

本事件热度走势

可比范围当前: 9
可比范围峰值: 910月12日 14:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。