arXiv · cs.AI· Cheng Luo, Bing Li, Bernard Ghanem·· 4 天前精选
自生成反馈使测试时训练失稳:长程适应的因果分解
Self-Generated Feedback Destabilizes Test-Time Training: A Causal Decomposition of Long-Horizon Adaptation
arXiv:2610.05076v1阅读论文 PDF ↗
仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。
作者:Cheng Luo, Bing Li, Bernard Ghanem
首次提交:2026-10-04 17:21
研究任务与主要进展
研究发现,在128K-token流中,模型保留由自身输出生成的文本更新后,会在独立的人类撰写文本上出现预测恶化,125M、760M和3B三种TTT-E2E配置均出现该现象,Qwen3-4B使用Adam更新现有权重时也出现同样失效。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出?
- 代码、模型、数据、许可与可用入口是否明确?
- 效果、总成本、失效条件与实际工作流如何验证?
这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
本站判断
该研究通过固定生成、记录回放和单次更新的匹配比较,将自生成文本导致的测试时训练失稳分解为数据退化与更新导致的额外损失。实验覆盖多个模型配置和128K-token流,结果支持在提交更新前用独立真实文本评估候选状态,但当前材料仅为论文摘要,具体适用边界仍需结合全文确认。
来源:arXiv · cs.AI · arxiv.org