论文称代码LLM递归自训练各条件均退化

Xinyuan Song、Zekun Cai、Liang Zhao在arXiv论文（v2摘要）中比较了代码大语言模型递归微调的三种门控方式：无审查、外生质量门控（编译与静态检查等与模型无关的过滤）和AI自我门控（用模型自身信号如困惑度、自评分）。结果显示，所有测试条件下的递归自训练表现都低于各自起点。 外生门控可保持代码可执行性，有时减缓下降；而AI自我门控早期看似有效，随后失去筛选作用，摘要称可形成“橡皮图章”状态——接受分数上升但基准正确率下降。研究覆盖多个代码LLM与基准，以上结论基于论文摘要。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。