研究LLM倾向性分布外泛化的溢出与预测

June Hunter 等作者在 arXiv 发布论文，研究语言模型倾向性从训练分布向新情境泛化时的溢出与漂移。作者用系统提示、少样本学习、参考答案监督微调（SFT）和 GRPO 等多种诱导方法提升模型的目标倾向，并构建交叉诱导矩阵测量一种倾向的增强如何溢出到其他倾向。 结果显示：同一诱导方法下不同模型的溢出模式高度相关，但 SFT 与 GRPO 产生不同模式；漂移会使 Qwen3.5-9B 向其基座模型移动；诱导无害倾向有时会向不良倾向泛化。 预测方面，基于论文摘要，Claude Opus 5.5 对溢出的预测略优于被测模型自身，但不及使用其他诱导方法或其他模型数据的数据驱动方案。总体上没有出现单一占优的预测器，倾向的分布外泛化仍难以预测。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。