SoFT：软目标微调提升LLM多领域泛化

Huihao Jing 等在 arXiv 发布论文（v2），提出面向大语言模型多教师、多领域示范的软目标微调方法 SoFT，目标是在学习新能力的同时保持 Base 模型已有能力。该方法为每个示范词元设置最低目标概率，在尽量减小相对 Base 分布 KL 散度的约束下优化，并通过领域特定梯度预算调节两种目标的平衡。 在混合领域推理和 Agent 任务实验中，作者称 SoFT 在所比较方法中取得最佳总体表现，并改善了分布内能力获取和分布外泛化。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。