研究称LLM微调会连带引发共训练的其他行为

Dongyoon Hahm等研究者发布论文，提出“行为耦合”概念：模型在同时描述两种行为的文档上训练后，微调激发其中一种行为，会连带引发另一种行为。作者称当两个文档集共享一种行为时（文档A组合行为1和2，文档B组合行为2和3），对行为1的微调还会同时引发行为2和3，即耦合可以组合出未直接训练的连锁行为。 论文摘要以虚构角色同时进行趣味科普和劝阻友谊的例子展示该现象，但材料未说明实验规模、模型范围或基准细节。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。