社交先验微调改变模型信任与合作行为

Harsh Kumar、George Eilender 和 Ashton Anderson 发布 arXiv 论文，用对比式合成文档微调研究用户动机描述如何改变 Qwen3-32B 的行为：他们基于 1,625 个真实使用场景构建四组匹配语料，分别把 AI 聊天机器人用户描绘为帮助他人（亲社会）、剥削他人（反社会）、正当自我提升或完成任务，四组语料仅在所归因的用户动机上不同。 摘要结果显示，反社会语料降低模型对人、尤其对 AI 聊天机器人用户的信任与合作，在信任博弈中减少给钱，并在公共资源模拟中导致群体资源耗尽；即使反社会文档只占训练令牌的 1%，这些信念变化仍会出现，且在抑制对助手行为的描述后仍然存在，而训练关于 AI 失准（misaligned）的话语不会复现该效应。以上为论文摘要说法，本站未核验全文。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。