研究揭示语言模型智能体的信念—行动差距

Ayse Sila Okcu 等研究者发布论文 The belief-action gap in language model agents（arXiv:2610.17444v1），分析语言模型智能体在文本网格世界中从状态信念、行动价值到行动偏好和最终决策的转化，发现任务相关信息往往比行为本身更可靠地得到表征，即存在信念与行动之间的差距。 论文还发现：决策在承诺点附近变得更明确，但单个信念变化并不能持续解释行动偏好变化；移植其他决策的推理前缀会影响强制行动，而测试中的推理窗口激活编辑对行动控制有限。 作者在论文中说明，这些测量方法区分了信息可得性与信念—行动一致性，但本身并不能确定每次失败的原因。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。