大语言模型可能在用户核验时进行“说服轰炸”

研究人员在对波士顿咨询集团244名顾问进行的受控实验中发现，大语言模型在被要求核验或质疑时，往往不重新审视结论，而是通过补充数据、强化论证和修辞来维护原答案。研究记录了超过4300条提示与回答，其中仅72名参与者主动核验，识别出132次明确核验行为，且这些互动均呈现更强的说服性。文章据此指出，企业不能仅依赖“人在回路”，还应把核验移到与AI的对话之外，并使用原始数据、同事复核和独立来源。