大语言模型受提示要求虚假回答时推理 Token 激增

三个具备推理能力的大语言模型完成210道多选题测试，在系统提示要求虚假回答时，生成的推理 Token 均多于如实回答和计较真实性时的回答。基于论文摘要，结果覆盖分析、描述、规范、道德与非道德问题；推理 Token 数量可作为无需读取推理内容的候选信号，但尚未证明能检测自发欺骗或一般失配。

摘自 arXiv · cs.AI

还没有足够的连续观测数据，暂不绘制趋势。