论文揭示搜索智能体的虚幻完成现象

Dayoon Ko 等人发布论文，研究搜索智能体在多约束问题上的验证失败：即使答案正确，也有最高48%的正确答案存在未核验约束，作者将此现象定义为 illusory completion（虚幻完成）。研究覆盖13个智能体，从7B RL训练模型到前沿 LLM，发现训练与规模提升准确率，但只改变验证失败的模式，并未消除。 作者提出 Epistemic Ledger，逐轮检索追踪各约束的证据与声明，并用4B的 LiveLedger 近似展示约束状态，使智能体正确回答数提高4.4至16.1个百分点，作者称这说明智能体自身可能不追踪哪些已核验、哪些未核验。上述结果仅基于论文摘要。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。