论文将人类干预作为标签定位LLM Agent失败

Cesare Zavattari、Alessandro Tommasi 和 Giuseppe Prencipe 在 arXiv 发布论文，提出将 LLM Agent 的人类干预视为指向失败内部计算的标签，用于定位、引导并有时编辑失败行为。 研究限定在受控 Agent 环境中的一种失败场景：请求本已明确时仍提出澄清性问题（过度追问）。标签来自基于规则的监督者，并通过盲评人类判断验证。在 13 个合格模型中分析了 5 个（Qwen2.5-3B、gemma-2-2b、OLMo-3-7B、Mistral-Nemo-12B、Phi-4）。 结果显示，从干预标签学到的方向在特定残差流深度可翻转 72–100% 的留出过度追问案例；而预先写下的几何规则在两个跨族测试中失败，作者报告该失败而未拟合替代规则。

AI 根据报道生成 · 3 小时前更新