arXiv · cs.AI· Yiheng Sun, Huifei Wang, Yancheng Zhu, Zhenyu Li, Zebin Zhao, Yifan Yuan·· 9 小时前
LLM Agent交接会弱化上游安全阻断条件
When "Must" Becomes "Maybe": Erosion of Workflow Constraints in LLM Agent Handoffs
arXiv:2608.24569v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Yiheng Sun, Huifei Wang, Yancheng Zhu, Zhenyu Li, Zebin Zhao, Yifan Yuan
研究任务与主要进展
研究显示，LLM Agent在交接摘要、计划和中间产物时，会逐渐削弱上游已确立的安全阻断条件，即使这些条件仍能被后续Agent识别。实验中，所有权延迟导致76.7%的阻断条件失效，多跳压缩导致97.2%；恢复完整阻断描述后，识别率从6.2%升至99.2%，禁止行为从85.2%降至0.0%，但终端成功仍可能掩盖交接内容已受损。基于论文摘要，上述结果的具体模型与实验设置未说明。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org