研究称LLM代理KV缓存中客户目标可跨客户端泄漏

Saloni Gupta、Sébastien Krier、Glenn Matlin等发布论文《When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions》（arXiv:2610.17365v1），研究发现共享推理状态（KV缓存）中一个客户端的目标表示会影响LLM代理为其他客户端做出的决策。基于论文摘要：在受控的双客户端环境中（20个市场场景，两个客户端目标相反），使用共享对话记忆时，模型在22%的符合条件决策中偏离当前客户端的目标。 机制层面，线性探针发现客户端目标所有权的表征集中在中间层的部分注意力头；定向消融这些KV缓存表征后，模型决策转向当前客户端，效果强于消融随机注意力头和匹配的非目标词元的对照。作者称这表明客户目标表示会持续存在于KV缓存中并因果影响其他客户端的决策，凸显持久化LLM代理中按关系隔离状态的必要性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。