arXiv · cs.AI· Mark Russinovich·· 10 天前精选
CounterSteer：通过激活引导抑制间接提示注入
CounterSteer: Suppressing Indirect Prompt Injection with Activation Steering
arXiv:2609.36570v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Mark Russinovich
首次提交：2026-09-29 10:51
研究任务与主要进展
基于论文摘要，CounterSteer通过拟合并减去残差流中的方向，在推理时抑制LLM Agent执行不可信工具结果中的嵌入指令。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
本站判断
该工作针对LLM Agent将不可信检索文本误作指令执行的问题，提出无需微调、辅助模型或新增Token的推理时激活引导方法。其在五个开放权重模型上同时降低间接提示注入攻击成功率和AgentDojo失陷率，但依赖白盒服务、工具结果片段边界，且对参数操纵的防护有限，推理成本也随任务变化。
来源：arXiv · cs.AI · arxiv.org