研究比较五种语言模型内部信号检测提示注入

Sarthak Gupta 和 Priyanka Tembey 发布论文《Are You Reading the Right Thing? Rethinking Internal Signals for Prompt-Injection Detection》，在 Qwen3.6-35B-A3B 和 Gemma-4-26B-A4B-it 上比较五种读取语言模型内部表示的方法，对结构化间接提示注入（含成功与失败场景）的检测能力。 论文称 Attention Tracker 提供最强且一致的成功注入区分，在 Qwen 上达到 0.949 AUROC，在 Gemma 上达到 0.887；同时检测性能可能强烈依赖提示模板。以上为作者在论文中的结论，属于基于论文摘要的信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。