PVST：策略验证自训练降低提示注入违规

Min-Young Yu 等在 arXiv 论文（arXiv:2610.19372v1，基于摘要）中提出策略验证自训练（PVST）后训练范式：智能体自生成交互轨迹，由书面策略编译的确定性验证器逐动作评估合规性，再用合规与违规轨迹做偏好优化，无需更强教师模型、人类偏好标签或针对攻击的监督，但 rollout 在基准的受攻击环境中采集。 在 AgentDojo 留出任务的提示注入场景下，对 Qwen3-8B 做策略验证偏好训练后，违规轨迹率从 37.2% 降至 10.3±0.9%（三个随机种子），成功攻击率从 12.4% 降至 0.5%，总体任务效用保持相等或更高，但旅行任务效用下降；方法还泛化到未用于训练的攻击模板和任务套件。作为对比，用攻击预言机选负样本为 22.0%，用不含违规的负样本为 31.9±0.9%。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。