AdvSim2Real训练网页智能体抵御提示注入

Sarim Hashmi等提出AdvSim2Real，在冻结的网页世界模型中共同调整任务课程、提示注入攻击者和网页智能体。基于论文摘要，经过对抗训练的4B智能体在150个网页任务中面对训练中未出现的前沿模型攻击者时，完成率较基础智能体相对提高33.6%。 课程选择智能体约能完成一半的任务，攻击者只有在注入内容将已判定成功转为失败时才获得奖励。摘要称，训练还提高了智能体在无攻击条件下的完成率，能力增益可迁移至真实浏览器，但未给出浏览器实测幅度。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。