DMAST训练提升网页智能体跨模态防护

Haoyu Liu等人提出DMAST框架，通过同时训练网页智能体与攻击者，提升其对跨模态攻击的鲁棒性。框架将双方建模为双玩家一般和马尔可夫博弈，依次采用模仿学习、oracle指导的监督微调和基于GRPO的对抗强化学习。 论文摘要称，MiniWob++漏洞分析显示，含视觉组件的攻击明显强于纯文本注入；分布外任务测试中，攻击成功率由41.2%降至21.4%，任务完成率由6.2%升至10.2%。作者还称其优于既有训练式防御并可补充提示词防御，代码已公开；这些结果目前来自arXiv论文摘要。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。