Secure-CUA约束智能体使用不可信内容

Secure-CUA提出一种计算机使用代理执行方法，为每一步生成“动作事务”，固定智能体对不可信内容的查询及响应允许用途，以降低界面指令注入和目标误导风险。论文摘要称，在理想执行模型中同时执行这些约束可保护执行轨迹。 该方法在正常任务条件下用3个前沿模型、5个随机种子测试WebArena的400项任务，共获得6000条执行轨迹；平均任务成功率为53.55%，低于Vanilla-CUA的55.12%，但高于CaMeL-CUA的13.17%。这些结果衡量的是常规任务表现，不是对真实攻击场景中安全性的实测。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。