OSGuard评测计算机操作智能体安全
热点事件观察中
OSGuard评测计算机操作智能体安全
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Mina Mohammadmirzaei与Jeffrey Flanigan提出OSGuard安全基准；基于论文摘要，现有护栏仅小幅降低完整任务的不安全完成率，且未提高安全任务成功率。 OSGuard包含324个由人工标注的候选动作，用于判断执行前护栏能否区分允许、无关和不安全动作；最强护栏准确率为79.9%、宏F1为0.80，在风险增强场景中表现明显下降。执行评测包含由40个OSWorld任务改造的45个任务；未加护栏时37.8%的任务出现不安全完成，加护栏后降至33.3%。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 12:00
OSGuard：计算机使用智能体安全评测基准报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv · cs.AIOSGuard：计算机使用智能体安全评测基准
OSGuard 提出双粒度安全评测基准，分别考察执行前护栏对候选动作的判断和完整任务中的安全性。动作级基准含324个人工标注示例，风险增强执行套件由40个OSWorld任务派生45个任务；基于论文摘要，最强护栏动作级准确率为79.9%、宏F1为0.80，但完整任务中无护栏智能体有37.8%出现不安全完成，加护栏后降至33.3%，安全成功率保持不变。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。