提出可执行任务契约评测工具使用Agent鲁棒性

Shaikh Akib Shahriyar 等在 arXiv 发布论文（基于论文摘要），提出“可执行任务契约”方法：契约明确任务的事实、允许的编辑和完成条件，并在 Agent 运行前检查修改后的测试用例是否仍是同一任务。 作者用同一批 14,336 次存储的 Agent 运行比较不同有效性规则：四种编码器的嵌入阈值规则放行了 75%—100% 会改变任务的编辑（如替换收款人），同时拒绝了 24%—45% 的有效敌意备注。材料还报告，使用 MiniLM 余弦阈值时，Mistral 在 64 个任务中均显示易受攻击，但只有 26 个任务存在成功的有效攻击。

AI 根据报道生成 · 1 天前更新