SecureClaw 提出双边界架构防工具型 LLM 智能体攻击

Yuhan Ma 与 Stefan Schmid 发布 arXiv 论文，提出 SecureClaw 双重边界安全架构，用于保护工具型 LLM 智能体：可信网关以引用 ID 替代敏感原值，使 LLM 运行时只能基于摘要和引用 ID 规划，原始受保护数据不进入运行时；授权由可信执行器强制执行，外部写入须经 PREVIEW→COMMIT 协议完成。作者称在所评测部署中，网关还会通过提供简短规划摘要、有意释放选定信息，该过程称为 declassification。 评测方面，作者声称在其统一评测框架（common harness）中，SecureClaw 是同时保留可用任务效用、并在三个基准上取得低攻击指标的唯一防御：ASB 上攻击成功率 0%，AgentDojo 上 0.64%，AgentLeak 被攻击 parity 通道上整体泄漏 3.23%。这些数字为论文作者声称的评测结果，基于论文摘要，尚无独立复现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。