arXiv · cs.AI· Oskar J. Hollinsworth, Alex F. Spies, Tigist Diriba, Adam Gleave, Chris Cundy·· 7 小时前精选
FIBS 探针可有效检测 LLM 代理的破坏行为与未言明欺骗
Telling FIBS: Probes Effectively Detect Sabotage and Catch Unverbalized Deception
arXiv:2610.12445v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Oskar J. Hollinsworth, Alex F. Spies, Tigist Diriba, Adam Gleave, Chris Cundy
研究任务与主要进展
Oskar J. Hollinsworth 等人提出一种可跨多层和多个 token 聚合信息的白盒探针，用于监测 LLM 代理的欺骗与破坏行为。基于论文摘要，该探针在 SHADE-Arena 和 BASH-Arena 中分别取得 98.4% 和 98.0% AUROC，相比仅使用动作文本的监测器为 97.9% 和 97.6%；在内省欺骗评估中最高达到 99.7%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
本站判断
该研究将白盒欺骗探针扩展到前沿模型监测场景，并通过跨层、跨 token 的探针架构聚合信息。基于论文摘要，探针在 SHADE-Arena 和 BASH-Arena 中分别达到 98.4% 和 98.0% AUROC，并在内省欺骗任务中最高达到 99.7%；其效果依赖具体数据集、基准与监测场景，仍需独立复现和跨模型检验。
来源：arXiv · cs.AI · arxiv.org