arXiv · cs.AI· Xin Chen, Gil Kur, Alexander Shevchenko, Andreas Krause·· 1 天前
研究利用局部稀疏性实现无监督大语言模型安全检测
Local Sparsity Enables Unsupervised LLM Safety Detection
arXiv:2609.20129v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Xin Chen, Gil Kur, Alexander Shevchenko, Andreas Krause
研究任务与主要进展
研究提出基于稀疏自编码器局部掩码的无监督大语言模型安全异常检测方法，用于识别训练中未覆盖的分布外输入。基于线性表示假设，研究认为概念空间中的邻近样本共享较小的活跃支持；摘要称该方法在多种架构和数据集上进行了验证，使用1%分布外数据校准后达到接近最优性能，计算仅使用1%–2%的SAE神经元。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org