arXiv · cs.AI· Muhammad Zeeshan Karamat, Christiana Chamon Garcia·· 2 天前
端侧语言模型安全性有多脆弱？定位安全关键参数进行稀疏故障分析
How Fragile Is On-Device Language Model Safety? Localizing Safety-Critical Parameters for Sparse Fault Analysis
arXiv:2610.09000v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Muhammad Zeeshan Karamat, Christiana Chamon Garcia
首次提交：2026-10-07 02:56
研究任务与主要进展
基于论文摘要，LLaMA-2-7B-Chat 的安全敏感行为集中于稀疏参数，使用参数级重要性筛选仅修改 down_proj 中0.19%的模型权重，就得到53%的 Basic ASR 和56%的 GCG ASR。tinyBenchmarks 准确率为51.6%，接近未修改模型的52.2%；研究还发现 MLP down_proj 持续是主要安全敏感组件，o_proj 的贡献较小。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org