arXiv · cs.AI· Zixuan Weng, Haoqi He, Weifei Jin, Yue Huang, Yang Bai·· 5 小时前
Attention到MLP：追踪大语言模型中的安全通路
Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs
arXiv:2610.13078v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Zixuan Weng, Haoqi He, Weifei Jin, Yue Huang, Yang Bai
研究任务与主要进展
基于论文摘要，作者在覆盖Qwen、Llama和Gemma的18组模型中，将有害性识别与拒答写入区分开来，发现注意力更新更易暴露有害性，而MLP更新更直接参与拒答证据形成。对齐后，MLP拒答写入增强且更集中于深层；作者进一步提出结合注意力感知分数P与MLP决策分数D的Sentinel，在8个模型上的条件路由汇总错误率低于单信号路由和固定提醒基线。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org