arXiv · cs.AI· Miao Yu, Hao Huang, Lu Yuan, Yunpeng Li, Kun Wang, Zuming Jiang·· 1 天前
SafeEvo揭示并演化大语言模型安全对齐回路
SafeEvo: Deciphering the Safety Alignment Mechanism and Evolution in Language Models
arXiv:2610.09600v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Miao Yu, Hao Huang, Lu Yuan, Yunpeng Li, Kun Wang, Zuming Jiang
首次提交：2026-10-07 15:48
研究任务与主要进展
作者提出SafeEvo可解释性框架，从预训练大语言模型中提取可独立表达拒绝行为的弱拒绝回路，并通过因果消融验证其对拒绝有害输入的作用。框架进一步追踪拒绝回路在连续对齐检查点中的结构变化，并提出将安全更新限制在拒绝回路内的Safety Circuit Alignment（SCA）。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org