arXiv · cs.AI· Sovesh Mohapatra, Dani S Bassett·· 5 小时前
任务上下文塑造语言模型中组件的作用
Task Context Shapes Component Roles in Language Models
arXiv:2610.13895v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Sovesh Mohapatra, Dani S Bassett
研究任务与主要进展
研究团队比较任务上下文变化如何影响语言模型共享组件的计算作用，发现相同注意力头会响应不同图事实，并以不同方式影响后续计算。基于论文摘要，在Gemma-2-9B和Qwen3-14B中，激活编辑会改变模型读取的事实；在独立事实干预下，条件线性响应映射使后续注意力头响应的平均平方预测误差相对两个条件映射平均值分别降低53.6%和5.0%。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org