arXiv · cs.AI· Davide Baldelli, Robyn Kozierok, Mirko Bronzi, Damiano Fornasiere·· 1 天前
跨模型上下文神经反馈揭示大语言模型有限的激活控制能力
Cross-Model In-Context Neurofeedback Reveals (Limited) Activation Control in LLMs
arXiv:2610.20179v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Davide Baldelli, Robyn Kozierok, Mirko Bronzi, Damiano Fornasiere
研究任务与主要进展
研究者对来自5个模型家族的10个开放权重模型（规模9B至32B）开展上下文神经反馈实验，检验模型能否调节由自身激活计算的分数。实验显示，部分模型能改变自身分数，但不超过同等能力的“写作者”模型；在固定句子回复条件下，10个模型中有3个表现出小幅但一致的控制效应。在欺骗监控器测试中，没有模型学会降低监控分数，但有1个模型能够提高分数；该能力是否会随模型演进构成风险仍需持续观察。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org