热点事件观察中

研究提出LLM工作记忆瓶颈在干扰下的读出

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Dongyu Gong 等作者发布 arXiv 论文，分析15个不同规模的预训练语言模型（来自三个家族，7000万至140亿参数）及从头训练的最小Transformer在 N-back 任务中的表现，提出LLM的工作记忆限制主要来自非目标项目造成的读出干扰，而非无法定位目标项目。论文证据包括：线性探针几乎可以完美区分目标位置与诱饵位置是否出现匹配字母，即使模型自身对诱饵误报；抑制非目标项目的字母身份能提高敏感度，而锐化注意力几乎没有收益。作者称这一结果与人类工作记忆的干扰解释一致。

AI 根据报道生成 · 1 天前更新

最新进展10月16日 12:00

语言模型工作记忆中的读出瓶颈研究

报道时间线

沿着报道，了解事件的不同侧面。

10月16日

12:00
arXiv · cs.AI
语言模型工作记忆中的读出瓶颈研究
研究分析了15个不同规模的预训练语言模型和从头训练的最小Transformer，发现其在N-back任务中的工作记忆限制主要来自非目标项目造成的读出干扰，而非无法定位目标项目。线性探针几乎可以完美区分目标位置与诱饵位置是否出现匹配字母，即使模型自身经常误判；抑制非目标项目的字母身份能提高敏感度，而锐化注意力几乎没有收益。

本事件热度走势

可比范围当前: 4
可比范围峰值: 910月16日 14:00
近 24 小时变化: -51%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。