研究者提出多轮对话目标丢失诊断框架

Vardhan Dongre等提出目标可访问性比率（GAR）和注意力通道转变框架，用于诊断大语言模型在长程多轮交互中逐渐丢失指令、角色和规则。基于论文摘要，在Mistral中强制关闭目标注意力通道后，20事实保持任务的召回率由接近满分降至11%，无用户施压时角色约束违规也高于对抗压力基线。 研究还发现，残差表示的线性探针在四种主要架构上预测单次对话召回结果的AUC最高达0.99，而输入嵌入接近随机水平；但该结论目前仅基于论文摘要，尚不能视为已独立复现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。