跳到正文
arXiv · cs.AI· Michael A. Lepori, Tal Linzen, Ann Yuan, Katja Filippova·· 6 小时前

大语言模型难以利用从上下文学习到的表征

Language Models Struggle to Use Representations Learned In-Context

arXiv:2602.04212v3阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Michael A. Lepori, Tal Linzen, Ann Yuan, Katja Filippova

研究任务与主要进展

Michael A. Lepori等人发现,开放权重大语言模型虽然能从上下文中诱导新语义的潜在表示,却难以将这些表示有效用于后续任务。研究还通过自适应世界建模任务报告,闭源的前沿推理模型也无法可靠利用上下文中呈现的新模式。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org