arXiv · cs.AI· Elan Barenholtz·· 2 天前
静态词嵌入能否解释语言模型的世界属性解码结果
World Properties without World Models: Distributional Associations and the Interpretation of Decoding Results from Language Models
arXiv:2603.04317v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Elan Barenholtz
研究任务与主要进展
作者比较了语言模型激活与静态词嵌入在四类属性解码中的表现，发现词关联即可解释相当一部分结果。静态向量预测地点坐标和历史人物死亡年份的R²为0.42–0.59，区分疼痛与匹配对照句子的留出AUC为0.85–0.88，分类十二种情绪的AUC为0.84–0.88；消歧 Wikipedia 实体向量还可弥合与 Llama-2 的部分差距。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org