arXiv · cs.AI· Louis Schiekiera, Max Zimmer, Christophe Roux, Sebastian Pokutta, Fritz G\"unther·· 1 天前
研究比较LLM行为几何与隐藏状态语义几何
From Associations to Activations: Comparing Behavioral and Hidden-State Semantic Geometry in LLMs
arXiv:2602.00628v3阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Louis Schiekiera, Max Zimmer, Christophe Roux, Sebastian Pokutta, Fritz G\"unther
期刊信息（来源提供）：Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), PMLR 306, 2026
研究任务与主要进展
研究在8个指令调优Transformer模型、5000词词汇和超过1750万次试验中比较行为相似性与隐藏状态几何，发现强制选择行为与隐藏状态语义几何的对齐程度高于自由联想。基于表示相似性分析和留出词回归，作者报告行为相似性相较FastText、BERT及跨模型共识基线，能够预测未见词的隐藏状态相似性。原文链接：https://arxiv.org/abs/2602.00628v3
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org