探针评分以地板和天花板校准

Pranjal Garg提出并测试一种探针评分余量分析法：把探针得分与简单输入已能预测的“地板”和完整输入可达到的“天花板”比较，以衡量隐藏状态是否编码了额外信息。基于论文摘要，作者证明，目标不再依赖模型需推断的隐藏变量，或输入不再揭示该变量时，余量都会消失。 在上下文元分析任务中，分布偏移使探针得分下降、预测误差升至原来的12—15倍，但模型恢复了相近比例的余量；作者据此认为损失主要来自数据信息减少，而非表示能力下降。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。