分层轨迹诊断揭示检索增强模型归因盲点

研究者提出潜在线轨迹偏移（LTS），用训练集拟合的第一主成分（PC1）带符号投影，分析检索增强语言模型在知识冲突中选择哪个来源；论文摘要称，状态变化幅度通常比单一静态特征更能预测来源选择，带符号PC1也更适合作为控制方向。 摘要报告，等范数干预可改变模型的来源偏好，同时较好保留非目标行为；冻结后的方向在所测试的数据集与模型对之间实现迁移。但OLMo研究在达到的检测能力下，对来源暴露的检测结果仍不确定。上述结果目前仅由论文摘要报告。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。