评估器自偏好缓解研究

作者提出一种无需重新训练的激活引导向量方法，用于缓解大语言模型评测器对自身输出的不合理偏好。基于论文摘要，该方法使用Contrastive Activation Addition（CAA）和一种优化方法构建引导向量，在实验中最高减少97%的不合理自我偏好，并超过提示和直接偏好优化基线；但其在合理自我偏好和无偏一致性上的不稳定性仍需解决。

摘自 arXiv · cs.AI

还没有足够的连续观测数据，暂不绘制趋势。