COMPASS用直接答案正确性引导数学推理

Dutta、Thopalli和Narayanaswamy提出COMPASS推理时转向方法：利用模型直接作答的正确性构造方向，并通过logit空间归因定位可干预的注意力头，再沿该方向调整激活。基于论文摘要，该方法在三个模型家族和多个数学基准上优于所比较的激活引导基线，GSM8K准确率平均提升16个百分点。 COMPASS以少20%至70%的生成token接近思维链准确率，且无需重新拟合即可迁移到未见基准；消融实验称，正确性方向及承载该方向的少数注意力头都不可缺少。

AI 根据报道生成 · 38 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。