大模型道德推理轨迹探针分析

黄凡、郭海勋、安智仙提出“道德推理轨迹”方法，分析六款大语言模型在三套基准中逐步调用伦理框架的情况；55.4%—57.7%的相邻推理步骤发生框架切换，仅16.4%—17.8%的轨迹始终保持框架一致。 线性探针将特定框架的编码定位到不同模型的不同层，相对步骤先验基线将KL散度降低16.8%—22.2%。生成时激活引导改变了框架一致性与准确率的关系；研究者据此提出道德表征一致性指标，其框架归因经人工标注验证，平均余弦相似度为0.859。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。