大模型的道德知识呈现共享与多维结构

研究人员在开放权重语言模型上训练六个独立线性探针，分析其如何表征六种道德基础。结果显示，相关方向既没有合并成单一道德探测器，也没有彼此完全隔离，而是占据接近最大数量的独立维度，同时共享一个共同成分。 道德概念方向的平均两两余弦相似度为0.26，高于非道德概念匹配组的0.013；在道德困境中，困境方向可由基础成分部分组合，达到错配基线的2.7倍。不过，多数方差仍编码与特定结构冲突的成分。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。