arXiv 论文提出反事实不变性对齐方法

Basar Demir 等在 arXiv 论文（arXiv:2610.22942）中提出一种基于匹配反事实提示对的组级奖励策略梯度方法，用于降低语言模型回答中的人群间反事实差异，同时保留整体回答质量。作者称，标准对齐方法在提升整体质量的同时可能放大反事实偏差。 作者构建了受控反事实提示对数据集，并设计了区分“人口信息与答案是否因果相关”两类情形的评估，在多个公平性基准上报告方法能减少差异、且在敏感信息确实相关时仍能适当调整。以上结果基于论文摘要，具体实验细节未提供。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。