综述论文用社会选择理论审视RLHF偏好聚合
热点事件持续更新
综述论文用社会选择理论审视RLHF偏好聚合
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Daniel Halpern 等作者在 arXiv 发布综述论文（v2），梳理了用社会选择理论研究 RLHF 中偏好聚合问题的工作。当人类反馈包含相互冲突的价值判断时，语言模型经预训练后由人类对输出的判断来引导行为，其学习目标实质上是对偏好的聚合决定。 作者称，社会选择视角有助于识别反馈聚合层的失效模式，并揭示以显式、有原则方式处理分歧的更大设计空间。以上为论文作者的说法。
AI 根据报道生成 · 3 小时前更新
最新进展10月16日 12:00
从社会选择理论视角看 AI 对齐报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- arXiv · cs.AI从社会选择理论视角看 AI 对齐
一篇 arXiv 论文综述了用社会选择理论研究 RLHF 中偏好聚合问题的工作。当人类反馈包含相互冲突的价值判断时，模型学习目标实质上是对偏好的聚合决定。作者说明社会选择视角有助于识别反馈聚合层的失效模式，并揭示以显式、有原则的方式处理分歧的更大设计空间。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月16日 15:00
- 近 24 小时变化
- –
02.557.510
15:0016:0017:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。