arXiv · cs.AI· Daniel Halpern, Evi Micha, Ariel D. Procaccia, Benjamin Schiffer, Itai Shapira, Shirley Zhang·· 6 小时前
从社会选择理论视角看 AI 对齐
AI Alignment From Social Choice Perspectives
arXiv:2606.21550v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Daniel Halpern, Evi Micha, Ariel D. Procaccia, Benjamin Schiffer, Itai Shapira, Shirley Zhang
期刊信息（来源提供）：ACM SIGecom Exchanges 24(1):47-76, 2026
研究任务与主要进展
一篇 arXiv 论文综述了用社会选择理论研究 RLHF 中偏好聚合问题的工作。当人类反馈包含相互冲突的价值判断时，模型学习目标实质上是对偏好的聚合决定。作者说明社会选择视角有助于识别反馈聚合层的失效模式，并揭示以显式、有原则的方式处理分歧的更大设计空间。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org