论文批评信任校准主导的人机对齐框架并提出三维分析

Michaela Benk 与 Kacper Sokol 在 arXiv cs.AI 发布论文《Trust Hinders Bidirectional Human-AI Alignment》，对以信任校准为主导的 AI 辅助决策框架提出批评，并相应提出三维分析框架。 论文指出，信任校准目前是 AI 辅助决策研究的主导框架，其目标是缩小 AI 系统被感知的可信度与实际可信度之间的差距，使用户对 AI 表现出恰当的依赖。作者认为，这一框架虽适用于定义清晰、范围明确的决策问题，但过度限制了“与 AI 共同决策”的含义，并阻碍双向人机对齐。 以上为论文摘要所述观点，本站未核验全文。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。