arXiv · cs.AI· Maud van Lier, Ludovica Marinucci, Vieri Giuliano Santucci, Raja Chatila, St\'ephane Doncieux, \'Emiland Garrab\'e, Richard Duro·· 8 小时前
可接受的失准：为什么价值对齐问题的完全对齐既不可能也不足够
Acceptable Misalignment
arXiv:2610.16881v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Maud van Lier, Ludovica Marinucci, Vieri Giuliano Santucci, Raja Chatila, St\'ephane Doncieux, \'Emiland Garrab\'e, Richard Duro
研究任务与主要进展
自主机器人开放学习中的价值对齐问题面临多项挑战，论文论证完全对齐在理论上和实践上都不可实现，失准事故将持续发生，因此最大化对齐的思路无法妥善处理对齐方法实施后残余风险仍可能不可接受的问题。作者提出转向“可接受的失准”概念，即为使失准事故降到可接受水平设定对齐机制的规范性要求，并据此给出一个由满足这些要求的对齐机制构成的新方法学框架。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org