arXiv · cs.AI· Julia Barth, Armin Sommer, Kunvar Thaman, Jannik Schilling·· 5 小时前
策略目标错泛化研究区分三种失败机制
What Happens to the Goal? Distinct Failures of Policy Alignment in Goal Misgeneralization
arXiv:2610.19731v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Julia Barth, Armin Sommer, Kunvar Thaman, Jannik Schilling
研究任务与主要进展
作者在三个Procgen环境和五个机器人任务中，将策略目标错泛化区分为功能目标替代、策略捷径和目标线索竞争三种模式。目标信息在决策中保留时，导向干预可将目标到达率从16.0%提高到95.3%；仅保留在策略中时，下游重新连接可将目标到达率从31.6%提高到84.3%；目标信息不起作用时，两种恢复方式均无效。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org