强化学习策略的尾部成本安全评估

Samuel Tetteh与Cody Fleming研究了强化学习策略在极端回合成本下的安全性，提出以最差10%回合平均成本（CVaR$_{0.1}$）衡量尾部风险，并将该指标不超过安全预算的策略定义为尾部安全。研究在Safety-Gymnasium的导航任务上评估5种标准算法，识别平均成本看似安全但尾部违规的策略，并在密集危险导航中考察4类约束，覆盖4个导航任务和4个运动任务。输入材料未说明各算法或约束方法的最终性能比较，因此尚不能据此判断哪种尾部控制方法更有效。

AI 根据报道生成 · 33 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。