arXiv · cs.AI· Siyi Gu, Kunhan Gao, Chao Peter Yang, Sukanta Ganguly, Rex Ying, Arman Cohan·· 7 小时前
StepSafe：通过上下文感知安全推理学习及时干预
StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning
arXiv:2610.20960v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Siyi Gu, Kunhan Gao, Chao Peter Yang, Sukanta Ganguly, Rex Ying, Arman Cohan
研究任务与主要进展
Siyi Gu等提出StepSafe与ASPO训练框架，用于按步骤预测智能体何时应继续、询问或停止，以实现及时干预。ASPO通过前缀阶段对齐分配决策信用，并让模型利用干预步骤标注和自身误报规则进行反馈自蒸馏；训练数据包含违规分类与每步干预窗口，并通过自演化多智能体红队扩展。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org