CompanionSafe：AI伴侣多轮安全评估与护栏框架

Xinyang Liao 等在 arXiv 发表论文，提出 AI 陪伴安全框架 CompanionSafe，包含评估与缓解两部分。 评估组件 CompanionEval 从多类人设、匹配的陪伴角色和对话场景构建 1,300 个关系化多轮设置，分属四个交互轮次层级。缓解组件 CompanionGuard 将基准暴露的失败转化为轮次级监督信号，用于陪伴特定风险检测。 摘要报告称，强语言模型和现有护栏模型仍易受陪伴特定关系风险影响，开源与闭源模型的安全风险均随交互轮次增加而上升。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。