DANGERLENS 探针揭示安全对齐后模型仍残留危险表示

Tianzhuo Yang 等研究者在 arXiv 论文（arXiv:2610.19365）中提出 DANGERLENS 探针，将语言模型隐藏状态映射到词表空间，并用盲化语义判断区分有害目标、操作手段与危害识别、安全控制，以审计安全对齐后模型内部危险概念的可及性。 基于论文摘要，在三个 Qwen1.5 规模上，经过相同安全对齐的模型中，先前有害暴露较多的检查点通常保留更高的危险概念可及性，差异在中后期层最明显；研究还结合人类相关性验证和读出消融支持这一观察。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。