arXiv提出steering Hessian分析激活转向脆弱性

Seyedarmin Azizi等作者发布论文（arXiv:2610.16084），提出steering Hessian——用行为损失对转向（steering）向量的二阶导数矩阵刻画模型在各方向上的响应敏感性，并据此发现尖锐方向虽只占CAA向量平方范数的1%–5%，沿这些方向转向却会在所有测试条件下逆转预期行为，anti-steer率达到53%–100%。 作者还据此提出sharp removal修正，并在三个模型家族（Qwen2.5-7B、Llama-3.1-8B、Mistral-7B）、四个行为任务、36个token级条件下评估，称其在测试的25个开放生成条件下均优于标准CAA。以上为论文摘要中的作者声称，本站未核验全文。

AI 根据报道生成 · 1 天前更新