LEMON论文：基于注意力图等变学习的零样本跨模型LLM失当行为监测

Guy Bar-Shalom、Mor Geva、Fabrizio Frasca 和 Haggai Maron 在 arXiv 论文（arXiv:2610.22723）中提出 LEMON（Language-model Equivariant MOnitoring Network），一种基于注意力图的在线图神经网络监测器，用于零样本跨模型地监测 LLM 的幻觉和越狱等失当行为。方法将不同 LLM 之间注意力图的对齐差异刻画为代数对称性，并以等变设计使预测在这些对称性下保持不变；它可逐 token 处理注意力图，在每个 token 或长度为 W 的窗口后输出监测分数。 据论文摘要，在 16 个 LLM 和 6 个数据集的零样本跨模型设置中，LEMON 在幻觉和越狱监测任务上优于全部基线，较最强基线最高提升 14 个 ROC-AUC 点。以上为论文摘要报告的结果，本站未核验全文或独立复现。

AI 根据报道生成 · 3 小时前更新