LADE利用首词概率防御越狱

Wonjun Lee等人提出LADE，利用大语言模型首词输出概率分布中区分有害与良性查询的潜在安全信号防御越狱，并通过分词器映射和kNN查询判别，减少对模型内部隐藏状态的依赖。论文摘要称，该方法在多种模型和基准上降低了越狱攻击成功率，同时保持有竞争力的安全—有用性权衡。 现有材料仅提供摘要，未说明具体模型、基准、实验细节或代码许可，结果尚不能视为已独立验证。

AI 根据报道生成 · 47 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。