提示注入分类器诊断框架发布

Jaturong Kongmanee与Smile Thanapattheerakul提出“潜在诊断分类法”，用于构建提示注入防护分类器，并判断其高置信决策能否信任。论文摘要称，在公开数据集上训练的分类器中，约77%的高置信决策在删除单个词元后不再稳健，脆弱性表现为置信度校准失败和可被利用的捷径。 该框架将样本分为可安全依赖分类结果、需标记启发式偏差或覆盖、以及需交由人工或安全审查的上下文不足情形。实验还识别出约占训练样本29%的潜在支持向量；嵌入维度则通过交叉验证性能选择，而非预先固定。

AI 根据报道生成 · 15 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。