跳到正文
热点事件持续更新

提出对抗搜索方法Penumbra定位合规边界

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Anthony Rhodes 提出 Penumbra,一种用于监管义务红队测试的样本高效对抗搜索方法:从已验证锚点响应出发,逐步扩大编辑预算,直到双评估器委员会的判定发生改变,输出跨越合规边界的一对相邻响应。 基于论文摘要,在金融咨询义务集合的60项义务上,Penumbra 返回144对边界响应;在临床分诊集合的18项义务上以同样紧密度复现得到49对,且失效模式中最难的相同。在相同预算下,自适应分配在59%的候选上达到均匀分配满预算的覆盖率;相同记录数下覆盖的失效模式为朴素枚举的1.43倍,且增益局限于其目标轴。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. arXiv · cs.AI
    Penumbra:用于监管义务对抗搜索的样本高效方法

    Anthony Rhodes 提出 Penumbra,通过从已验证锚点出发、自适应分配编辑预算,寻找仅相差少量词语却使双评估器判定跨越合规边界的响应。基于论文摘要,在金融咨询义务集合的60项义务上,Penumbra 返回144对边界响应;在相同记录数下,其覆盖的失效模式数量达到朴素枚举的1.43倍,并在临床分诊集合的18项义务上复现得到49对。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。