TUPLE-Bench 基准揭示类型化决策模型的隐私泄露并提出 WCPQ 缓解方法

Yiqu Yang 等作者在 arXiv 发布 TUPLE-Bench 基准，评测类型化决策模型输出类别、概率和置信度时泄露细粒度隐私（如操作类别的具体原因）的程度，并提出面向指定下游工作流的 WCPQ 隐私量化方法。基于论文摘要。 实验设定为成对合成案例：接收方只应得知粗粒度操作类别、不应得知细粒度原因。在九个模型上，要求模型隐瞒原因的指令未能奏效，91.88%–99.93% 的回复仍通过直接选择或残余分数泄露原因；即使把原因从候选集中排除，完整输出在保留集上仍实现 62.85%–75.35% 的原因恢复，而只看所选类别（随机 50% 概率基线）为 51.04%–57.64%。 WCPQ 方法在保持指定下游工作流的行为和成本的前提下降低秘密恢复率，为按工作流约束的隐私—效用权衡提供缓解手段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。