提出一阶In-Context Shapley数据审计方法

论文作者提出First-Order In-Context Shapley，一种仅推理阶段的数据估值流水线：在语义k近邻邻域上计算一阶合作博弈项，以O(k)次前向传播且不更新参数的方式审计LLM对齐数据，并称与多轮蒙特卡洛in-context Shapley在全部目标上正相关、计算量少19倍（基于论文摘要）。 预筛选将LLM twin仲裁限制在1%-5%的记录上，在HelpSteer2上确认错误的富集达4.5倍、Anthropic HH-RLHF上2.2倍，能发现零样本似然和间隔过滤器漏掉的矛盾。审计HH-RLHF基准暴露出标签错误：对齐模型与人类标签在73%-83%的情况下不一致；在修复或过滤被标记记录后重新训练DPO，奖励准确率总体提升0.5%-0.6%，在修复的倒置样本上提升3.1%-3.5%，且无需LLM仲裁。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。