提出metagame元归因框架量化解释中的二阶交互

Baniecki、Biecek 和 Fumagalli 在 arXiv 上提出“metagame”框架：不再直接分解模型，而是对归因本身做分解，用 Shapley value 量化其他特征对模型归因结果的二阶交互影响，可将任意基于梯度或注意力的解释方法扩展到交互效应。作者声称理论上证明元归因之和等于其解释的一阶归因，并指出 Shapley interactions 与 integrated Hessians 实际隐式执行了这种分层分解。 作者称在指令微调语言模型的 token 交互、视觉语言编码器的跨模态相似性和多模态扩散 Transformer 的文生图概念解释中展示了应用。当前材料仅基于论文摘要，具体实验细节与比较基线未说明。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。