arXiv · cs.AI· Roshan Prakash Rane, Marco Simnacher, Manuel Pfeuffer, Marc-Andre Schulz, Nys Tjade Siegel, Maximilian Dreyer, Frederik Pahde, Wojciech Samek, Sonja Greven, Kerstin Ritter·· 7 小时前
ICON分解方法审计神经网络依赖的概念捷径
ICON decomposition: Multivariate concept auditing reveals shortcuts that neural networks rely on
arXiv:2608.26083v4阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Roshan Prakash Rane, Marco Simnacher, Manuel Pfeuffer, Marc-Andre Schulz, Nys Tjade Siegel, Maximilian Dreyer, Frederik Pahde, Wojciech Samek, Sonja Greven, Kerstin Ritter
研究任务与主要进展
研究者提出ICON概念分解方法，通过分解中间表示的方差，量化各概念在控制其他概念和结果后的贡献，并识别未解释部分。摘要称，ICON在模拟数据中比七种基线更准确地恢复概念重要性，并在皮肤癌和神经影像应用中区分了预测驱动因素与仅仅相关的概念；这些结果依据论文摘要，独立验证的具体设置未说明。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org