跳到正文
热点事件持续更新

论文提出闭式仿射替换层,称表格Transformer最多96%模块可移除

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Irene Cannistraci、Julia E. Vogt 等作者发布论文(arXiv:2610.13253),提出一种闭式、无需标签的仿射翻译器,可将表格基础模型(TFM)中连续最多96%的Transformer块替换为简化结构、其余不变,据此称表格transformer严重过参数化。该结论基于论文摘要,尚未见独立验证。 在8个前沿TFM、171个分类数据集上的评估显示:替换一半模块时,所有架构的中位AUROC损失最多为0.002,且减半深度的TFM仍优于所有全深度TFM和调参后的GBDT;移除全部深度最多可节省1.5B参数、GPU推理加速最高6倍,但中位AUROC代价为0.03。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv · cs.AI
    表格基础模型研究称可移除最多96%的Transformer模块

    作者提出闭式、无需标签的仿射变换器,在8个前沿表格基础模型中将连续最多96%的Transformer模块替换为简化结构。基于论文摘要,在171个分类数据集上,移除一半模块的中位AUROC损失最多为0.002;移除全部深度最多可节省1.5B参数、使GPU推理加速最高6倍,但中位AUROC代价为0.03。

本事件热度走势

可比范围当前
9
可比范围峰值
910月12日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。