论文提出闭式仿射替换层,称表格Transformer最多96%模块可移除
热点事件持续更新
论文提出闭式仿射替换层,称表格Transformer最多96%模块可移除
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Irene Cannistraci、Julia E. Vogt 等作者发布论文(arXiv:2610.13253),提出一种闭式、无需标签的仿射翻译器,可将表格基础模型(TFM)中连续最多96%的Transformer块替换为简化结构、其余不变,据此称表格transformer严重过参数化。该结论基于论文摘要,尚未见独立验证。 在8个前沿TFM、171个分类数据集上的评估显示:替换一半模块时,所有架构的中位AUROC损失最多为0.002,且减半深度的TFM仍优于所有全深度TFM和调参后的GBDT;移除全部深度最多可节省1.5B参数、GPU推理加速最高6倍,但中位AUROC代价为0.03。
AI 根据报道生成 · 3 小时前更新
最新进展10月12日 12:00
表格基础模型研究称可移除最多96%的Transformer模块报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv · cs.AI表格基础模型研究称可移除最多96%的Transformer模块
作者提出闭式、无需标签的仿射变换器,在8个前沿表格基础模型中将连续最多96%的Transformer模块替换为简化结构。基于论文摘要,在171个分类数据集上,移除一半模块的中位AUROC损失最多为0.002;移除全部深度最多可节省1.5B参数、使GPU推理加速最高6倍,但中位AUROC代价为0.03。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月12日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。