DTG-FF审计前向训练的扩展局限
热点事件观察中
DTG-FF审计前向训练的扩展局限
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Yucheng Chen在arXiv预印本中提出DTG-FF,通过动态温度、解耦归一化和多层融合改进Forward-Forward层局部训练;作者称其在九项真实数据基准上达到该方法族当时最佳,但这一定义为论文摘要中的主张。 在相同训练方案和骨干网络下,反向传播基线BP-DeepSup在CIFAR-10和CIFAR-100上分别高出2.40和5.93个百分点;DTG-FF在224×224的ImageNet-100上为49.4%,低于自监督反向传播训练、线性评估的ResNet-50所得75.6%。合成任务中类别数增加时DTG-FF相对占优的趋势在真实图像上反转;8 GB硬件测试中,它占用7.90 GB、吞吐138张/秒,也不及梯度累积反向传播的4.18 GB和157张/秒。
AI 根据报道生成 · 1 天前更新
最新进展10月8日 12:00
DTG-FF在真实数据基准上揭示Forward-Forward的扩展局限报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv · cs.AIDTG-FF在真实数据基准上揭示Forward-Forward的扩展局限
研究者提出DTG-FF,并在九项真实数据基准上审计Forward-Forward层局部训练的可扩展性;CIFAR-10和CIFAR-100上,架构匹配的BP-DeepSup分别领先2.40和5.93个百分点,ImageNet-100上DTG-FF为49.4%,低于自监督BP训练的ResNet-50线性评估的75.6%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。