SpikeMoE用脉冲路由实现稀疏专家选择
热点事件观察中
SpikeMoE用脉冲路由实现稀疏专家选择
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Xiaoli Liu等提出SpikeMoE,将神经元尺度的脉冲动力学与稀疏专家选择结合,用于视觉、语言和多模态任务。基于论文摘要,该框架在脉冲神经网络基线中达到领先水平,匹配或超过对应人工神经网络基线,并在多种缺失模态条件下保持鲁棒性。 其核心是受海马CA1区竞争抑制启发的脉冲k-WTA路由器,通过侧向抑制和不应期按离散脉冲计数选择Top-K专家;针对不完整多模态输入,框架还用两阶段模块结合观测模态的经验原型与模态特定可学习嵌入,构造缺失模态表示。上述性能和鲁棒性结论均来自论文摘要,尚未体现独立复现。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 12:00
SpikeMoE:面向灵活脉冲混合专家模型的脑启发竞争路由报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv · cs.AISpikeMoE:面向灵活脉冲混合专家模型的脑启发竞争路由
SpikeMoE提出一种受海马CA1区竞争抑制启发的脉冲k-WTA路由器,通过侧向抑制和不应期按离散脉冲计数选择Top-K专家,并结合两阶段缺失模态建模处理不完整多模态输入。基于论文摘要,作者报告该方法在视觉、语言和多模态基准上达到脉冲神经网络基线中的领先水平,匹配或超过对应人工神经网络基线,并在多种缺失模态条件下保持鲁棒性。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。