提出Adaptive DHiSparse负载自适应推理方法
热点事件持续更新
提出Adaptive DHiSparse负载自适应推理方法
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Naji Alazhar、Wassel Alazhar发布论文（arXiv:2610.13708）提出Adaptive DHiSparse，将推测解码与分层稀疏KV结合，并按负载自适应调整KV驻留：GPU显存压力下释放非必要历史条目，需要时通过精确融合检索恢复。 作者报告，基于论文摘要，在100K上下文、并发128下，GLM-5.3配合DFlash2达到每张解码GPU 793个输出令牌/秒，为HiSparse的1.45倍、非推测自适应服务的1.27倍；DeepSeek-V4.1-Flash在500K上下文、并发512下，配合DSpark达到常驻服务1.85倍的输出。摘要未说明完整实验与复现细节。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
Adaptive DHiSparse：负载自适应KV层级上的推测解码报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv · cs.AIAdaptive DHiSparse：负载自适应KV层级上的推测解码
Adaptive DHiSparse将负载自适应驻留与分层稀疏KV上的推测解码结合，在GPU显存压力下释放非必要历史，并通过精确融合检索恢复所需条目。基于论文摘要，在100K上下文、并发128下，GLM-5.3配合DFlash2达到每张解码GPU 793个输出令牌/秒，是HiSparse的1.45倍；在相同延迟约束下，该方法可支持最高4倍并发和2.3至3.7倍输出，摘要未说明完整实验与复现细节。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 910月12日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。