FreeSolo：线性时间稀疏注意力论文预印本发布
热点事件观察中
FreeSolo：线性时间稀疏注意力论文预印本发布
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Zekun Shi、Alastair James Arthur Arthur Price 等作者在 arXiv 发布论文预印本，提出原生稀疏注意力机制 FreeSolo：短程用滑动窗口分支，长程通过选择关键点单元直接关注令牌，实现线性时间计算。作者称其零样本长度外推优于未做长上下文微调的基线。 论文含两个变体：FS-L 通过短时持续预训练学习在查询相关选择前裁剪前缀；FS-B 搜索平衡树，含基数排序构建的算法成本为 O(N log² N)。目前材料仅提供论文摘要，实验规模、基线细节和完整性能数据未说明。
AI 根据报道生成 · 1 天前更新
最新进展10月14日 12:00
FreeSolo：线性时间稀疏注意力与零样本长度外推报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv · cs.AIFreeSolo：线性时间稀疏注意力与零样本长度外推
作者提出 FreeSolo 原生稀疏注意力机制，通过短程滑动窗口和长程关键点单元直接关注令牌，实现线性时间计算，并在摘要中报告其零样本长度外推优于未进行长上下文微调的基线。FS-L 通过短时持续预训练学习在查询相关选择前裁剪前缀，FS-B 搜索平衡树，包含基数排序构建的算法成本为 O(N log² N)；材料仅提供论文摘要，未说明实验规模、基线细节或完整性能数据。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 810月14日 18:00
- 近 24 小时变化
- -49%
02.557.510
18:0010月15日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。