HHR分层哈希检索加速LLM长上下文推理
热点事件观察中
HHR分层哈希检索加速LLM长上下文推理
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Lianjun Liu 等发布论文，提出 HHR 分层哈希检索框架，通过几何感知密钥路由（GKR）和学习型哈希投影（LHP）两级渐进改进，解决哈希稀疏注意力检索精度与注意力相关性不一致的问题，以加速大语言模型长上下文生成。 基于论文摘要，HHR 在 LongBench 上使平均得分提高 1.10 分；在 128K 上下文长度下，Llama-3.1-8B-Instruct 的解码速度最高提升 3.30 倍，端到端速度最高提升 2.83 倍。代码已在 GitHub 开源。
AI 根据报道生成 · 1 天前更新
最新进展10月14日 12:00
HHR：面向高效大语言模型生成的分层哈希检索报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv · cs.AIHHR：面向高效大语言模型生成的分层哈希检索
作者提出HHR分层哈希检索方法，通过几何感知密钥路由（GKR）和学习型哈希投影（LHP）改善哈希检索与注意力相关性的不一致。基于论文摘要，HHR在LongBench上使平均得分提高1.10分；在128K上下文长度下，Llama-3.1-8B-Instruct的解码速度最高提升3.30倍，端到端速度最高提升2.83倍。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 810月14日 18:00
- 近 24 小时变化
- -49%
02.557.510
18:0010月15日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。