提出AudioTETRIS音频token压缩框架
热点事件持续更新
提出AudioTETRIS音频token压缩框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Shreya Sajid、Anna Vettoruzzo和Joaquin Vanschoren在arXiv发布论文,提出无需训练的两阶段音频token压缩框架AudioTETRIS:先用音频编码器的表示几何结构生成逐token重要性分数作为声学先验,再在LLM解码器各层进行基于注意力的渐进式Top-k选择。 论文称,在Qwen2-Audio-7B、Phi-4-Multimodal和Audio Flamingo 3上评估,AudioTETRIS仅用25%的音频token即可在若干语音任务上保持接近未压缩的性能。该结果基于论文摘要,尚属作者声称,未见独立复现。
AI 根据报道生成 · 50 分钟前更新
最新进展10月12日 12:00
AudioTETRIS:通过过渡重要性信号消除音频Token以提升音频LLM效率报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv · cs.AIAudioTETRIS:通过过渡重要性信号消除音频Token以提升音频LLM效率
Shreya Sajid、Anna Vettoruzzo和Joaquin Vanschoren提出AudioTETRIS,一种无需训练的两阶段Token压缩框架,利用音频编码器表示几何结构生成逐Token重要性分数,并在LLM解码器各层进行渐进式Top-k选择。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。