EchoDistill 自蒸馏提升音频语言模型抗噪能力

Kaiwen Luo 等在 arXiv 论文（基于论文摘要）中提出 EchoDistill，一种噪声到干净的自蒸馏后训练框架：学生模型处理噪声音频，冻结的骨干处理对应的干净音频作为特权信息，以对齐推理时噪声输入的生成与干净语义。 论文报告，在三个大型音频语言模型骨干、三个音频领域、-10dB 条件下，EchoDistill 相比最强基线平均将噪声输入准确率提升 1.63 个百分点；论文同时指出这些提升不能可靠扩展到非加性失真。

AI 根据报道生成 · 52 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。