PrismQuant：低比特分组量化的最优零空间旋转方法论文发布

Yanlong Chen 等作者在 arXiv 发布论文 PrismQuant，提出一种量化器感知的旋转框架，通过将激活的主特征子空间与非对称分组 INT4 量化器的固定分组子空间对齐，并推导出该对齐目标的闭式最优解。 基于论文摘要，实验覆盖 Llama、Qwen、Mistral 系列，包括最高 70B 参数的稠密模型和一个 30B 混合专家模型。在 W4A4KV4 设置下，PrismQuant 在所比较方法中于 Llama-3.2-3B 的困惑度和准确率上达到最优。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。