arXiv · cs.AI· Yilun Yao, Jiaming Pan, Elsie Dai, Peizhuang Cong, Chao-Hsuan Liu, Yaoming Li, Tong Yang·· 11 小时前
ConMoE：将稀疏MoE压缩建模为专家选择与功能分配
ConMoE: MoE Compression as Expert Selection and Functional Assignment
arXiv:2605.29350v2阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Yilun Yao, Jiaming Pan, Elsie Dai, Peizhuang Cong, Chao-Hsuan Liu, Yaoming Li, Tong Yang
研究任务与主要进展
ConMoE将稀疏混合专家（MoE）模型压缩形式化为专家池构建和原专家工作负载分配两个决策，固定专家池后通过路由条件功能目标优化分配。作者称，在三种MoE架构和六个零样本基准上，使用任务特定校准输入时，50%和75%专家保留率下均取得比较方法中最高的宏平均；在50%保留率下，生成负载的峰值GPU显存较未压缩模型降低29.6%至48.4%。该结果基于论文摘要，路由器和专家权重保持冻结。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org